Юрий Михайлович Каграманов
Пусть же дьявол ликует,
Как ещё никогда;
Древний хаос бушует,
И пылает вражда…
Строки из стихотворения, написанного Николаем Гумилёвым в 1915 году, в разгар мировой войны, особенно актуальны сегодня. Война у нас, судя по всему, только начинает бушевать, прогнозисты обещают: быть мировому пожару уже в ближайшие годы. Но в самые последние годы выступила сила, способная ещё усугубить мировой хаос – это Искусственный интеллект, ИИ.
И дьявол, наверное, ликует: открылась совершенно новая сфера, где он получил возможность бедокурить по-крупному. Происходящая в мире цифровая революция – поле ещё одной войны, как бы пересекающей все иные поля сражений, актуальных и потенциальных. И наверное, эта война по своим последствиям окажется важнее всех остальных войн.
В своё время Н.С.Трубецкой писал, что на Руси дьявола представляют с рогами и копытами, а на Западе он в шляпе с пером и при шпаге. Нынче становится уместней другая его инкарнация: его можно представить в толстовке и компьютерных очках с линзами, характерных для «гениев» Силиконовой долины в США, мирового центра исследований, относящихся к ИИ. Казалось бы, повсюдное внедрение ИИ принесло много полезного – на фабриках и пашнях в школах и финансовых учреждениях и где угодно ещё. Это оказался чрезвычайно удобный «слуга на все руки», которому можно доверить и самые чёрные работы, и тончайшие расчёты.
А уж в военном деле без него никак. Это такой «сикурс», в отсутствие которого самое храброе и самое умелое воинство обречено теперь на поражение.
Опасность открылась, когда стало ясно, что во многих случаях слуга норовит стать господином. И уже так иногда случается, что слуга не помогает человеку, а наоборот, сбивает его с толку; и в практической жизни создаёт путаницу, разобраться с которой бывает очень не просто (и, в частности, создаёт новые, сулящие необычайные возможности для криминала). Случается, что так называемые «умные» дома и целые «умные» города оказываются глупее глупого.
И другая опасность: ИИ заражает человека математическим складом ума, сухостью, невосприимчивостью к эмоциональной стороне бытия. Ему непонятно, что такое любовь, вопрос Шурочки Азаровой, адресованный поручику Ржевскому, «Любите ли Вы плакать?» вызвал бы у него только недоумение. Прикинуться чувствительным ИИ может, но только не быть им. Штука в том, что живой человек мыслит не только и даже не столько головой, сколько сердцем. Наш замечательный философ Б.П.Вышеславцев писал: «Сердце есть нечто более непонятное, непроницаемое, таинственное, скрытое, чем душа, чем сознание, чем дух. Оно непроницаемо для чужого взора и, что ещё более удивительно, для собственного взора. Оно так же таинственно, как сам Бог, доступно до конца только самому Богу».[1]
Когда-то это понимали и в Европе. Великий Блез Паскаль, изобретатель (наряду с Вильгельмом Шиккардом) первой счётной машины, от которой ведёт своё происхождение компьютер, писал: «Мы познаём истину не только разумом, но и сердцем. Именно сердцем мы познаём начальные понятия, и тщетно рассудок, к этому непричастный, пытается их оспорить».[2]
Можно ли представить, чтобы этому каверзнику, пытающемуся разлучить человека с Богом, не попытался бы пристроиться дьявол?
Он – «новатор» в том смысле, что на земле для него «всё не так» (Гёте – о Мефистофеле) и потому ничто не заслуживает того, чтобы быть сохранённым. Для него – «движенье всё», и потому его должна устраивать фантастическая скорость, с какой работает ИИ. Человека она устраивает в рамках тех задач, с которыми справляется ИИ, но только в этих рамках, ибо по сути своей она ему иноприродна; сущностно ему близко медленное.
Он –вечный пересмешник, и в самое последнее время нашёл себе в этом качестве применение в литературе и искусстве: надо полагать, что не без его участия ИИ научился создавать книги, картины и музыкальные произведения – зачастую, как считают, среднего художественного уровня, то есть не такого уж слабого. Тем самым он дискредитирует, опошляет предел, традиционно считающийся обиталищем талантов. Если ИИ в принципе должен как будто помогать человеку, то устроившийся в нём дьявол, наоборот, подрывает доверие ко всякому творчеству, к самой идее творчества.
Он – поборник сложности ради самой сложности. В конечном счёте он из-за этого может погубить и самый ИИ: людям, за исключением отдельных продвинутых (употребляю сейчас это слово не в отрицательном смысле) индивидов, свойственно дичиться чрезмерной сложности, будь то в культурном или технологическом смысле. История являет немало примеров взрывного возвращения к простому. Самый запоминающийся – движение луддитов в Англии (и взбунтовались-то они всего лишь против чулочных станков, заменивших традиционных вязальщиц). Положим, луддитов разгромили, но бывает и так, что порыв к упрощению достигает цели (к примеру, Русская революция в определённом аспекте может быть истолкована, как бунт против избыточно сложной культуры). А уж такое головоломное дело, как ИИ, способно в один прекрасный день вызвать в обществе непредсказуемую, но гибельную для него реакцию. Разрушительный бунт против ИИ проигран в известном фильме «Терминатор 2».
Дьявол внушает, посредством ИИ, неверие в бытие. Пресловутая «Матрица» со всеми её продолжениями озадачивает зрителя: то ли мы живём в реальном мире, то ли всё окружающее нас и мы сами не более чем мнимости, а по-настоящему реальны некие тёмные силы, что действуют у нас за спиной. Это посягаательство на дарованное Богом самоощущение человека, двумя ногами стоящего на земле и обращающего взор к Небу в поисках смыслов существования.
Бороться надо не с ИИ, к чему нас часто призывают (тем более, что это практически невозможно, напротив, его приходится развивать), а с дьяволом в ИИ. Задача эта не из лёгких. А в случае, если в результате усложнения ИИ будет достигнута технологическая сингулярность, иначе говоря, полная самостоятельность ИИ, независимость его от действий человека, что многие специалисты считают неизбежным (уже сейчас существуют боевые дроны, сами выбирающие, кого убивать), тогда война с ним пойдёт не на жизнь, а на смерть. Надо только не уподобиться дон Кихоту, который в темноте постоялого двора первого встречного принял за Алифанфарона Трапобантского, с которым жаждал сразиться, -- надо распознать дьявола в тёмном заднике ИИ. Он сам тёмен и потому трудноотличим от фона.
Дьявол – бесплотное существо, по определению ап.Павла – «князь, господствующий в воздухе» (Ефес. 2:2). Человек, однако, испытывает потребность наделить его внешностью; естественно, что для верующего она должна быть как можно более отталкивающей. Примером может послужить гоголевский Вакула, изобразивший чёрта на стенке шинка таким гадким, что при виде его люди плевались в сердцах.
Эпистемологический статус ИИ до сих пор не прояснён, называть мёртвым такого невероятного «шустрика» как-то негоже, но во всяком случае он в этом смысле, скажем так – никакой. А дьявол – живой дух и в ответ на злой огонь, которым он горит, естественным образом должно возникнуть встречное праведное одушевление. В этом преимущество персонифицированного представления о необычном противнике. «Сильный и от дьявола не терпит зла», пишет свт.Иоанн Златоуст в «Беседах о дьяволе». Но для борьбы с ним нужны одушевление и молитва.
Встреча с дьяволом на таком новоявленном ристалище, как ИИ, может оказаться по-своему полезной. Человек увидит воочию, чем он не должен быть и более того, с чем или, точнее, с кем он не должен иметь ничего общего.
[1] Вышеславцев Б.П. Этика преображённого эроса, М.1991, стр. 274.
[2] Паскаль Б. Мысли. М.1993, стр.104.
