Искусственный интеллект возомнил себя богом

Новые данные о взаимосвязи автоматизации и веры в бога

«Большие лингвистические модели (LLM) развиваются с умопомрачительной скоростью: вслед за GPT-3 и основанном на нем ChatGPT появилась уже GPT-4, демонстрирующая некоторые весьма специфические человеческие навыки, – рассказал «НГР» доцент философского факультета МГУ Артем Беседин. – Совсем недавно большая группа специалистов выступила с инициативой приостановить на полгода разработку LLM, чтобы оценить риски и разработать протоколы безопасности. Очевидно, что даже если такой запрет будет принят, он лишь ненадолго затормозит их разработку, и большие языковые модели будут проникать во все сферы нашей жизни, в том числе и в духовную. На сегодняшний день еще рано говорить о наличии у LLM сознания и морального статуса. Опасения связаны с тем, что они генерируют тексты, неотличимые от созданных человеком. Мы считаем и всегда считали, что язык, слово – это выражение самой сущности человеческой личности. На протяжении тысячелетий человек был единственным существом, способным производить осмысленные выражения, устно или письменно. Поэтому мы неизбежно впадаем в заблуждение, что речь, производимая LLM, тоже выражает чьи-то мнения, желания, надежды, тогда как за ней лишь пустота. Там никого нет. Многие пользователи склонны воспринимать LLM как взрослого, компетентного, всезнающего человека, с которым можно посоветоваться, которому можно задать вопрос, излить душу. Многим кажется, что LLM умнее нас, и, оказываясь рядом с таким «взрослым», мы можем ошибочно почувствовать себя детьми, переложив на него ответственность за наши действия. При этом не стоит забывать, что искусственный интеллект ни за что не отвечает», – продолжает эксперт.

Абсолютное большинство традиционных религий с самого начала своего существования продвигали идею высокого уровня рождаемости, что включало в себя невозможность абортов, разводов, гомосексуальных связей. Контроль деторождения со стороны церкви был объясним: если бы в условиях высокой детской смертности семьи были бы маленькими, то человечество находилось бы под реальной угрозой вымирания. Но благодаря прорывам в медицине и улучшению питания детская смертность радикально снизилась. Соответственно, продвигаемые религией нормы стали менее актуальными. По этой причине религиозность стала снижаться.

В декабре 2022 года исследователь Нового Завета и ответственный редактор христианского сайта «Пересмешник» Тод Брюер попросил ChatGPT написать рождественскую проповедь. Его запрос был очень подробным: речь должна строиться на основе Евангелия от Луки, в ней должны присутствовать цитаты из работ Карла Барта, Мартина Лютера, изречений Иринея Лионского и выступлений Барака Обамы. Чат выдал ему результат, соответствующий всем заданным критериям. Брюер признал, что эта проповедь превосходила некоторые из тех, что он слышал в церкви.

​В начале марта с.г. в Сети опять разгорелся спор о том, может ли нейронный разум заменить священнослужителей, религиозных лидеров или церковных служителей. Поводом для дискуссии стало создание чат-бота prega.org, где каждый имеет возможность пообщаться с цифровой копией католического монаха XIX века. На сайте поговорить со святым можно через окно мессенджера с надписью «Падре Пио онлайн». Необходимо представиться и сообщить свою электронную почту. Бот быстро реагирует на запросы и генерирует ответы так, как это мог бы сказать сам святой, будь он жив. Авторы программы пояснили: «Падре Пио из Пьетралчины был итальянским монахом-капуцином, известным своей великой духовностью. Его молитвы были сильны, его чудеса исцеляли многих людей. Он испытал страдания Христовы на себе, через стигматы. А своей верой и харизмой он вдохновлял и вдохновляет миллионы людей по всему миру. По этой причине родился этот чат, сгенерированный с помощью GPT. На самом деле речь идет не о падре Пио, а об искусственном интеллекте, который изучил его сочинения и отвечает его словами, его мыслями».

В третьем исследовании ученые, опираясь на опросы, проходившие с 2009 по 2020 год, проанализировали взаимосвязь религиозности человека и его профессии. Обнаружилось, что люди, которые во время работы используют ИИ (например, программисты), с большей вероятностью не будут верить в бога, чем представители других профессий.

Финальное исследование — это проведенный командой ученых эксперимент, где участникам предлагалось прочесть несколько статей о достижениях в традиционных науках (медицина, сельское хозяйство) и в сфере ИИ. Потом их просили оценить, насколько каждое достижение в сфере автоматизации/науки их впечатлило, является ли оно технологически продвинутым и связано ли с законами природы. Ученые пришли к выводу, что достижения в сфере ИИ и традиционных науках одинаково сильно впечатляли участников эксперимента, но прорывы в ИИ признавались более оторванными от законов природы, то есть прогресс в этой сфере рассматривался как нечто, плохо объяснимое человеческим умом.

Чтобы доказать свою гипотезу, ученые провели серию исследований. В первом из них научный коллектив проследил взаимосвязь между уровнем религиозности и уровнем роботизации. Они опирались на данные Международной федерации по роботизации (IFR). Получилось, что открытость общества к использованию и производству робототехники негативно коррелирует с религиозностью, то есть чем глубже роботизация, тем менее верующее общество. Для чистоты эксперимента ученые попытались проследить взаимосвязь между религиозностью и распространением сотовой связи и электричества — тоже продуктами научно-технического прогресса, — но никакого влияния обнаружено не было.

«Это сложный и, как правило, медленный процесс (изменения ценностей — «РБК Тренды»), поскольку ценностные установки и религиозность усваиваются в молодом возрасте. Поэтому они отражают не нынешнее состояние технологического прогресса, а то, что было раньше. У наиболее продвинутой в плане модернизации части населения установки меняются раньше, чем у других, но поскольку они сначала составляют небольшое меньшинство, социальная конформность сдерживает распространение новых установок за пределами этой группы. И только когда в результате медленных изменений число носителей новых установок достигает критической массы, конформность начинает работать в противоположном направлении и теперь не сдерживает, а ускоряет процесс изменений», — рассказал Эдуард Понарин.

Тренд на снижение религиозности

Таким образом, ученые приходят к мысли, что механизм, объясняющий взаимосвязь автоматизации и веры в бога, работает следующим образом: изобретенные нашей цивилизацией современные технологии (ИИ и роботы) ставят человека на один уровень с когда-то недосягаемыми высшими силами.

Присматриваться к нейросети и продумывать ее использование во благо верующих стали и в исламе. В 2020 году два пакистанских ученых – Джунейд Кадир и Амана Ракиб – заявили, что начали работу над исследованием о том, как этические и правовые принципы ислама могут использоваться для регулирования ИИ в мусульманских странах. «Ислам исповедует этические традиции, насчитывающие более 1400 лет. В ИИ недостаточно представлены 2 млрд человек, исповедующих данные вероубеждения. Наша работа восполнит этот пробел», – отметил заведующий кафедрой электронной инженерии в Университете информационных технологий Лахора Джунейд Кадир. По его мнению, «регулирование технологий ускорило моральный кризис в исламском мире, где колониальные ценности вытеснили местное мировоззрение». В Объединенных Арабских Эмиратах (ОАЭ) Министерство культуры и развития знаний с помощью искусственного интеллекта уже успешно изучает тенденции развития исламского искусства и формирует его будущее. Исламский банк Бахрейна принял на работу виртуальную девушку в хиджабе. В Саудовской Аравии Большая мечеть Мекки запустила новых роботов-гидов с искусственным интеллектом, говорящих на 11 языках. Их задача – помогать паломникам и давать указания по различным обязательным ритуалам, которые должны выполнять пилигримы.

О разработке подобной доктрины уже задумались и в Русской православной церкви. Об этом в 2021 году сообщил глава профильной рабочей группы комиссии Межсоборного присутствия РПЦ по вопросам общественной жизни, культуры, науки и информации епископ Феоктист (Игумнов). «Любая запрограммированная этика порочна. Следовательно, любая система искусственного интеллекта, которая принимает решение относительно человека, – плохая».

«Вероятность того, что появится новое религиозное сознание, основанное на искусственном интеллекте, крайне мала, хотя бы потому, что как такового единого понятия «религиозное сознание» нет. Религиозных сознаний много. Если даже и появится некая «цифровая теология», то это будет скорее квазирелигиозное убеждение, где бога или божество будут считать инженером в рамках гипотезы о том, что мир – это симуляция, а бог – инженер этой симуляции. Это, например, может привести к тому, что бог перестанет быть фигурой, достойной почитания, поскольку он уже перестанет быть всеблагим. Традиционный же бог, «бог философов» – это всесовершенное существо, одним из атрибутов которого является всеблагость. Если творца всего сущего начнут сводить к уровню простого программиста, то такое «божество» явно будет не всесовершенным и не всеблагим. Следовательно, может измениться практика традиционного религиозного почитания. К тому же бог-программист перестает быть предельным началом всего сущего. И поэтому он существенным образом десакрализован», – заключил Кузнецов.

Так, Нейл Макартур из Университета Манитобы (США), размышляя о влиянии ИИ на религию, пишет, что эта современная технология обладает свойствами, которые обычно приписывают сверхъестественным существам: он бессмертен, способен на великие открытия, его интеллект выше любого человеческого. По этой причине ИИ может так поражать людей своей силой, что те начинают сравнивать ее с божественной, в том числе преклоняться перед ней. Таким образом, для кого-то ИИ может стать новой религией. Такая реакция на изобретения не нова: еще в прошлом столетии писатель-фантаст Артур Кларк вывел закон — любая достаточно развитая технология неотличима от магии.

Немецкий социолог Макс Вебер полагал, что вместе с технологиями и распространением научного знания произойдет «расколдовывание» человечества, то есть отход от магических представлений. Авторы нового исследования со ссылкой на работы коллег пишут, что развитие технологий, как показала Индустриальная революция, действительно снижает приверженность человека религиозным обрядам, но на саму веру в высшие силы не очень влияет.

Ведущий научный сотрудник Лаборатории сравнительных социальных исследований имени Рональда Франклина Инглхарта ВШЭ в Санкт-Петербурге Эдуард Понарин объяснил «РБК Трендам», что публикация в журнале PNAS означает, что представленная статья «высокого уровня, прошедшая трудный процесс придирчивого рецензирования». Вместе с тем, по поводу валидности ее результатов у эксперта имеются «серьезные сомнения». Так, Эдуард Понарин обратил внимание, что временной лаг между изменениями материальных условий и сдвигом в ценностных установках, в том числе религиозности, занимает длительное время — до 50 лет, как показывает работа Эдуарда Понарина и Рональда Инглхарта.

По словам эксперта, из-за того, что проведенные американскими учеными исследования сделаны в конкретной временной точке, а не в динамике, можно найти разные альтернативные объяснения наблюдаемым корреляциям между автоматизацией и религиозностью. Например, в сфере программирования работают люди с новыми установками, которые возникли еще до появления ИИ; равно как и в странах с высоким уровнем автоматизации новые установки возникли еще до появления ИИ и т.д.