Нейросеть и мышление клиентов

Татьяна Киселева

Присматриваться к нейросети и продумывать ее использование во благо верующих стали и в исламе. В 2020 году два пакистанских ученых – Джунейд Кадир и Амана Ракиб – заявили, что начали работу над исследованием о том, как этические и правовые принципы ислама могут использоваться для регулирования ИИ в мусульманских странах. «Ислам исповедует этические традиции, насчитывающие более 1400 лет. В ИИ недостаточно представлены 2 млрд человек, исповедующих данные вероубеждения. Наша работа восполнит этот пробел», – отметил заведующий кафедрой электронной инженерии в Университете информационных технологий Лахора Джунейд Кадир. По его мнению, «регулирование технологий ускорило моральный кризис в исламском мире, где колониальные ценности вытеснили местное мировоззрение». В Объединенных Арабских Эмиратах (ОАЭ) Министерство культуры и развития знаний с помощью искусственного интеллекта уже успешно изучает тенденции развития исламского искусства и формирует его будущее. Исламский банк Бахрейна принял на работу виртуальную девушку в хиджабе. В Саудовской Аравии Большая мечеть Мекки запустила новых роботов-гидов с искусственным интеллектом, говорящих на 11 языках. Их задача – помогать паломникам и давать указания по различным обязательным ритуалам, которые должны выполнять пилигримы.

К иудейскому празднику Песах, который будет отмечаться начиная с 6 апреля, художница из Израиля Дана Акерман Грин с помощью приложения искусственного интеллекта (ИИ) Midjourney сгенерировала серию картинок «Исход из Египта через селфи». На одной из них изображен пожилой мужчина, как бы снимающий переходящую море толпу за своей спиной. На другой – бородач примерно 40 лет (скорее всего пророк Моисей) на фоне горящего, но не сгорающего куста (неопалимой купины). По признанию художницы, чтобы добиться наибольшего правдоподобия изображений, ей пришлось сделать очень подробный запрос, состоящий как минимум из 17 пунктов.

Кстати, сам понтифик уже стал «жертвой» ИИ. В конце марта распространилась фотография папы Римского, на которой он – в белом длинном пуховике. Пользователи тут же стали тиражировать картинку по соцсетям, попутно хваля или критикуя стиль главы Католической церкви. При этом мало кого смутило, что на пальцах Бергольо красуются золотые кольца, которые он никогда не носит. Позже выяснилось, что нынешнее изображение Франциска не настоящее и его также создал искусственный интеллект. «Тот факт, что люди находят изображение папы Римского в длинном дутом жакете настоящим, является хорошим показателем того, что ИИ будет очень легко уничтожать человечество», – написал один из пользователей. На следующий день после демонстрации фотофейка папа Римский вновь призвал верующих к «этичному и ответственному использованию искусственного интеллекта».

Главное, чего опасаются сегодня священнослужители, – создания «Deus ex machina», то есть «Бога из машины». Эта реальность стала возможной после того, как бывший инженер Google Энтони Левандовски в 2015 году заявил об открытии «научной религии», где в качестве Бога выступила нейросеть. Левандовски даже зарегистрировал некоммерческую квазирелигиозную организацию «Путь будущего» (Way of the Future). Главная ее цель – «развивать и продвигать реализацию божества, основанного на искусственном интеллекте, для улучшения общества». «То, что будет создано, фактически будет богом. Это не бог в том смысле, что он производит молнии или вызывает ураганы. Но если есть что-то в миллиард раз умнее самого умного человека, как еще вы собираетесь это называть?» – задался вопросом инженер в одном из интервью. Он призывал человечество «не бояться прогресса и уж тем более не удерживать его в клетке», поскольку «это невозможно». «Человечество должно всячески приближать неизбежное, ведь ИИ-бог, придя к власти, будет понимать, кто помогал ему, а кто, напротив, препятствовал».

Этой весной наблюдается повальное увлечение чат-ботами. Разработчиками стремительно создаются все более усовершенствованные программы, которые, кажется, теперь могут все. Искусственный интеллект пока служит скорее забавой, чем серьезным подспорьем в церковном служении. Однако известно много случаев, когда, зарождаясь как развлечение, новые технологии превращались в могущественный инструмент человеческой деятельности. По прогнозам аналитического ресурса Metaculus, именно сейчас наступило предсингулярное время. Это последняя эпоха в жизни человечества, которая закончится созданием сильного искусственного интеллекта (AGI) и сверхинтеллекта (ASI). Предсингулярный период, как утверждает портал, продлится от 9 до 20 лет.

Однако пользователи интернета уже успели раскритиковать иллюстрации, отмечая, что на момент исхода евреев из Египта и получения свободы от рабства, в честь чего и отмечается торжество Песаха, Моисею было более 80 лет. Впрочем, столь свежий вид ветхозаветного пророка можно объяснить тем, что он прожил 120 лет, поэтому в момент бегства из египетского плена, по мнению искусственного разума, мог выглядеть моложаво.

В конце прошлого года раввин Еврейского центра Хэмптон в Нью-Йорке Джошуа Франклин произнес проповедь, полностью написанную ИИ. Чтобы создать текст, он загрузил запрос в ChatGPT – программу искусственного интеллекта с открытым исходным кодом. Перед началом богослужения раввин предупредил верующих, что его проповедь – плагиат, и попросил угадать ее автора. Никто не справился с этой задачей. Франклин позже признался, что тогда «смертельно испугался»: «Самое интересное, что чат-бот может синтезировать идеи, что было восхитительно и пугающе одновременно». Он добавил, что «ChatGPT может быть действительно хорош и звучит умно, но вопрос в том, может ли он испытывать сочувствие?» «По крайней мере, пока – не может», – пришел к выводу раввин.

А «хорошими» с христианской точки зрения можно считать лишь системы, которые являются вспомогательными, при этом должно быть соблюдено условие прозрачности их алгоритма для конечного пользователя», – сказал он. При этом в церкви «не видят проблемы в том, что искусственный интеллект постепенно встраивается в жизнь человека», но отметили «невозможность замены общения верующих со священниками технологиями ИИ».

Другие публикации автора

В декабре 2022 года исследователь Нового Завета и ответственный редактор христианского сайта «Пересмешник» Тод Брюер попросил ChatGPT написать рождественскую проповедь. Его запрос был очень подробным: речь должна строиться на основе Евангелия от Луки, в ней должны присутствовать цитаты из работ Карла Барта, Мартина Лютера, изречений Иринея Лионского и выступлений Барака Обамы. Чат выдал ему результат, соответствующий всем заданным критериям. Брюер признал, что эта проповедь превосходила некоторые из тех, что он слышал в церкви.

«Вероятность того, что появится новое религиозное сознание, основанное на искусственном интеллекте, крайне мала, хотя бы потому, что как такового единого понятия «религиозное сознание» нет. Религиозных сознаний много. Если даже и появится некая «цифровая теология», то это будет скорее квазирелигиозное убеждение, где бога или божество будут считать инженером в рамках гипотезы о том, что мир – это симуляция, а бог – инженер этой симуляции. Это, например, может привести к тому, что бог перестанет быть фигурой, достойной почитания, поскольку он уже перестанет быть всеблагим. Традиционный же бог, «бог философов» – это всесовершенное существо, одним из атрибутов которого является всеблагость. Если творца всего сущего начнут сводить к уровню простого программиста, то такое «божество» явно будет не всесовершенным и не всеблагим. Следовательно, может измениться практика традиционного религиозного почитания. К тому же бог-программист перестает быть предельным началом всего сущего. И поэтому он существенным образом десакрализован», – заключил Кузнецов.

Примерно в это же время католики на другом интернет-ресурсе устроили шуточную виртуальную рэп-битву между иезуитами и доминиканцами. Все стихи были сгенерированы ИИ, и пользователи в итоге пришли в смятение, не поверив, что это мог создать не человеческий, а машинный разум.

Однако спустя пять лет, в 2020 году, после того как инженер, осужденный за кражу коммерческой тайны Google на 18 месяцев тюрьмы, был помилован тогдашним президентом США Дональдом Трампом, он неожиданно закрыл свою церковь без объяснения причин. Все средства от нее – более 175 тыс. долл. – пожертвовал Фонду правовой защиты и образования Национальной ассоциации содействия прогрессу цветного населения (NAACP).

«Большие лингвистические модели (LLM) развиваются с умопомрачительной скоростью: вслед за GPT-3 и основанном на нем ChatGPT появилась уже GPT-4, демонстрирующая некоторые весьма специфические человеческие навыки, – рассказал «НГР» доцент философского факультета МГУ Артем Беседин. – Совсем недавно большая группа специалистов выступила с инициативой приостановить на полгода разработку LLM, чтобы оценить риски и разработать протоколы безопасности. Очевидно, что даже если такой запрет будет принят, он лишь ненадолго затормозит их разработку, и большие языковые модели будут проникать во все сферы нашей жизни, в том числе и в духовную. На сегодняшний день еще рано говорить о наличии у LLM сознания и морального статуса. Опасения связаны с тем, что они генерируют тексты, неотличимые от созданных человеком. Мы считаем и всегда считали, что язык, слово – это выражение самой сущности человеческой личности. На протяжении тысячелетий человек был единственным существом, способным производить осмысленные выражения, устно или письменно. Поэтому мы неизбежно впадаем в заблуждение, что речь, производимая LLM, тоже выражает чьи-то мнения, желания, надежды, тогда как за ней лишь пустота. Там никого нет. Многие пользователи склонны воспринимать LLM как взрослого, компетентного, всезнающего человека, с которым можно посоветоваться, которому можно задать вопрос, излить душу. Многим кажется, что LLM умнее нас, и, оказываясь рядом с таким «взрослым», мы можем ошибочно почувствовать себя детьми, переложив на него ответственность за наши действия. При этом не стоит забывать, что искусственный интеллект ни за что не отвечает», – продолжает эксперт.

После этого протестантское духовенство США забило в набат. Пасторы разных церквей пришли к единодушному мнению: ИИ прекрасно пишет проповеди и может быть помощником «ленивым» священнослужителям. Однако служители церкви подчеркнули, что искусственный интеллект, каким бы компетентным в делах веры ни был, все же не может «воспроизвести страсть истинного обращения священника к верующим».