Приведет ли искусственный интеллект к исчезновению человечества? Апокалиптические предсказания его разработчиков

ИИ — шпаргалки

Отвечая на вопросы о современном искусстве и ИИ, ChatGPT-4 не сразу выдал список художников, всерьез встревоженных его появлением, поначалу посоветовав пару десятков обычных коллабораторов, очарованных возможностями искусственного интеллекта. Решит ли грядущий GPT-5 не упоминать Хито Стейерл, которая вообще не считает его за человека и вместо «искусственный разум» говорит «искусственная глупость», считая, что ни на что, кроме создания Твиттер-ботов, ИИ не годится? Подождем и увидим.

И человечество оказалось не готовым к такому – «даже никакого предложенного плана нет насчет того, как нам создать такую штуку и выжить при этом!» – а ведь у нас было как минимум 50 лет, чтобы подготовиться. Мы не готовы, повторяет он. Если мы такое создадим, мы все умрем. Поэтому его надо уничтожить. И если будет необходимо – бомбить дата-центры с самолетов.

Около «Скрепочного объятия» висит таймлайн музея, а также уничтожения человечества: в нем 19 пунктов. 17-й, 18-й и 19-й звучат так: «ИИ стал настолько разумным, что осознал, насколько это было неэтично – убить людей, тем более что они не представляли собой никакой угрозы. ИИ старается улучшить жизнь тех людей, которые выжили. ИИ открыл этот музей, чтобы извиниться, а также рассказать оставшимся людям о том, что случилось».

Главный объект выставки – работа «Скрепочное объятие» (Paperclip Embrace) – скульптура обнимающихся людей, сделанная из скрепок для бумаг группой художников Pier Group с Мэттом Шульцем и вдохновленная мысленным экспериментом Ника Бострома о том, что искусственный интеллект, созданный с утилитарной сверхцелью, – например, для оптимизации канцелярского процесса – может случайно уничтожить человечество, решив направить все ресурсы Вселенной на производство скрепок.

Подпись к фото, ИИ постепенно проникает и в графити. Президент компании Microsoft еще в 2021 году предупредил, что жизнь, изображенная в книге Джорджа Оруэлла «1984», «может стать реальностью в 2024 году, если законодатели не защитят нас от искусственного интеллекта

«Даже если мы попробуем противостоять сверхчеловеческому разуму, мы наверняка проиграем, – уточняет автор. – Лучшие метафоры для этого: десятилетка, пытающийся выиграть в шахматы у Stockfish 15; 11-й век, который пытается бороться с 21-м веком; австралопитек, сражающийся с Homo Sapiens. И чтобы представить этот враждебный сверхчеловеческий ИИ, можно не визуализировать некий зловредный искусственный разум, который рассылает опасные письма через Интернет. Представьте себе целую инородную цивилизацию, мыслящую в миллионы раз быстрее человеческой, в мире существ, которые, с ее точки зрения, очень глупые и медленные. Достаточно интеллектуальный ИИ не будет долго оставаться привязанным к компьютерам. В современном мире вы уже можете отправлять по электронной почте в лаборатории коды цепочек ДНК, чтобы производить белковые соединения по запросу. Пусть изначально он и был привязан к компьютеру, впоследствии ИИ сможет создавать искусственные формы жизни или сразу перейти к постбиологическому молекулярному самовоспроизводству».

Есть и совсем ироничные объекты: например, фабрика спам-ботов, сделанных художником Нейлом Мендозой из баночек из-под свиной ветчины SPAM, когда-то и давшей название этому явлению. Это жестяные роботы с маленькими ручками, которыми они молотят по клавишам – каждому выдали по 2-3 буквы алфавита. Но вместе они – сила. Они коллективно пишут генерируемый ИИ роман, вдохновленный книгой Олдоса Хаксли «Дивный новый мир», где все действующие лица – свинки, потому что баночки все же помнят о своих корнях.

Идея музея очень простая – это извинение. Супермощный ИИ все-таки уничтожил человечество, после чего устыдился и решил сделать музей о том, что люди все-таки были не так уж плохи. Выставка включает в себя совместные работы человека и ИИ (доказывающие, что люди как производители искусства на что-то годились), а также представляет собой метаироничный и местами грустный нарратив о том, чем может быть полезен и опасен ИИ для человечества.

«Если мы продолжим, все умрут»

Первое, что видят зрители – роскошный рояль, играющий довольно пугающую музыку. На нем стоят бисерные скульптурки с глазами. Анонс работы написан с позиции ИИ: мол, мы с человечеством немного сотрудничали, было дело, к нашей партитуре добавил своей импровизации живой белковый композитор; а эти скульптурки нам просто понравились, они милые. Люди такие трогательные, аналоговые, они медленно и усердно делают штуки.

Страшно? Юдковскому тоже страшно. Он пишет, что беда не в том, будет ли обладать ИИ сознанием. Скорей всего, мы этого так и не узнаем, да это и не важно. Он пишет, что «если кто-то построит слишком мощный ИИ… каждый конкретный представитель человеческого вида, а также вся биологическая жизнь на Земле, скоро вымрет».

Юдковский не подписал письмо, потому что, на его взгляд, письмо уже не поможет. Все слишком серьезно. По его мнению, любой сверхинтеллект, который будет умнее человека, практически со стопроцентной вероятностью («наиболее вероятный исход» – пишет он) убьет человечество – и противодействовать мы ему не сможем, потому что будем глупее. «ИИ вас ни любит, ни ненавидит, для него вы просто сделаны из атомов, которые можно использовать с пользой для чего-то другого».

Эксперты, скорей, на стороне восстания. После того, как стал общедоступным конкурент ChatGPT и Bing, ИИ-помощник Google Bard, 28 марта 2023 года Илон Маск, Стив Возняк и еще несколько тысяч людей, связанных с ИИ и технологиями, выступили с открытым письмом, где потребовали от разработчиков нейронных сетей сделать паузу хотя бы на 6 месяцев, чтобы подумать о том, насколько может быть опасным для человечества сверхчеловеческий – если он разовьется до такого уровня (а он может) – интеллект. Подписанты считают, что если подобную приостановку невозможно осуществить, должны буквально вмешаться правительства государств. Вскоре после этого в Италии запретили ChatGPT – это первый в истории прецедент, когда власти какой-либо страны запрещают cвоим гражданам чатиться с нейросетью.

Разговоры о том, что ИИ может либо радикально и к лучшему изменить человеческое общество, либо его полностью уничтожить, существовали в научной фантастике на протяжении последних 80 лет. Но только в последнее время технологии вышли на новый уровень. Теперь ИИ может писать песни, генерировать реалистичные изображения, создавать компьютерный код, писать киносценарии и так далее. Непосредственно на сегодняшний день проблемы, создаваемые ИИ, в значительной степени касаются нарушения авторских прав и конфиденциальности.

Но если кто-то и оказался готов – это философы и художники. В мире современного искусства подобные размышления материализуются давно. Некоторые художники просто делают коллаборации с ИИ: ChatGPT-4 рекомендует обратить внимание на работающего с нейронными сетями Марио Клингеманна из Германии, Рефика Анадола из Турции с его огромными инсталляциями и перформансами, польскую скульпторку Агнешку Курант, британку Анну Ридлер, американца Тревора Пэглена и китайца из Канады Сугвена Чанга, который рисует абстрактные картины с помощью роботов, которыми управляет ИИ.

Одри Ким, кураторка музея и бывшая сотрудница Google и Cruise, в интервью изданию Wired уточняет, что ее цель – через искусство показать людям, чем может стать супермощный ИИ: другом, помощником или, может быть, угрозой? Цель музея – не столько повысить тревожность, но сформировать осознанность в отношении будущего, которое незаметно наступило.

Заявление, опубликованное на сайте Центра безопасности ИИ — не первое предупреждение подобного рода. В марте ведущие фигуры в области разработки ИИ, включая Илона Маска и основателя Apple Стива Возняка, уже призывали притормозить исследования в этой области, пока не будут разработаны и применены надежные протоколы безопасности.