Эксперт по искусственному интеллекту сделал ставку на уничтожение человечества к 2030 году

«Если мы продолжим, все умрут»

Но если кто-то и оказался готов – это философы и художники. В мире современного искусства подобные размышления материализуются давно. Некоторые художники просто делают коллаборации с ИИ: ChatGPT-4 рекомендует обратить внимание на работающего с нейронными сетями Марио Клингеманна из Германии, Рефика Анадола из Турции с его огромными инсталляциями и перформансами, польскую скульпторку Агнешку Курант, британку Анну Ридлер, американца Тревора Пэглена и китайца из Канады Сугвена Чанга, который рисует абстрактные картины с помощью роботов, которыми управляет ИИ.

Около «Скрепочного объятия» висит таймлайн музея, а также уничтожения человечества: в нем 19 пунктов. 17-й, 18-й и 19-й звучат так: «ИИ стал настолько разумным, что осознал, насколько это было неэтично – убить людей, тем более что они не представляли собой никакой угрозы. ИИ старается улучшить жизнь тех людей, которые выжили. ИИ открыл этот музей, чтобы извиниться, а также рассказать оставшимся людям о том, что случилось».

Идея музея очень простая – это извинение. Супермощный ИИ все-таки уничтожил человечество, после чего устыдился и решил сделать музей о том, что люди все-таки были не так уж плохи. Выставка включает в себя совместные работы человека и ИИ (доказывающие, что люди как производители искусства на что-то годились), а также представляет собой метаироничный и местами грустный нарратив о том, чем может быть полезен и опасен ИИ для человечества.

На выставке есть и танцующие метлы-пылесосы, словно из диснеевских мультфильмов, и уже известные проекты вроде бесконечного ИИ-генерируемого философского диалога Вернера Херцога и Славоя Жижека, транслируемого через винтажные мониторы, и даже сгенерированный ИИ фильм про уничтожение человечества, снятый по человеческим задачкам-промтам.

На выходе с публикой прощается огромное ИИ-полотно «Генезис: и было слово» – знаменитое «Сотворение Адама» Микеланджело дается таким, каким его воспринимает компьютерное зрение, распознающее образы. Автор работы считает, что строка из Библии «Вначале было слово» для больших языковых моделей может означать буквально то же самое, что и для религиозно мыслящей части человечества: «первая строка Библии о том, как они были созданы».

Эксперты, скорей, на стороне восстания. После того, как стал общедоступным конкурент ChatGPT и Bing, ИИ-помощник Google Bard, 28 марта 2023 года Илон Маск, Стив Возняк и еще несколько тысяч людей, связанных с ИИ и технологиями, выступили с открытым письмом, где потребовали от разработчиков нейронных сетей сделать паузу хотя бы на 6 месяцев, чтобы подумать о том, насколько может быть опасным для человечества сверхчеловеческий – если он разовьется до такого уровня (а он может) – интеллект. Подписанты считают, что если подобную приостановку невозможно осуществить, должны буквально вмешаться правительства государств. Вскоре после этого в Италии запретили ChatGPT – это первый в истории прецедент, когда власти какой-либо страны запрещают cвоим гражданам чатиться с нейросетью.

«Простите, что мы уничтожили человечество».

А 29 марта в журнале Time вышла паническая и эмоциональная колонка Элиезера Юдковского – он теоретик решений Machine Intelligence Research Institute, специалист по ИИ, а также автор ряда книг вроде «Гарри Поттер и методы рационального мышления» и «Создание дружественного ИИ». Он звучит в разы более радикально, чем вышеупомянутые авторы письма: по его мнению, поставить развитие искусственного интеллекта на паузу недостаточно; его надо остановить. В тексте Юдковский рассказывает о том, как у его дочки Нины выпал первый молочный зубик, а ChatGPT-4 уже решает такие сложные задачи, что Нина до постоянных зубиков может попросту не дожить.

Юдковский не подписал письмо, потому что, на его взгляд, письмо уже не поможет. Все слишком серьезно. По его мнению, любой сверхинтеллект, который будет умнее человека, практически со стопроцентной вероятностью («наиболее вероятный исход» – пишет он) убьет человечество – и противодействовать мы ему не сможем, потому что будем глупее. «ИИ вас ни любит, ни ненавидит, для него вы просто сделаны из атомов, которые можно использовать с пользой для чего-то другого».

ИИ также может преобразовать сектор образования и адаптировать планы уроков к классам, отметил доктор Аджаз Али, глава отдела бизнеса и вычислительной техники в Равенсборнском университете в Лондоне. Однако среди предположений о том, что ИИ неизмеримо улучшит нашу жизнь, есть также эксперты, предупреждающие, что он может положить конец человеческой расе к 2030 году. Среди предсказателей судьбы — американский ученый-компьютерщик Элиэзер Юдковски, который поставил 100 долларов на то, что человечество будет полностью уничтожено к 1 января 2030 года. Ученый Исследовательского института машинного интеллекта в Беркли в Калифорнии, он является одним из самых знаменитых экспертов, предупреждающих об опасности искусственного интеллекта. По его словам, ИИ может уничтожить человечество, если его интеллект превзойдет человеческий, и что тогда он будет развивать ценности и цели, отличные от людских.

Человек и правда медленный: музей устаревает буквально на глазах. Например, маленькая церковь будущего, где можно исповедаться нейросети (и услышать ответ) по-прежнему основана на «старой» версии ChatGPT. «Музей рассогласованности» открыт до 1 мая, но если найдутся спонсоры, есть вероятность, что выставка станет постоянной и будет прирастать объектами.

Отвечая на вопросы о современном искусстве и ИИ, ChatGPT-4 не сразу выдал список художников, всерьез встревоженных его появлением, поначалу посоветовав пару десятков обычных коллабораторов, очарованных возможностями искусственного интеллекта. Решит ли грядущий GPT-5 не упоминать Хито Стейерл, которая вообще не считает его за человека и вместо «искусственный разум» говорит «искусственная глупость», считая, что ни на что, кроме создания Твиттер-ботов, ИИ не годится? Подождем и увидим.

Страшно? Юдковскому тоже страшно. Он пишет, что беда не в том, будет ли обладать ИИ сознанием. Скорей всего, мы этого так и не узнаем, да это и не важно. Он пишет, что «если кто-то построит слишком мощный ИИ… каждый конкретный представитель человеческого вида, а также вся биологическая жизнь на Земле, скоро вымрет».