Чем грозит человечеству неуправляемый искусственный интеллект

Можно утешить себя мыслью, что так и было запрограммировано Творцом Вселенной и законами эволюции — на смену homo sapiens должны прийти электронные «боги». Это значительно реальнее, чем перспектива «сверхчеловека» из плоти и крови, созданного с помощью генной инженерии и тех или иных биотехнологий, о чем в свое время мечтали Лев Троцкий или братья Стругацкие. Впрочем, возможно также создание гибрида человека и машины путем имплантирования в человеческий мозг специальных чипов, неизмеримо расширяющих его интеллектуальный потенциал. В зависимости от материальных возможностей каждый человек сможет приобрести себе тот или иной уровень интеллекта — вот вам и претворение в жизнь еще одной антиутопии — «О дивный новый мир» Олдоса Хаксли.

Как отмечается в ряде публикаций, ИИ будет способен выявлять потенциальных преступников или тех, чье поведение не укладывается в установленные социальные стандарты. Что это, как не воплощение мечты «внутренней партии» Дж. Оруэлла о возможности карать не только реальных диссидентов, но и потенциально инакомыслящих? И что особенно печально — апеллировать будет не к кому. ИИ фактически будет исполнять роль бога на земле.

В Новейшее время роковые пророчества получили наукообразное оформление — человечеству предвещали гибель от перенаселенности, экологической катастрофы, нашествия инопланетян, столкновения Земли с астероидом, генетического вырождения, в результате ядерной войны и, наконец, как следствие глобального потепления. Все эти сценарии так или иначе сохраняют свою актуальность, однако сегодня на первый план вышла угроза, которая прежде была уделом, скорее, научной фантастики. Это — «восстание машин», точнее — искусственный интеллект (ИИ), который способен либо сделать людей лишними на земле, либо и вовсе уничтожить человечество.

Существуют десятки сценариев, каким именно образом человечество может понести необратимый ущерб в результате дальнейшего совершенствования искусственного интеллекта. Мне бы хотелось остановиться на нескольких, быть может, не самых захватывающих и «научно-фантастических», но наиболее реалистичных.

Cлева направо: генеральный директор Национальной библиотеки Беларуси Вадим Гигин, ректор ГИТИСа Григорий Заславский, директор открытого национального чемпионата ArtMasters Борислав Володин, руководитель отдела креативных индустрий и цифрового развития Министерства культуры Азербайджана Рашад Азизов, генеральный директор РГБ Вадим Дуда, руководитель направления коммуникации SberAI, заведующая кафедрой инфокоммуникационных технологий МИСиС Ксения Кузнецова, генеральный директор академии NADA, совладелец digital-агентства Love.Soft.Digital Егор Ярошевич, научный сотрудник Центра INFLIBNET Манож Кумар К., профессор кафедры славистики языков Делийского университета, переводчик, обладатель Пушкинской медали Гириш Мунджал
Фото: Ирина Гайшун, РГБ

В последние годы на страницах российских СМИ не раз возникала тема «заимствованных» или вопиюще непрофессиональных диссертаций. Среди людей, не имеющих никакого отношения к науке, почему-то стало модным считаться «учеными». В эпоху продвинутых нейросетей каждому желающему обзавестись заветной «корочкой» можно будет не опасаться разоблачений. ИИ выдаст ему текст, к которому «комар носа не подточит», не говоря уже о самой взыскательной аттестационной комиссии. Таким образом, лжеученые станут совершенно неотличимы от подлинных подвижников науки. Впрочем, и самые талантливые ученые вряд ли смогут конкурировать с ИИ.

Генеральный директор Национальной библиотеки Беларуси Вадим Гигин подчеркнул, что искусственный интеллект, как и любое новшество, несёт в себе как угрозы, так и возможности: «Нужно придавать использованию искусственного интеллекта большей осмысленности. Например, работа с массивами документов, то есть мы отрабатываем различные подходы оцифровки, создаём удобные платформы, комфортные интерфейсы, через которые можно работать в виртуальном читальном зале. Искусственный интеллект способен укрепить не только культуру чтения, но и культуру выбора книг. Наша задача как профессионалов — превратить искусственный интеллект в дорожную карту для читателей».

Трудно даже представить, какой хаос может внести ИИ в систему образования. Сегодня в гуманитарных вузах Запада основной формой обучения является написание эссе на базе прослушанных лекций. Нейросети смогут «выдавать на гора» эти эссе в неограниченных количествах и притом высочайшего качества. И ни один профессор не отличит человеческое творение от машинного. Как в таких условиях оценить уровень знаний студентов?

В Эрмитаже в здании Главного штаба 17 ноября прошла панельная дискуссия «Современные технологии — драйверы интеграции культуры в информационное общество» в рамках международного культурного форума — Форума объединённых культур. Организатором мероприятия стала Российская государственная библиотека, модератором встречи — генеральный директор Ленинки Вадим Дуда.

Научный сотрудник Центра INFLIBNET Манож Кумар К. и профессор кафедры славистики языков Делийского университета, переводчик, обладатель Пушкинской медали Гириш Мунджал рассказали о применении искусственного интеллекта и машинного обучения в художественном и культурном контексте Индии, обсудили с коллегами возможности революционных технологий в мировой культуре, в том числе их значимость в сохранении и продвижении языков, находящихся под угрозой исчезновения.

Очевидно, что регулирование дальнейшего совершенствования ИИ возможно только в случае создания Мирового правительства, о котором уже столько раз говорили ведущие мировые мыслители. Или, как временная мера, подписания некоего обязывающего и верифицируемого соглашения между ведущими мировыми державами и крупнейшими корпорациями. Впрочем, сегодня даже это представляется утопией: кому, где и когда удавалось искусственно остановить научно-технический прогресс? Однако такой же утопией в свое время представлялись и борьба с загрязнением окружающей среды, и сокращение ядерных вооружений, и даже, как ни смешно это звучит, попытки ограничения рекламы, производства и потребления табачной продукции. Между тем все это так или иначе стало реальностью. Хочется надеяться, что так будет и на этот раз. Но как бы то ни было, это именно тот случай, когда, не будучи алармистами, можно смело утверждать, что времени на раскачку у человечества осталось совсем немного.

На фоне этих принципиально новых и трагических вызовов возникает вполне традиционный вопрос: «Что делать?» Можно вспомнить три закона робототехники писателя-фантаста Айзека Азимова. Первый закон категорически запрещает роботу вредить людям, второй — предписывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, третий закон диктует роботу защищать свою жизнь, не нарушая первых двух. Вопрос лишь в том, как этого достигнуть.

Руководитель отдела креативных индустрий и цифрового развития Министерства культуры Азербайджана Рашад Азизов поделился своим уникальным опытом применения искусственного интеллекта, а также рассказал о значимости сокращения, преодоления цифрового разрыва между регионами и странами: «Искусственный интеллект играет большую роль в сфере культуры в части креатива, но мы должны понимать разницу между „созданный искусственным интеллектом“ и „созданный с помощью искусственного интеллекта“. Воспитать поколение, которое умеет пользоваться искусственным интеллектом и сможет создать новую культуру современного мира, — наш главный вызов. Именно человек должен быть в центре всех технологических процессов».

Руководитель направления коммуникации SberAI и заведующая кафедрой инфокоммуникационных технологий МИСиС Ксения Кузнецова поделилась историей развития искусственного интеллекта, концепцией, при которой он — высшая форма реализации творческого потенциала, а также обсудила цифровую трансформацию «То, как будут развиваться технологии, зависит от нас с вами. Предъявлять искусственному интеллекту мы не можем, все вопросы мы должны задавать себе. Очень символично, что в сердце культурной столицы у нас есть возможность говорить о современных технологиях, в том числе об их этических и юридических аспектах. Нейросеть не станет живым осознанным существом. Интеллектом, эмпатией, волей облаем только мы. Именно все то, что составляет суть нашей жизни, позволяет нам создавать произведения культуры и искусства».