Фантазия или реальность: готов ли искусственный интеллект захватить мир

Риск появления суперинтеллекта

«Искусственный интеллект на текущий момент – не более чем база знаний, которая умеет выдавать ответы на вопрос пользователя на основе информации, хранящейся в этой базе данных. Общий интеллект, которым обладаем мы, как люди, ИИ не обладает. Мы осознаем, кто мы, куда двигаемся и чего хотим. Наша “нейронная сеть” преобразовывает всю информацию, которая поступает из внешнего мира», – объясняет специалист.

Как бы там ни было, а впервые вступить в диалог с машиной людям удалось спустя 10 лет после его смерти в середине 1960-х. Программа называлась ELIZA. Она успешно переставляла слова в самом вопросе и реагировала на некоторые ключевые слова в нем. Человек, которому очень хотелось с кем-то пообщаться, мог достаточно быстро забыть, что это машина, но хоть немного придирчивый собеседник легко понимал, что речь идет ни о чем.

Это немного похоже на то, как дети видят животных и людей в форме облаков, проплывающих над ними. Если нейросети, натренированной на распознавание человеческих лиц, дать на обработку изображения галактик, то она отберет те из них, которые будут похожи на глаза и носы, даже если это просто наложение разных объектов.

Первые искусственные нейросети появились в конце 1950-х. Ученые экспериментировали с ними до конца 1960-х, пока не выяснили, что главные задачи, которые тогда стояли перед вычислительной техникой, они либо не могут выполнить вообще, либо выполняют гораздо хуже компьютеров традиционной архитектуры.

Chat GPT проходит тест Тьюринга, но это мало о чем говорит. Еще в 1980 году американский философ Джон Серль опубликовал работу, в которой провел воображаемый эксперимент под названием «Китайская комната». Пусть у нас есть закрытая комната, в которой сидит человек, не знающий китайского языка. Но его инструктировали, как правильно составлять иероглифы, имея определенные их комбинации.

Тьюринг знал, что делает. Он был величайшим теоретиком и практиком вычислительной техники своего времени. До сих пор на уровне концепции все наши компьютеры работают так, как это видел он. Более того, именно этот ученый добился того, что машина смогла решать интеллектуальную задачу, с которой не справился человеческий разум — дешифрование чрезвычайно сложного вражеского шифра.

ИИ может ошибаться

В 2023 году нейросети стали заметным явлением общественной жизни в России: до широких народных масс наконец-то дошли программы, способные писать дипломные работы и создавать по любому запросу оригинальные картинки. Это придало новый импульс дискуссиям о взаимоотношениях человека и искусственного интеллекта – в том числе о том, какие опасности таит в себе такой контакт. Обозреватель РИАМО пообщался на эту тему с рядом специалистов.

Тьюринг погиб задолго до того, как возникли первые социальные сети, и не увидел, насколько общение людей в них отличается от этого идеала. А современные ученые еще со времен ELIZA знают, что эта способность людей сильно зависит от нашей готовности видеть вообще какой-то смысл. Носители естественного интеллекта слишком легко видят его там, где он отсутствует, и не видят там, где он критически важен.

Искусственный интеллект в первую очередь применяют именно для работы с символами, математическими моделями и изображениями. Роботы, которые время от времени выпускаются в свет, большей частью так и остались дорогими игрушками разной степени неуклюжести. И особенно неудобно им в дикой местности, где надо учитывать и помнить слишком много факторов.

«Необходимо заниматься разработкой правил, особенно в отношении соблюдения законов, начиная от этики и соблюдением прав детей и до соблюдений авторского права, так как желания мы прививаем ему свои, человеческие. И, поскольку нейросети обучаются на багаже знаний человечества, на всей литературе – то стоит не забывать про три закона робототехники Азимова и всегда их внедрять при проектировании систем с самозарождением сознания. Но я рад, что пока до них далеко», – поделился Касьянов.

Если продолжить эксперимент, проведенный в Стэнфорде, увеличить сложность среды, количество искусственных интеллектов в нем и дать им время накопить опыт, то насколько быстро наша способность сочувствовать им сравнится с эмпатией к жителям какого-нибудь реального городка на другой стороне земного шара?

Вспоминая тест Алана Тьюринга, часто забывают тот важный факт, что ни с одним компьютером описанным образом он никогда не общался. И ни одного чата вживую не видел. Можно только догадываться, как бы развивались вычислительные машины, если бы не преждевременная его смерть.