Фантазия или реальность: готов ли искусственный интеллект захватить мир

Человек умер, да здравствует киберчеловек!

Альтман изучал искусственный интеллект в Стэнфорде и уловил направление мысли коллег, однако пошел другим путем: он сконцентрировал силы и средства на разработке казавшегося утопичным проекта искусственного интеллекта общего назначения (Artificial General Intelligence, AGI; о том, что именно это значит, — ниже по тексту). «В 2015-м, когда мы только собирали команду, работа над AGI могла погубить вашу карьеру. Но мне были нужны люди, кто всерьез хотел бы заняться таким проектом», — вспоминает Альтман в интервью Wired; в том же материале вводится интересный термин «верующие в AGI» . Именно из них и собралась команда.

В 2023 году нейросети стали заметным явлением общественной жизни в России: до широких народных масс наконец-то дошли программы, способные писать дипломные работы и создавать по любому запросу оригинальные картинки. Это придало новый импульс дискуссиям о взаимоотношениях человека и искусственного интеллекта – в том числе о том, какие опасности таит в себе такой контакт. Обозреватель РИАМО пообщался на эту тему с рядом специалистов.

Если резюмировать слова множества экспертов, можно сказать следующее: практически все они отмечают, что на данном этапе развития ИИ угрозы «киберапокалипсиса» нет – все опасности связаны либо с злоупотреблениями новой технологией самими людьми, либо с изменениями в социально-трудовой сфере. Однако некоторые все же считают, что думать о такой угрозе нелишне – на тот случай, если мрачная фантастика в какой-то миг вдруг попытается стать реальностью.

Это соглашение вызвало волну критики — и особенно сердился именно Маск. По его мнению, эксклюзивное сотрудничество с владельцем Windows идет против идеалов компании, когда‑то обещавшей даже не патентовать свои технологии, а ее руководство находится в заложниках у жадной корпорации.

Глобальная задача Open AI, та же, что и раньше, — создание AGI. Интересно, что даже внутри самой компании нет четкого понимания, что именно это значит, но в документах есть пункт, согласно которому все финансовые договоренности (например, зарплату сотрудников или отношения с инвесторами) можно будет пересмотреть в том случае, если AGI появится на свет.

Мегакорпорация также приобрела эксклюзивную лицензию на коммерческое использование GPT. Благодаря этому нейросетевые инструменты для генерации кода появились в GitHub, Bing стал первым поисковиком со встроенным чат-ботом, а в будущем технология должна появиться в Word, Excel и других офисных продуктах. В обмен на это компания Альтмана получила до $13 млрд инвестиций при оценке в $30 млрд.

«”Слабый” ИИ может решать конкретную задачу – например, играть в шахматы лучше людей. “Сильный” ИИ обладает сознанием и может успешно выполнять любые умственные задачи, которые под силу людям. Пока что человечеству не удалось создать “сильный” ИИ. При этом не стоит воспринимать определение “слабый” в контексте негативной оценки. Вся сила и прогресс, который достигнуты сегодня на уровне искусственного интеллекта, выполнены с помощью “слабого” ИИ. Такие решения помогли нам снизить количество рутинных задач – от заказа такси до перевода текстов, однако они не могут выйти за рамки предустановленных настроек», – объяснил эксперт.

«Необходимо заниматься разработкой правил, особенно в отношении соблюдения законов, начиная от этики и соблюдением прав детей и до соблюдений авторского права, так как желания мы прививаем ему свои, человеческие. И, поскольку нейросети обучаются на багаже знаний человечества, на всей литературе – то стоит не забывать про три закона робототехники Азимова и всегда их внедрять при проектировании систем с самозарождением сознания. Но я рад, что пока до них далеко», – поделился Касьянов.

ИИ может ошибаться

Несмотря на это, по мнению профессора, общество и экономика нуждаются в инструментах, регулирующих области применения искусственного интеллекта. «Использование ИИ-решений в некоторых сферах экономики, включая здравоохранение, управление транспортом, управление объектами электроэнергетики и прочих, на сегодняшний день может привести к катастрофическим последствиям. Регуляторы ЕС уже несколько лет активно рассматривают возможности по ограничению областей, где может применяться ИИ. А в США уже успели обозначить первую такую область: группа конгрессменов на днях внесла законопроект, запрещающий использовать ИИ для применения ядерного оружия», – рассказал Зараменских. Профессор видит главную проблему в том, что «ИИ-решения могут ошибаться, при этом скорость развития решений значительно выше той, с которой разработчики смогут устранить ошибки в работе ИИ».

В 2017-м мир искусственного интеллекта перевернула научная статья «Attention Is All You Need» от исследователей из Google. В ней авторы объяснили устройство трансформеров GPT (Generative Pre-trained Transformer) — генеративный предварительно обученный трансформер. — особенной архитектуры нейросетей, которая может концентрировать внимание на разных частях текста. Очень грубо говоря, алгоритм трансформера похож на принцип автодополнения текста: если вы написали «прив», робот предположит, что следом будет «ет», а нейросеть-трансформер угадывает, о чем пойдет речь на основе предложенных ей данных.

«Несмотря на удивительные для большинства результаты, мы пока работаем с большими, но довольно примитивными по сути нейросетями, не обладающими даже зачатками интеллекта. Так что ожидать проблем нужно не в том, что ИИ поработит или уничтожит человечество, а скорее в том, что он будет банально не справляться с поставленным задачами – например, автопилоты автомобилей будут теряться в обстановке и давить людей, как сейчас это уже нередко происходит», – разбавил эксперт господствующие восторги по поводу нейросетей.

В другом интервью тому же Wired босс Microsoft Сатья Наделла говорит, что он готов поставить все на карту ради создания искусственного интеллекта. По его словам, AGI может стать последним изобретением человечества . Он вовсе не намекает на то, что взбесившаяся нейросеть тут же начнет ядерную войну и всех уничтожит. Просто получившееся божество на световые годы опередит человечество в плане интеллекта и будет делать все прорывные изобретения за нас; любые идеи туповатых людей из плоти и крови померкнут на фоне откровений робота.

«Нельзя очень точно предугадать, на что будет способен будущий ИИ, но вряд ли он способен уничтожить или поработить людей. Наиболее вероятная опасность для человека 2023 года – вероятность того, что мы либо последнее, либо одно из последних поколений классического человека в нашем понимании. Новый человек, вероятнее всего, будет своеобразным симбионтом между человеком, технологиями и ИИ. Такой вот киберчеловек», – полагает эксперт.

Под новый раунд инвестиций в 2019-м OpenAI пришлось поменять внутреннее устройство и начать зарабатывать самостоятельно. Многие элитные венчурные компании, например, Thrive Capital, Andreessen Horowitz, Founders Fund и Sequoia это устроило. Винод Хосла, глава Khosla Ventures, открыто говорил, что ждет превращения своих $50 млн в $5 млрд. На тот момент до релиза ChatGPT было еще три года.