Искусственный интеллект: между мифом и реальностью

История взлетов и падений

ИИ подразумевает не только рациональный анализ и воспроизведение при помощи компьютеров большинства аспектов интеллекта – может быть, лишь за исключением юмора. Машины значительно превышают наши когнитивные способности в большинстве областей, что заставляет нас опасаться некоторых этических рисков. Это риски трех видов: дефицит работы, которая вместо людей будет выполняться машинами; последствия для независимости человека и, в частности, для его свободы и безопасности; опасения, что более «умные» машины будут доминировать над людьми и станут причиной гибели человечества.

Преподаватель информатики в университете Сорбонна, профессор Жан-Габриэль Ганасия (Франция) является также научным сотрудником исследовательской лаборатории LIP6, (Laboratoire d’Informatique de Paris 6), действительным членом Европейской ассоциации искусственного интеллекта EurAI (European Association for Artificial Intelligence), членом Университетского института Франции (Institut Universitaire de France) и председателем Комитета по этике Национального научно-исследовательского центра Франции (CNRS). Его научные интересы охватывают такие темы, как машинное обучение, символическое слияние данных, компьютерная этика и цифровые гуманитарные науки.

В отличие от обычных авторов, которые месяцами мучаются над сотнями рукописных страниц, свои книги он пишет всего за шесть-восемь часов. По его словам, на самую быстро написанную книгу у него ушло всего три часа. Еще одним преимуществом для читателей, по словам Баучера, является то, что он может продавать свои книги в аккаунте в соцсетях всего за 1,99 доллара, при этом самая высокая цена составляет 3,99 доллара.

Почти любой человек может продавать «самиздатовские» книги на Amazon, и это прекрасно. Если я решу купить, например, мемуары неизвестного итальянца, изданные им же самим, то, по сути, понятно, что это — любительская работа. Я даже готов смириться с соответствующим ее качеством.

С конца 1990-х годов ИИ стали объединять с робототехникой и интерфейсом «человек – машина» с целью создания интеллектуальных агентов, предполагающих наличие чувств и эмоций. Это привело, среди прочего, к появлению нового исследовательского направления – аффективных (или эмоциональных) вычислений (affective computing), направленных на анализ реакций субъекта, ощущающего эмоции, и их воспроизведение на машине, и позволило усовершенствовать диалоговые системы (чат-боты).

Могут ли машины стать умнее, чем люди? Нет, считает Жан-Габриэль Ганасия: это всего лишь миф, навеянный научной фантастикой. В своей статье он напоминает об основных этапах развития этой отрасли науки, о достижениях современной техники и об этических вопросах, все больше требующих к себе внимания.

Применение

В сообщении говорилось, что его автор — настоящая 55-летняя женщина по имени Луиза из Италии. Но фамилия «Флоренс» – псевдоним, а фото – работа популярного сайта «This Person Does Not Exist» («Этот Человек Не Существует»), который генерирует лица с помощью ИИ-технологий.

Прогресс замедлился в середине 1960-х годов. В 1965 году десятилетний мальчик одержал в шахматном матче победу над компьютером; в 1966 году в докладе, подготовленном по заказу Сената Соединенных Штатов Америки, говорилось о внутренних ограничениях, присущих машинному переводу. Около десяти лет пресса отзывалась об ИИ неодобрительно.

Исследования не прекратились, но пошли в новых направлениях. Ученые заинтересовались психологией памяти, механизмами понимания, которые они пытались имитировать на компьютере, и ролью знаний в мыслительном процессе. Это привело к появлению значительно развившихся в середине 1970-х годов методов семантического представления знаний, а также к созданию экспертных систем, названных так потому, что для воспроизведения мыслительных процессов в них использовались знания квалифицированных специалистов. В начале 1980-х годов на экспертные системы возлагались большие надежды в связи с широкими возможностями их применения, например, для медицинской диагностики.

С 2010 года мощность компьютеров позволяет сочетать так называемые большие данные (Big Data) с методами глубокого обучения (Deep Learning), которые основываются на использовании искусственных нейронных сетей. Весьма успешное применение во многих областях (распознавание речи и изображений, понимание естественного языка, беспилотный автомобиль и т.д.) позволяет говорить о возрождении ИИ.

На обложке крупным шрифтом говорилось: «2000 дней и простые, вкусные рецепты». Трудно представить, что 2000 рецептов поместились бы в не очень толстую книгу. При этом введение было написано на странном, ломаном английском. Складывалось ощущение, что книгу составляли наспех.

Искусственный интеллект (ИИ) – это отрасль науки, официально увидевшая свет в 1956 году на летнем семинаре в Дартмут-колледже (Хановер, США), который организовали четверо американских ученых: Джон Мак-Карти, Марвин Мински, Натаниэль Рочестер и Клод Шеннон. С тех пор термин «искусственный интеллект», придуманный, вероятнее всего, с целью привлечения всеобщего внимания, стал настолько популярен, что сегодня вряд ли можно встретить человека, который никогда его не слышал. С течением времени этот раздел информатики развивался все больше, а интеллектуальные технологии в последние шестьдесят лет сыграли важную роль в изменении облика мира.

Методы машинного обучения позволяют одним автоматам распознавать устную речь и записывать ее подобно секретарям-машинисткам прошлых лет, а другим – точно идентифицировать лица или отпечатки пальцев среди десятков миллионов других и обрабатывать тексты, написанные на естественных языках. Благодаря этим же методам самостоятельно движутся автомобили, компьютеры лучше врачей-дерматологов диагностируют меланомы по фотографиям родинок, сделанных с помощью сотовых телефонов, роботы воюют вместо людей; а конвейеры на заводах все больше автоматизируются.

Американский писатель-фантаст использовал генераторы искусственного интеллекта, в том числе ChatGPT, чтобы написать и проиллюстрировать почти 100 книг менее чем за год. Тим Баучер сказал, что использовал интеллектуальную технологию для публикации 97 мини-романов за последние девять месяцев. «Моя цель была проста: создать серию уникальных, увлекательных электронных книг, соединив научную фантастику-антиутопию с убедительным созданием мира с помощью ИИ», — написал Баучер в статье для Newsweek. «Книги по истории ИИ», как я их называю, являются свидетельством потенциала искусственного интеллекта в расширении человеческого творчества», — добавил он.

Этические риски

Поначалу, под влиянием первых успехов, исследователи позволяли себе несколько опрометчивые заявления, которые впоследствии неоднократно ставились им в упрек. Так, например, в 1958 году американец Герберт Саймон, позже ставший лауреатом Нобелевской премии по экономике, заявил, что если бы машины допускались к международным соревнованиям, то в ближайшие десять лет они стали бы чемпионами мира по шахматам.

По ее мнению, не каждый может взять и написать книгу рецептов. Нужны знания, образование и опыт. Сама она получила две степени бакалавра, одну по биологии, вторую — по питанию. Ларсен также работает редактором новостного сайта «Food Poisoning Bulletin» («Бюллетень о пищевых отравлениях»).

И наконец, в противоположность некоторым утверждениям, машины не несут в себе экзистенциального риска для человечества, поскольку их автономия носит лишь технический характер и в этом смысле не соответствует цепочкам материальной причинности, идущим от информации к принятию решений. Кроме того, машины не самостоятельны в моральном плане, и потому, даже если иногда они сбивают нас с толку и вводят в заблуждение своими действиями, они все же не обладают собственной волей и подчиняются тем целям, которые мы перед ними ставим.

Мой опыт с кулинарной книгой помог прийти к важной для меня мысли о роли технологии в современной жизни и, скорее всего, в нашем будущем: в эпоху искусственного интеллекта нам будет чрезвычайно сложно понять, с кем мы имеем дело — с человеком или с компьютером.

Нашлись и косвенные доказательства, что не все «аутентично» с книгой: cреди в основном положительных рецензий на книги Флоренс в Amazon были и обзоры, повторявшие одно и то же разными словами. Это может означать, что их писали при помощи ChatGPT или подобных технологий.

По словам автора, он использовал чат-ботов с искусственным интеллектом ChatGPT и Claude из Anthropic, чтобы помочь с мозговым штурмом и генерацией текста, а генератор изображений с искусственным интеллектом Midjourney использовался для иллюстрации романов. Каждая из его книг содержит до 5000 слов и имеет от 40 до 140 изображений, созданных искусственным интеллектом. Он даже разработал серию AI Lore с перекрестными ссылками друг на друга, позволяя читателям снова и снова погружаться во «взаимосвязанные повествования». «Этот подход оказался успешным, и большинство моих читателей стали постоянными покупателями», — сказал Баучер.