Искусственный интеллект

История взлетов и падений

Методы машинного обучения позволяют одним автоматам распознавать устную речь и записывать ее подобно секретарям-машинисткам прошлых лет, а другим – точно идентифицировать лица или отпечатки пальцев среди десятков миллионов других и обрабатывать тексты, написанные на естественных языках. Благодаря этим же методам самостоятельно движутся автомобили, компьютеры лучше врачей-дерматологов диагностируют меланомы по фотографиям родинок, сделанных с помощью сотовых телефонов, роботы воюют вместо людей; а конвейеры на заводах все больше автоматизируются.

С 2010 года мощность компьютеров позволяет сочетать так называемые большие данные (Big Data) с методами глубокого обучения (Deep Learning), которые основываются на использовании искусственных нейронных сетей. Весьма успешное применение во многих областях (распознавание речи и изображений, понимание естественного языка, беспилотный автомобиль и т.д.) позволяет говорить о возрождении ИИ.

Однако при ближайшем рассмотрении становится очевидно, что работа для людей не пропадает, а трансформируется, требуя новых навыков. Точно так же независимость человеческой личности и ее свобода не подвергаются неминуемой опасности из-за развития ИИ – при условии, однако, что мы останемся бдительными перед лицом вторжения технологий в частную жизнь.

Могут ли машины стать умнее, чем люди? Нет, считает Жан-Габриэль Ганасия: это всего лишь миф, навеянный научной фантастикой. В своей статье он напоминает об основных этапах развития этой отрасли науки, о достижениях современной техники и об этических вопросах, все больше требующих к себе внимания.

ИИ подразумевает не только рациональный анализ и воспроизведение при помощи компьютеров большинства аспектов интеллекта – может быть, лишь за исключением юмора. Машины значительно превышают наши когнитивные способности в большинстве областей, что заставляет нас опасаться некоторых этических рисков. Это риски трех видов: дефицит работы, которая вместо людей будет выполняться машинами; последствия для независимости человека и, в частности, для его свободы и безопасности; опасения, что более «умные» машины будут доминировать над людьми и станут причиной гибели человечества.

Генеративный ИИ способен вызвать всплеск творчества и производительности, но ставит перед человечеством важные вопросы Вообразите себе мир, в котором машины — это художники, авторы или даже экономисты, создающие информационные продукты, которые имитируют человеческий интеллект. Пионер в области информатики Алан Тьюринг впервые предположил возможность достижения машинами такого уровня мастерства в статье 1950 года. Благодаря ChatGPT и другим так называемым «инструментам генеративного искусственного интеллекта» предсказанная им «игра в имитацию» теперь стала реальностью. Создается впечатление, что мы попали во вселенную, некогда существовавшую только в научной фантастике. Но что же такое генеративный ИИ? Генеративный ИИ представляет собой самое впечатляющее достижение в технологиях машинного обучения на сегодняшний день. Он знаменует собой значительный скачок в способности ИИ понимать сложные структуры данных и взаимодействовать с ними и способен вызвать всплеск творчества и производительности. Однако он также поднимает важные для человечества вопросы. Ключевые этапы инноваций определили путь к его нынешнему уровню развития. В 1960-х годах программа под названием ELIZA поразила ученых своей способностью воспроизводить реакции, подобные человеческим. Она была простой и управлялась по установленным правилам, но она стала предшественницей известных нам теперь чат-ботов. Спустя два десятилетия появились искусственные нейронные сети. Эти сети, созданные по аналогии с человеческим мозгом, дали машинам новые навыки, такие как понимание нюансов языка и распознавание изображений. Однако ограниченность набора данных для обучения и недостаточность вычислительных мощностей сдерживали реальный прогресс. Примечательно, что эти два ресурса продолжали ежегодно увеличиваться вдвое, подготавливая почву для третьей волны ИИ в 2000-х годах: глубокого обучения.

Многие результаты, достигнутые с использованием технологий ИИ, превосходят человека: в 1997 году компьютер одержал победу над действующим в то время чемпионом мира по шахматам, а недавно, в 2016 году, другие компьютеры обыграли лучших в мире игроков в го и покер. Компьютеры доказывают или помогают доказывать математические теоремы; автоматически, на основе методов машинного обучения и с помощью огромных массивов данных, объем которых исчисляется в терабайтах (10 в 12-й степени) и даже в петабайтах (10 в 15-й степени), создаются знания.

Также искусственный интеллект используют для создания тренажеров и летательных аппаратов в авиации и при разработке новейших транспортных средств в целом. В робототехнике системы искусственного интеллекта внедряются в различных ботов, устройства для развлечения, например, создание самообучающихся щенков-роботов.

Ссылки по теме

Поначалу, под влиянием первых успехов, исследователи позволяли себе несколько опрометчивые заявления, которые впоследствии неоднократно ставились им в упрек. Так, например, в 1958 году американец Герберт Саймон, позже ставший лауреатом Нобелевской премии по экономике, заявил, что если бы машины допускались к международным соревнованиям, то в ближайшие десять лет они стали бы чемпионами мира по шахматам.

Для создания программ искусственного интеллекта существуют следующие специализированные языки программирования: AIML, IPL (самый первый язык программирования для искусственного интеллекта), Lisp, Smalltalk, STRIPS, Planner, POP-11, С++, Haskell, Prolog, Python (последние широко используется сегодня).

Одним из рисков, вызывающих особую тревогу, является примечательная способность генеративного ИИ рассказывать истории, которые тесно переплетаются с ранее существовавшими убеждениями и точками зрения людей, потенциально усиливая эхо-камеры и идеологические бункеры. Злоумышленники могут использовать эту способность не только с помощью письменного слова: в марте 2022 года было опубликовано видео, сгенерированное искусственным интеллектом, на котором якобы показано, как президент Украины Владимир Зеленский сдается российским войскам. Такие инциденты демонстрируют, как генеративный ИИ может быть использован в качестве оружия для манипулирования политикой, рынками и общественным мнением. Будь то сфабрикованная история, сфальсифицированное изображение или синтезированное видео, творения генеративного ИИ могут быть настолько убедительными, что создают ложное ощущение реальности. Это может привести к распространению дезинформации, разжиганию паники и даже дестабилизации экономических или финансовых систем с беспрецедентной эффективностью и интенсивностью. Это не всегда может быть умышленным: машины могут непреднамеренно распространять дезинформацию в результате галлюцинаций. Угроза, исходящая от ИИ, не ограничивается манипуляциями. Ликвидация рабочих мест является еще одной проблемой, поскольку генеративный ИИ продолжает развиваться, что потенциально приводит к автоматизации задач, которые ранее выполнялись людьми, приводя к потере множества рабочих мест и требуя стратегий трудоустройства и переподготовки. Ранее в этом году ведущие эксперты по ИИ, включая создателя ChatGPT, подписали письмо, предупреждающее, что «снижение риска уничтожения искусственным интеллектом должно стать глобальной приоритетной задачей наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Они повторяли опасения, высказанные десятилетия назад Тьюрингом, который предупреждал, что «существует опасность того, что машины в конечном итоге возьмут под контроль нашу жизнь». Мы стоим на перекрестке технологий и этики. Генеративный ИИ с его огромными перспективами и глубокими экзистенциальными вопросами уже нельзя повернуть вспять. Используя его преобразующую силу, нам крайне важно помнить не теряющий актуальности совет Тьюринга. Генеративный ИИ — это монументальный сдвиг, который требует неусыпного надзора, новой нормативно-правовой базы и непоколебимой приверженности этическим, прозрачным, поддающимся контролю инновациям, которые сочетаются с общечеловеческими ценностями.

Исследования не прекратились, но пошли в новых направлениях. Ученые заинтересовались психологией памяти, механизмами понимания, которые они пытались имитировать на компьютере, и ролью знаний в мыслительном процессе. Это привело к появлению значительно развившихся в середине 1970-х годов методов семантического представления знаний, а также к созданию экспертных систем, названных так потому, что для воспроизведения мыслительных процессов в них использовались знания квалифицированных специалистов. В начале 1980-х годов на экспертные системы возлагались большие надежды в связи с широкими возможностями их применения, например, для медицинской диагностики.

Такие интеллектуальные системы стали применяться для выполнения самых различных задач (идентификация отпечатков пальцев, распознавание речи и т. д.), а комбинации различных методов из области ИИ, информатики, искусственной жизни и других дисциплин использовались для создания гибридных систем.

Разумеется, ИИ не является новой концепцией в экономике и финансах. Традиционные формы ИИ (расширенная аналитика, машинное обучение, прогнозное глубокое обучение) уже давно используются для обработки числовой информации, оценки рыночных тенденций и адаптации финансовых продуктов. Что отличает генеративный ИИ, так это его способность более глубоко анализировать и более творчески интерпретировать сложные данные. Анализируя сложные взаимосвязи между экономическими показателями или финансовыми переменными, он выдает не только прогнозы, но и альтернативные сценарии, показательные диаграммы и даже фрагменты кода, которые могут значительно изменить работу отрасли. Переход от традиционного к генеративному ИИ открыл новую эру возможностей как в государственной, так и в частной сферах. Органы государственного управления начинают использовать эти более интеллектуальные инструменты для улучшения обслуживания граждан и преодоления нехватки рабочей силы. Центральные банки обращают на него внимание, видя в генеративном ИИ высокий потенциал к анализу огромных объемов банковских данных для уточнения экономических прогнозов и повышения эффективности мониторинга рисков, включая мошенничество. Инвестиционные компании обращаются к генеративному ИИ для обнаружения незначительных изменений в ценах акций и настроениях участников рынка, опираясь на больший массив знаний, чтобы предлагать более творческие варианты, создавая возможности для потенциально более прибыльных инвестиционных стратегий. Между тем, страховые компании изучают возможности генеративных моделей в создании персонализированных полисов, которые более точно соответствуют индивидуальным потребностям и предпочтениям.

Однако популярность термина «искусственный интеллект» во многом объясняется его ошибочным толкованием – в частности, когда им обозначают некую искусственную сущность, наделенную разумом, которая якобы в состоянии конкурировать с людьми. Эта мысль из области древних легенд и преданий, звучащая как миф о Големе, с недавних пор реанимируется такими нашими современниками, как британский физик Стивен Хокинг (1942-2018 гг.), американский предприниматель Илон Маск и американский инженер Рэй Курцвейл, а также сторонниками создания так называемого сильного или общего ИИ. Не будем, впрочем, говорить о данном понимании этого термина, ибо оно скорее представляет собой появившийся под влиянием научной фантастики продукт богатого воображения, а не осязаемую научную реальность, подтвержденную опытами и эмпирическими наблюдениями.

Ученые также прибегают к этим методам для определения функций биологических макромолекул, в частности белков и геномов, исходя из последовательности их компонентов – аминокислот для белков и оснований для геномов. В целом, во всех науках наблюдается серьезный эпистемологический разрыв, обусловленный качественным отличием экспериментов in silico – получивших такое название потому, что выполняются на основе больших данных с помощью мощных процессоров с кремниевыми чипами – от экспериментов in vivo (на живой ткани) и особенно in vitro (в стеклянных пробирках и чашках Петри).

Экономика и финансы

И наконец, в противоположность некоторым утверждениям, машины не несут в себе экзистенциального риска для человечества, поскольку их автономия носит лишь технический характер и в этом смысле не соответствует цепочкам материальной причинности, идущим от информации к принятию решений. Кроме того, машины не самостоятельны в моральном плане, и потому, даже если иногда они сбивают нас с толку и вводят в заблуждение своими действиями, они все же не обладают собственной волей и подчиняются тем целям, которые мы перед ними ставим.

С конца 1990-х годов ИИ стали объединять с робототехникой и интерфейсом «человек – машина» с целью создания интеллектуальных агентов, предполагающих наличие чувств и эмоций. Это привело, среди прочего, к появлению нового исследовательского направления – аффективных (или эмоциональных) вычислений (affective computing), направленных на анализ реакций субъекта, ощущающего эмоции, и их воспроизведение на машине, и позволило усовершенствовать диалоговые системы (чат-боты).

Искусственный интеллект (ИИ) – это отрасль науки, официально увидевшая свет в 1956 году на летнем семинаре в Дартмут-колледже (Хановер, США), который организовали четверо американских ученых: Джон Мак-Карти, Марвин Мински, Натаниэль Рочестер и Клод Шеннон. С тех пор термин «искусственный интеллект», придуманный, вероятнее всего, с целью привлечения всеобщего внимания, стал настолько популярен, что сегодня вряд ли можно встретить человека, который никогда его не слышал. С течением времени этот раздел информатики развивался все больше, а интеллектуальные технологии в последние шестьдесят лет сыграли важную роль в изменении облика мира.

Идеи создания машин, обладающих сознанием, возникали еще в Древней Греции. В средние века и Новое время ученые создавали механизмы, заменяющие человеческий труд, например, в 17 веке Паскаль изобрел первую механическую цифровую вычислительную машину, в 19 веке Джозеф-Мари Жаккард создал программируемый ткацкий станок с инструкциями на перфокартах. В 1937 году Алан Тьрюнинг обнародовал свое изобретение – универсальную машину Тьюринга, в 1939 году в Нью-Йорке были представлены первый механический человек Electro с собакой Sparco.

Самообучающиеся интеллектуальные системы широко применяются практически во всех сферах, особенно в промышленности, банковском деле, страховании, здравоохранении и обороне. Многие рутинные процессы теперь можно будет автоматизировать, что преобразит наши профессии и, в конечном итоге, устранит некоторые из них.

Центральным понятием в искусственном интеллекте является агент. Под агентов подразумевается то, что воспринимает окружающую среду и воздействует на нее через исполнительные механизмы. Например, в Интернете вещей и робототехнике это восприятие происходит через различные датчики.

Для Джона Мак-Карти и Марвина Мински, как и для прочих организаторов летнего семинара в Дартмут-колледже, ИИ изначально представлял собой область науки, занимающейся компьютерным моделированием различных способностей интеллекта, идет ли речь об интеллекте человеческом, животном, растительном, социальном или филогенетическом. В основе этой научной дисциплины лежит предположение о том, что все когнитивные функции, как то обучение, мышление, расчет, восприятие, память, даже научное открытие или художественное творчество, могут быть описаны с точностью, дающей возможность запрограммировать компьютер на их воспроизведение. На протяжении более чем шестидесяти лет существования ИИ не появилось ничего, что позволило бы неоспоримо доказать либо опровергнуть гипотезу, которая продолжает оставаться открытой и побуждает ученых к новым изобретениям.

Генеративный ИИ развивается с головокружительной скоростью, расширяя границы возможностей ИИ в экономике и финансах и предлагая новые решения старых проблем. Некоторые люди настроены скептически. Они говорят, что, подобно стохастическому попугаю, ИИ может создавать бессмысленные и ложные факты, явление, называемое «галлюцинациями», и он на самом деле не понимает значения этих слов. Они отмечают, что знания ChatGPT ограничены последней датой обучения. Возможно. Однако как долго эти аргументы будут оставаться актуальными, учитывая умопомрачительные темпы инноваций? Тем не менее, первоначальный ажиотаж вокруг генеративного ИИ уступил место растущим и искренним опасениям. Традиционные проблемы, связанные с ИИ, такие как усиление существующих предубеждений в данных для обучения или отсутствие прозрачности решений, вновь обрели актуальность. Возникли и новые опасения.