Искусственный интеллект: время слабых

Успехи ИИ

Вторым важным фактором развития отрасли стала оцифровка и ручная классификация текстов, фотографий и звуковых записей, а также построение всеобъемлющих баз знаний в цифровом формате. Благодаря ставшим доступными большим объёмам качественно классифицированных данных стало возможно тренировать алгоритмы машинного обучения на больших выборках. Таким образом, точность классификации выросла [22], а машинный перевод превратился из грубого инструмента в систему широкой применимости. Так, известный большинству пользователей переводчик компании Google работает за счёт огромной базы параллельных текстов, т.е., текстов идентичного значения на разных языках, дополняемой пользователями, что позволяет обучать систему и улучшать качество перевода прямо во время работы [8].

Необходимо отметить, что классификация алгоритмических проблем на проблемы сильного и слабого ИИ не является исторической константой; так, на начало 2016 г. считалось, что для игры в Го нужен сильный ИИ. После впечатляющей победы алгоритма AlphaGo [26] над действующим чемпионом мира в марте 2016 г. игра в Го стала проблемой слабого ИИ.

Ожидается, что хирургия, в том числе и микрохирургия, требующая точного вмешательства в тело пациента, сможет быть автоматизирована в ближайшем будущем. В 2016 г. был представлен в качестве демонстратора технологий робот STAR [24], способный проводить операции на мягких тканях. При достижении успехов в распознавании образов можно ожидать роботизации всех хирургических процедур удаления тканей, что позволит сделать хирургию более доступной и снизить нагрузку на лечащий персонал.

Наиболее сложной задачей для автономных транспортных средств считается участие в дорожном движении в связи с ограниченной свободой манёвра и множеством возможных ситуаций, возникающих на дороге. В 2018 г. самым высокоразвитым решением на рынке считается автопилот Audi A8, способный автономно двигаться в условиях пробок на автострадах [20]. В марте 2017 г. представители BMW обещали к 2021 году представить автомобиль, способный без вмешательства водителя доставлять пассажиров в место назначения [19].

Принадлежащий Google стартап DeepMind разрабатывает искусственный интеллект, который на данный момент является самым опасным для человечества, считает Илон Маск. Он допускает, что уже через пять лет компьютерное мышление превзойдет человека

Расширение границ применимости ИИ привело к повышенному интересу военных и околовоенных кругов к возможностям автономных систем. Помимо НИОКР по упомянутым выше темам, в международном сообществе разгорелась дискуссия о возможном ограничении или даже запрете робототехнических комплексов. Наибольшую известность получила кампания «Stop Killer Robots» [32], активно требующая полного запрета на разработку автономных боевых систем по этическим причинам. Однако в этой связи стоит упомянуть не только боевых роботов, но и системы классификации, влияющие на решение о применении силы исключительно по метаданным, даже не обращая внимания на содержание писем подозреваемых [21].

Введение

В сумме оба фактора позволили решать за приемлемое время всё более сложные задачи, сократив время обработки накопленных массивов данных. На начало 2018 г. искусственный интеллект добился нескольких ярких успехов, освещённых СМИ, проник в различные отрасли экономики. Однако было бы ошибкой считать ИИ «серебряной пулей», средством, способным решить все проблемы человечества.

Если не принимать во внимание известное изречение Артура Кларка, согласно которому «любая достаточно развитая технология неотличима от магии», современные исследования в области ИИ произрастают из областей математики, робототехники, статистики и информатики; из вышесказанного в этой статье следует, что любой программный или программно-аппаратный комплекс, реализующий ИИ, в первую очередь, решает несколько математических проблем, зачастую основываясь на заранее собранных и классифицированных данных.

Выступая в Массачусетском технологическом институте, Маск говорил, что это может быть самой существенной угрозой человечеству: «С искусственным интеллектом мы призываем демона. Во всех историях про парня с пентаграммой и святой водой этот парень уверен, что сможет контролировать демона. Не выходило». В 2018-м он отмечал, что сейчас искусственный интеллект во многом сосредоточен в руках крупнейших компаний: «Есть очень сильная концентрация мощи искусственного интеллекта, в особенности в Google/DeepMind. Я очень хорошо отношусь к [сооснователю Google] Ларри Пейджу и [основателю DeepMind] Демису Хассабису, но я думаю, что необходим некоторый независимый надзор».

За полвека исследований тема искусственного интеллекта обросла массой мифов и ложных представлений как о возможностях технологий, так и об их недостатках. Так, в области машинного перевода зачастую можно встретить утверждение о низкокачественных автоматических переводчиках 1960-х годов, превративших фразу «дух бодр, плоть слаба» в «водка хороша, но мясо протухло» при переводе с английского языка на английский через русский. Изначально этот пример был упомянут в качестве образца неправильного перевода человеком, вооружённым лишь словарём, грамматикой и излишне буйным воображением; достоверных свидетельств такой работы систем машинного перевода нет [14].

В то время, как компьютеры успешно решают «сложные» задачи вроде символических и численных вычислений и обыгрывают гроссмейстеров в шахматы, в списке нерешённых проблем много задач, отличающихся относительно простой формулировкой: классификация «неизвестных» образов без тренировки на заранее классифицированных образцах (например, распознавание яблок на фотографии, если известны только классы «вишня» и «груша»), моторика, рассуждения от «здравого смысла». В литературе этот феномен известен как «парадокс Моравека» [17]. Во многом это отображает человеческое восприятие: создававшиеся миллионами лет эволюцией способности, присутствующие у любого взрослого человека, кажутся само собой разумеющимися, в то время, как математические проблемы вроде нахождения кратчайшего пути на карте кажутся неестественными и их решение малоочевидным.

Искусственный интеллект, который разрабатывает принадлежащая Google компания DeepMind, вызывает большие опасения, заявил гендиректор Tesla Илон Маск в интервью The New York Times. Маск — давний сторонник контроля за разработкой компьютерного мышления, и, по словам миллиардера, DeepMind на данный момент беспокоит его больше всего.