Что умеет искусственный интеллект и насколько разработчики его контролируют? Рассказывает Алексей Шпильман

— И последний вопрос на сегодня. Какие области, связанные с искусственным интеллектом, интересны лично вам?

Изначально колыбелью искусственного интеллекта были IT-компании. Они сильно продвинулись в работе с ним, но в наиболее полезных для их бизнеса областях: рекомендательных системах, диалогах с пользователями, текстах. Но нельзя внедрить такие же методы в производственные решения, иначе ничего не работает. Промышленные компании развивают собственные методы с самого начала, но у них пока недостаточно большие команды разработчиков. Думаю, это вопрос мотивации, образования и подбора кадров. Мало кто думает: «Я хочу заниматься искусственным интеллектом, пойду-ка в промышленность». Обычно все идут в Apple, Google, «Яндекс» или нечто похожее. Надо менять это мнение, потому что в промышленности не менее интересные задачи.

— Есть боты, которые оказывают психологическую помощь, если не с кем поговорить. Так что кто-то дружит с ботами уже прямо сейчас. Думаю, таких случаев станет больше: эта индустрия развивается. Но последствия дружбы с искусственным интеллектом мне пока непонятны. Если таких умных ботов станет много, можно завести кучу виртуальных друзей и забыть про настоящих, прекратить человеческое общение.

Мне сложно дать однозначный ответ, насколько реально восстание машин. Искусственный интеллект — это инструмент, и использовать его можно по-разному. Можно готовить с его помощью мясо, а можно — красть шоколадки из магазина. Но даже если робот начнет делать что-то плохое, это еще не говорит о том, что у него есть сознание.

Инженер и большой поклонник «Звездного пути» Боб Йоханссон мечтал своими глазами увидеть далекое будущее. Для этого он заключил договор с криокомпанией, чтобы та сохранила его мозг после смерти. Вот только за 117 лет, что его разум находился в заморозке, эта компания обанкротилась, а ее «клиенты» были проданы на аукционе. Бобу с его инженерным прошлым повезло: его оцифрованную личность, не имеющую тела, загружают в межзвездный корабль. И впереди у него — космос, невероятные приключения и неожиданные проблемы.

«Огромное население Китая — 1,4 млрд человек — означает, что в его распоряжении находится самый богатый и, возможно, самый важный природный ресурс эпохи ИИ: данные о людях. Чтобы добиться высокой точности от алгоритма распознавания образов, требуются огромные объемы данных, и поэтому китайские системы распознавания лиц, например Megvil или SenseTime, так привлекательны для инвесторов. Все данные, которые китайские граждане генерируют, когда звонят друг другу, делают покупки онлайн или публикуют фото в социальных сетях, помогают Baidu, Alibaba и Tencent создавать лучшие в своем классе системы ИИ. Важное преимущество Китая — отсутствие ограничений, связанных с неприкосновенностью частной жизни и безопасностью, которые отчасти могут тормозить прогресс в Соединенных Штатах», — пишет Эми Уэбб в книге «Алгоритм судного дня».

За громким названием «Алгоритм судного дня» прячется подробный рассказ об истории вычислительных машин, современных разработках, связанных с искусственным интеллектом, а также жутковатый и реалистичный прогноз до 2069 года. Вы узнаете о программе, способной генерировать и обучать дочерние нейросети, и разобщенных племенах ИИ из Китая и Северной Америки, каждое из которых развивается по своим правилам, а также представите, что будет, когда заработает цифровая кастовая система.

— Почему в таких областях, как медицина, роботов пока не используют?

Это как с автомобилем — до какого-то момента в аварии виноват водитель, но в какой-то — уже производитель. Водитель должен проверять масло или тормоза. Если у машины отказали тормоза, потому что человек не проверял их, то водитель виноват. Если он все проверил, а тормоза все равно отказали, то это вина производителя.

— Как раз в медицине, но там единичные случаи использования ИИ. Это связано с тем, что медицина — одна из самых сильно регулируемых законодательством областей. Если ученые захотят развивать предиктивную диагностику, им понадобится большой массив данных, а их очень тяжело собрать. Речь ведь не просто о персональных данных, а об очень личных. Ни один пациент не захочет, чтобы о его диагнозе кто-то случайно узнал.

В сатирической антиутопии Марка Уве-Клинга Германия будущего превратилась в страну победившего потребления, где алгоритмы решают за людей, что им покупать, за кого голосовать и кому симпатизировать. Чем лучше человек встроен в систему, тем более надежным считается. Петер Безработный занимается утилизацией машин с искусственным интеллектом и вполне доволен своей жизнью. Но в очередной доставке он получает товар, который ему не нужен. Решение вернуть его ставит под сомнение безупречность алгоритмов, управляющих людьми.

В начале 1980-х планета пережила Третью мировую войну, ученые изобрели гипердвигатель и позитронный мозг и начали активное освоение Солнечной системы, которое возможно только при функционировании роботов. А чтобы они не навредили своим создателям, были придуманы Три закона робототехники:

В каком-то смысле этот сценарий реализуется уже сейчас, поскольку алгоритмы соцсетей диктуют правила игры блогерам и инфлюенсерам, на которых ориентируются миллионы простых пользователей. А в Китае действует система социального кредита. Этот своего рода рейтинг благонадежности граждан и организаций высчитывается автоматически по целому ряду параметров. Пока что интеллектуальные системы стоят на службе правительств и корпораций. Но в каком направлении будут развиваться эти тренды, когда нейросети перестанут подчиняться своим создателям, остается только фантазировать.

— Искусственный интеллект научился классно рисовать картинки на основе запросов от пользователей. По такому принципу работают DALL-E 2, Stable Diffusion и MidJourney. С последней нейросетью недавно приключился такой анекдот: в Колорадо проходил конкурс живописи и в нем победила картина Джейсона Аллена, нарисованная с помощью этой нейросети. Потом этот случай еще долго обсуждали в соцсетях: художника критиковали за то, что он подал свою работу наравне с другими.