Искусственный интеллект — угроза или помощник для человечества

Алгоритм судного дня. Эми Уэбб

Как будет выглядеть конец света, если мир захватит искусственный интеллект, не раз показывали в фантастических фильмах. На самом деле роботы с оружием, как в «Терминаторе», — лишь один из возможных вариантов, а реальное истребление человечества может произойти по-разному.

По мнению авторов книги «Что делать, когда машины начнут делать все», новые возможности вычислительных систем и нейросетей не повод для тревоги. Это просто очередная индустриальная революция, к которой первыми адаптируются те, кто учится взаимодействовать с компьютерами и применять новые технологии в своих повседневных задачах. А что касается рабочих мест, то грамотных специалистов машины не заменят, но станут их верными помощниками.

Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.

Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.

Маск и другие призывают остановить все разработки: от частных компаний и корпораций до правительственных лабораторий по всему миру, в том числе в США и Китае. В последние годы между этими двумя державами идет соревнование, сопоставимое с космической гонкой середины XX века. По мнению футуролога Эми Уэбб, именно у Китая есть все шансы на победу.

«С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов», — комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

«С некоторой точки зрения у человечества в целом есть важная и интересная задача — развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта», — считает эксперт, директор по распространению технологий «Яндекса» Григорий Бакунов.

Уже сегодня машины здорово помогают человеку в разных областях жизни. Это не только автоматизация производств, но и роботы-курьеры, первые машины без водителя, робот-хирург Da Vinci, компьютерные системы, которые проводят комплексный анализ в юридической сфере или выдают максимально точное заключение на основе медицинских анализов и обследований. Оптимисты уверены, что лишенный эмоций и амбиций и не страдающий от выгорания и депрессии искусственный интеллект в будущем сведет на нет человеческий фактор во многих областях и даже поможет решить проблему массового голода. А человечество с его помощью выйдет на новую ступень развития.

Что делать, когда машины начнут делать все. Малькольм Фрэнк, Пол Рериг, Бен Принг

«Вероятный результат противостояния человечества со сверхчеловеческим разумом — полное поражение. В числе подходящих метафор: „10-летний ребенок пытается играть в шахматы против Stockfish 15“, „XI-й век борется с XXI-м веком“ и „Австралопитек пытается бороться с Homo sapiens“. Чтобы визуализировать враждебный сверхчеловеческий ИИ, не представляйте себе безжизненного умного мыслителя, живущего в Интернете и рассылающего злонамеренные электронные письма. Вообразите целую инопланетную цивилизацию, мыслящую со скоростью, в миллионы раз превышающую человеческую, и изначально ограниченную компьютерами, — в мире существ, которые, с ее точки зрения, очень глупы и очень медлительны», — написал Юдковский.

По-настоящему «горячей» тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров.

В каком-то смысле этот сценарий реализуется уже сейчас, поскольку алгоритмы соцсетей диктуют правила игры блогерам и инфлюенсерам, на которых ориентируются миллионы простых пользователей. А в Китае действует система социального кредита. Этот своего рода рейтинг благонадежности граждан и организаций высчитывается автоматически по целому ряду параметров. Пока что интеллектуальные системы стоят на службе правительств и корпораций. Но в каком направлении будут развиваться эти тренды, когда нейросети перестанут подчиняться своим создателям, остается только фантазировать.

Человечество как вид уничтожено пятнадцать лет назад, мир поделен между двумя Едиными Мировыми Разумами, которые продолжают вести между собой войну за ресурсы. Роботу Неженке удалось сохранить независимость от главенствующих систем. Она, как и другие изгои, разыскивает на гигантском кладбище вышедших из строя машин, которое называется Море ржавчины, целые запчасти. Их она использует для торговли с другими одиночками. Но деталей мало, и в какой-то момент Неженка сталкивается с выбором: расстаться с собственной свободой или жизнью.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute — некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, — введение понятия «универсальный базовый доход», который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, «высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели — грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели».

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.