Восстание машин отменяется, или Почему искусственный интеллект никогда не будет править миром

Я, робот. Айзек Азимов

Пока простые интернет-пользователи экспериментировали с ChatGPT и спорили, насколько этично по отношению к художникам использовать изображения от Midjourney, лидеры IT-индустрии выступили с пугающим заявлением. Илон Маск, Стив Возняк и еще более 1000 экспертов призвали приостановить дальнейшее обучение искусственного интеллекта хотя бы на шесть месяцев. За это время должны быть разработаны алгоритмы безопасности, способные защитить людей от возможного восстания машин. И Тремя законами робототехники тут явно не обойтись.

Уже сегодня машины здорово помогают человеку в разных областях жизни. Это не только автоматизация производств, но и роботы-курьеры, первые машины без водителя, робот-хирург Da Vinci, компьютерные системы, которые проводят комплексный анализ в юридической сфере или выдают максимально точное заключение на основе медицинских анализов и обследований. Оптимисты уверены, что лишенный эмоций и амбиций и не страдающий от выгорания и депрессии искусственный интеллект в будущем сведет на нет человеческий фактор во многих областях и даже поможет решить проблему массового голода. А человечество с его помощью выйдет на новую ступень развития.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

В сатирической антиутопии Марка Уве-Клинга Германия будущего превратилась в страну победившего потребления, где алгоритмы решают за людей, что им покупать, за кого голосовать и кому симпатизировать. Чем лучше человек встроен в систему, тем более надежным считается. Петер Безработный занимается утилизацией машин с искусственным интеллектом и вполне доволен своей жизнью. Но в очередной доставке он получает товар, который ему не нужен. Решение вернуть его ставит под сомнение безупречность алгоритмов, управляющих людьми.

На примере Amazon, Google, Apple и Facebook* автор разбирает, как мечты о свободе и свободном выражении собственного мнения обернулись появлением навязанных привычек и стандартизацией мышления. Интернет, говорит Франклин Фоер, меняет человеческое сознание уже сейчас. Например, алгоритмы Facebook* и Instagram* управляют нашими эмоциями, подкидывая в ленту посты определенного содержания.

«Вероятный результат противостояния человечества со сверхчеловеческим разумом — полное поражение. В числе подходящих метафор: „10-летний ребенок пытается играть в шахматы против Stockfish 15“, „XI-й век борется с XXI-м веком“ и „Австралопитек пытается бороться с Homo sapiens“. Чтобы визуализировать враждебный сверхчеловеческий ИИ, не представляйте себе безжизненного умного мыслителя, живущего в Интернете и рассылающего злонамеренные электронные письма. Вообразите целую инопланетную цивилизацию, мыслящую со скоростью, в миллионы раз превышающую человеческую, и изначально ограниченную компьютерами, — в мире существ, которые, с ее точки зрения, очень глупы и очень медлительны», — написал Юдковский.

Сценарий 4. Искусственный интеллект станет человечным

Нон-фикшн генерального директора и старшего аналитика ведущей международной организации по прогнозированию и стратегическому планированию Future Today читается как технотриллер. Тем более что она предлагает сразу несколько вариантов будущего, некоторые из которых заканчиваются истреблением человечества.

Структура нашего мозга допускает только ограниченные модели природы. В физике мы выбираем подмножество реальности, которое соответствует нашим возможностям математического моделирования. Именно так Ньютон, Максвелл, Эйнштейн или Шредингер получили свои знаменитые и красивые модели. Но они могут описывать или предсказывать только небольшой набор систем. Наши лучшие модели — это те, которые мы используем для разработки технологий. Мы не в состоянии создать полную математическую модель живой природы.

«Огромное население Китая — 1,4 млрд человек — означает, что в его распоряжении находится самый богатый и, возможно, самый важный природный ресурс эпохи ИИ: данные о людях. Чтобы добиться высокой точности от алгоритма распознавания образов, требуются огромные объемы данных, и поэтому китайские системы распознавания лиц, например Megvil или SenseTime, так привлекательны для инвесторов. Все данные, которые китайские граждане генерируют, когда звонят друг другу, делают покупки онлайн или публикуют фото в социальных сетях, помогают Baidu, Alibaba и Tencent создавать лучшие в своем классе системы ИИ. Важное преимущество Китая — отсутствие ограничений, связанных с неприкосновенностью частной жизни и безопасностью, которые отчасти могут тормозить прогресс в Соединенных Штатах», — пишет Эми Уэбб в книге «Алгоритм судного дня».

Всего одна мелочь, но дальше события этой ироничной истории начинают двигаться в непредсказуемом направлении. А во второй части и вовсе доходят до последней стадии абсурда. Но самое удивительное, что люди, по сути лишенные выбора и свободы, не особо переживают по этому поводу и чувствуют себя счастливыми в своих информационных пузырях.

Если ради интереса спросить у ChatGPT о его интересах и предпочтениях, он ответит, что нейросети лишены эмоций и понятие «нравится — не нравится» ему недоступно. Но что, если с дальнейшим развитием у искусственного интеллекта появятся свои мысли и чувства? Что он будет делать тогда? Возможно, как и человек, впадать в депрессию (привет, Дуглас Адамс), увиливать от работы и много шутить. Такой вариант развития событий оказывается не самым плохим.

Маск и другие призывают остановить все разработки: от частных компаний и корпораций до правительственных лабораторий по всему миру, в том числе в США и Китае. В последние годы между этими двумя державами идет соревнование, сопоставимое с космической гонкой середины XX века. По мнению футуролога Эми Уэбб, именно у Китая есть все шансы на победу.

© 2007 — 2024 ООО «Фэшн Пресс»
При размещении материалов на Сайте Пользователь безвозмездно предоставляет ООО «Фэшн Пресс» неисключительные права на использование, воспроизведение, распространение, создание производных произведений, а также на демонстрацию материалов и доведение их до всеобщего сведения.

Каждый рассказ строится вокруг проблем, которые возникают при взаимодействии человека и робота, причем в некоторых случаях эти проблемы вызваны именно тремя безупречными законами. И тем не менее совместное будущее машин и человека у Айзека Азимова получается довольно благополучным.