Почему искусственный интеллект угроза человечеству

Журналисты пока еще нужны?

А тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).

В докладе Gladstone AI содержится призыв к новым решительным шагам, направленным на противостояние этой угрозе, включая создание нового агентства по искусственному интеллекту и введение «чрезвычайных» нормативных ограничений на то, сколько вычислительной мощности может быть использовано для обучения моделей ИИ.

Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен. Главное, чего ему на сегодняшний день не хватает, — автономной возможности думать.

Джереми Харрис из Gladstone AI заявил, что к таким поразительным выводам привел «беспрецедентный уровень доступа» его команды к официальным лицам в государственном и частном секторе. Представители компании также отметили, что они общалась с техническими специалистами и руководством компаний ChatGPT, владеющей OpenAI, Google DeepMind, Facebook Meta и Anthropic.

Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог — компьютер изведет человечество на скрепки.

Почти год назад Джеффри Хинтон, известный как «крестный отец искусственного интеллекта», уволился из Google и рассказал о технологии, в разработке которой он принимал участие. Хинтон заявил, что существует вероятность 10% того, что ИИ приведет к вымиранию человечества в течение следующих трех десятилетий. В июне прошлого года Хинтон, десятки других лидеров индустрии ИИ, ученых и других людей подписали заявление, в котором говорится, что снижение экзистенциальных рисков, которые несет использование искусственного интеллекта, должно стать глобальным приоритетом.

«С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов», — комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

«Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) — аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.

Что такое Нейронные сети и какое у них будущее?

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute — некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, — введение понятия «универсальный базовый доход», который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Но кое-что Эмма сделала все же хуже журналистки. «Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, — признавался редактор FT. — А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры».

«С некоторой точки зрения у человечества в целом есть важная и интересная задача — развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта», — считает эксперт, директор по распространению технологий «Яндекса» Григорий Бакунов.

«Один человек в известной лаборатории искусственного интеллекта выразил мнение, что если конкретная модель ИИ следующего поколения когда-либо будет выпущена в открытый доступ, то будет „очень плохо“, — говорится в докладе. — Потому что потенциальные способности модели убеждать людей могут „сломать демократию“, если они будут использованы в таких областях, как вмешательство в выборы или манипулирование избирателями».

В докладе Gladstone AI также говорится, что конкуренция подталкивает компании к ускорению разработки технологий искусственного интеллекта «в ущерб безопасности». Это создает угрозу, так как наиболее передовые системы ИИ могут быть «украдены» и «использованы в качестве оружия» против Соединенных Штатов. Эти выводы пополнили растущий список предупреждений о существовующих рисках, связанных с ИИ, в том числе и от самых влиятельных представителей отрасли.

Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.

По-настоящему «горячей» тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров.