За весной придет зима»: ученый предсказал, чем закончится ажиотаж вокруг ИИ

Непрекращающийся ажиотаж вокруг искусственного интеллекта подпитывает инвестиционный бум и бурный рост акций технологических компаний. Однако экономист Массачусетского технологического института Дарон Аджемоглу считает, что ИИ не оправдает шумиху и не произведет экономическую революцию.

В последние годы на страницах российских СМИ не раз возникала тема «заимствованных» или вопиюще непрофессиональных диссертаций. Среди людей, не имеющих никакого отношения к науке, почему-то стало модным считаться «учеными». В эпоху продвинутых нейросетей каждому желающему обзавестись заветной «корочкой» можно будет не опасаться разоблачений. ИИ выдаст ему текст, к которому «комар носа не подточит», не говоря уже о самой взыскательной аттестационной комиссии. Таким образом, лжеученые станут совершенно неотличимы от подлинных подвижников науки. Впрочем, и самые талантливые ученые вряд ли смогут конкурировать с ИИ.

Дженсен Хуанг, генеральный директор Nvidia (компании, само название которой стало синонимом бума ИИ), прогнозирует, что растущий спрос на услуги ИИ потребует в ближайшие годы расходов на модернизацию оборудования центров обработки данных в размере 1 триллион долларов. Однако в отношении подобных прогнозов начал расти скептицизм, отчасти потому, что инвестиции в ИИ привели к значительному росту расходов. У таких компаний как Microsoft и Amazon, эти расходы превышают их доходы. Но большинство инвесторов готовы платить высокую премию за акции, которые могут вырасти на волне ИИ. А могут и не вырасти.

Аджемоглу считает, что ИИ также не сможет автоматизировать физические работы, такие как строительство или уборка. На данный момент ИИ может выполнять лишь некоторые виды деятельности с некоторым человеческим надзором, например, в программировании, но в большинстве видов работ заменить человека модели не могут.

На фоне этих принципиально новых и трагических вызовов возникает вполне традиционный вопрос: «Что делать?» Можно вспомнить три закона робототехники писателя-фантаста Айзека Азимова. Первый закон категорически запрещает роботу вредить людям, второй — предписывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, третий закон диктует роботу защищать свою жизнь, не нарушая первых двух. Вопрос лишь в том, как этого достигнуть.

Американский миллиардер, основатель компании SpaceX, генеральный директор компании Tesla и владелец социальной сети X (заблокирована на территории России) Илон Маск заявил, что вероятность конца света из-за вышедшего из-под контроля искусственного интеллекта составляет примерно 10–20%. Высказывания бизнесмена прозвучали в рамках его выступления на семинаре под названием Great AI Debate («Великие дебаты об искусственном интеллекте») на четырехдневном саммите Abundance Summit, пишет Business Insider.

Особенно это относится к людям творческих профессий. В самом недалеком будущем нейросети смогут писать репортажи и аналитические статьи значительно качественнее профессиональных журналистов и политологов, поскольку обладают безграничным объемом информации и безупречным логическим мышлением. Можно предположить, что и произведения электронных поэтов, романистов и кинематографистов будут превосходить по популярности сочинения их человеческих конкурентов, поскольку смогут в неизмеримо большей степени учесть вкусы и предпочтения основной массы населения. Что же остается делать этим творцам? Переквалифицироваться в управдомы, sorry, в программисты? Но программистов и без того достаточно, более того, «умные машины», по-видимому, смогут самостоятельно самосовершенствоваться.

По подсчетам экономиста, в течение следующего десятилетия лишь небольшой процент всех рабочих мест — около 5% — могут быть заняты или, по крайней мере, в значительной степени поддержаны ИИ. Это хорошие новости для работников, но очень плохие для компаний, вкладывающих миллиарды в технологию в ожидании, что она приведет к резкому росту производительности. «Много денег будет потрачено впустую, — считает Аджемоглу. — Из этих 5% не получится экономической революции».

Другой сценарий, особенно тревожащий меня как адвоката, — это не только установление с помощью ИИ тотального контроля за жизнью человека (это уже повсеместно происходит), но и манипулирование этой жизнью. Уже сегодня ИИ демонстрирует удивительные способности прогнозировать будущее. Причем это касается не только курса акций или изменения спроса и предложения, но и военно-политических событий. Возникает вопрос: а не приведет ли это к тому, что ИИ будет навязывать как отдельному человеку, так и человечеству в целом именно тот образ мышления и жизни и те сценарии развития, которые представляются ему желательными? Ведь люди, включая политических деятелей и военных руководителей, принимают решения на основании получаемой ими информации.

Можно утешить себя мыслью, что так и было запрограммировано Творцом Вселенной и законами эволюции — на смену homo sapiens должны прийти электронные «боги». Это значительно реальнее, чем перспектива «сверхчеловека» из плоти и крови, созданного с помощью генной инженерии и тех или иных биотехнологий, о чем в свое время мечтали Лев Троцкий или братья Стругацкие. Впрочем, возможно также создание гибрида человека и машины путем имплантирования в человеческий мозг специальных чипов, неизмеримо расширяющих его интеллектуальный потенциал. В зависимости от материальных возможностей каждый человек сможет приобрести себе тот или иной уровень интеллекта — вот вам и претворение в жизнь еще одной антиутопии — «О дивный новый мир» Олдоса Хаксли.

Существуют десятки сценариев, каким именно образом человечество может понести необратимый ущерб в результате дальнейшего совершенствования искусственного интеллекта. Мне бы хотелось остановиться на нескольких, быть может, не самых захватывающих и «научно-фантастических», но наиболее реалистичных.

Ранее международная команда ученых под руководством экспертов из испанского Университета Ровиры и Вирхилия (Universitat Rovira i Virgili) выявила, что искусственный интеллект не справляется с грамматикой. Выводы совместного исследования опубликованы на сайте университета. Эксперимент показал, что люди легко распознают грамматические ошибки в предложении, а ИИ — нет.

Очевидно также, что ИИ способен до предела сузить пространство научной и общественно-политической дискуссии. Ведь он и есть тот самый «Большой брат», который «знает как надо». На все вопросы у него мгновенно найдутся «единственно правильные» ответы. И вполне вероятно, что эти ответы будут выдержаны в духе пресловутой тоталитарной «политкорректности» и «культуры отмены». Или, например, глобальной гегемонии какой-то одной сверхдержавы. Как ни крути, а ИИ несет на себе отпечаток образа мыслей его создателей.

Эти предложения вполне можно было бы принять за основу, хотя некоторые эксперты считают, что приостановки обучения нейросетей недостаточно: речь должна идти о полном запрете на их создание. Но, как говорится, «суждены нам благие порывы. «. Люди, подписавшие письмо, — визионеры и идеалисты, а мир живет по законам жестокой конкуренции. Политики, как известно, не слишком охотно прислушиваются к пожеланиям ученых и экспертов. Особенно когда на кону стоит лидерство в экономическом соревновании и триумф в военной сфере. Вспомним, как реагировали лидеры США на призывы ведущих физиков остановить разработку и совершенствование ядерного оружия. Или как Н.С. Хрущев ополчился на академика Андрея Сахарова, указавшего на опасность испытаний сверхмощных термоядерных бомб. Вот и сегодня, скорее всего, руководители ведущих стран мира будут рассуждать примерно так: «Ну хорошо, мы приостановим исследования в области нейросетей в своей стране, а наши противники пойдут дальше. И тогда мы в скором времени отстанем уже навсегда, ибо ИИ развивается с головокружительной быстротой». Но даже если то или иное правительство и прикажет своим ученым остановиться, всегда найдется некий «инженер Гарин» или «доктор Стрейнджлав», который возомнит себя земным богом и, наплевав на все запреты, продолжит азартно увлекать человечество в бездну. Кроме того, существуют сверхмощные транснациональные корпорации, для которых никакое правительство не указ.

Каким бы многообещающим ни был искусственный интеллект, маловероятно, что он оправдает инвестиции в технологические компании и нынешний ажиотаж вокруг себя. Об этом в комментарии Bloomberg заявил профессор Дарон Аджемоглу. Искусственный интеллект и появление новых технологий занимают важное место в работах Аджемоглу по экономике на протяжении многих лет. Он давно предупреждает, что безумие, связанное с искусственным интеллектом, на и в высших эшелонах власти зашло слишком далеко. При этом Аджемоглу не является противником искусственного интеллекта и понимает его потенциал.

В те времена имели место случаи, когда системы раннего оповещения выдавали ложный сигнал о ядерной атаке со стороны вероятного противника, и только решительные и крайне рискованные действия людей на командных пунктах позволяли предотвратить ядерную войну. В том случае, если ИИ полностью заменит человека в таких системах, любая его ошибка будет способна привести к пуску ракет с ядерными боеголовками и как следствие — к глобальной катастрофе.

Всем памятна сфабрикованная Отто фон Бисмарком «Эмсская депеша», спровоцировавшая войну Франции и Пруссии в 1870 году. Или недавние «утечки из Пентагона», породившие во всем мире хаос и смятение. ИИ сможет выдавать такого рода «депеши» и «утечки», сфабрикованные на неотличимом от подлинников уровне, в неограниченном количестве. Более того, как уже отмечалось, обладая «сверхчеловеческим» интеллектом и развитым самосознанием, он в один далеко не прекрасный момент может прийти к роковому для нас выводу, что люди являются лишними на земле, и принять решение об их ликвидации. Все это напоминает сцену из гениального романа М.А. Булгакова, когда Воланд, самовольно вселившись со своей свитой в квартиру Михаила Берлиоза и Степы Лиходеева, сообщает изумленному директору театра «Варьете», что лишний в этой квартире именно он.

Это не первое громкое и одновременно спорное высказывание Илона Маска. В январе этого года бизнесмен написал в личном блоге в социальной сети X (заблокирована на территории России), что менее чем через два десятилетия на Земле может появиться 1 млрд роботов-гуманоидов «при условии, что основы цивилизации будут стабильными».

Business Insider обратился за комментарием к Роману Ямпольскому, исследователю в области безопасности ИИ из Университета Луисвилля. Эксперт считает, что Маск прав, но вместе с этим сильно преуменьшает масштаб риска. Он назвал долю вероятности возникновения апокалипсиса, вызванного искусственным интеллектом, 99,999999%. В New York Times добавили, что «пугающая новая статистика охватила и Кремниевую долину».

Сегодняшние большие языковые модели, такие как ChatGPT от OpenAI, впечатляют во многих отношениях, говорит Аджемоглу. Так почему же они не могут заменить людей или, по крайней мере, сильно им помочь на многих работах? Он указывает на проблемы с надежностью ИИ и отсутствие у него человеческой мудрости или суждений. этого люди вряд ли в ближайшее время передадут рабочие места белых воротничков искусственному помощнику.

Как отмечается в ряде публикаций, ИИ будет способен выявлять потенциальных преступников или тех, чье поведение не укладывается в установленные социальные стандарты. Что это, как не воплощение мечты «внутренней партии» Дж. Оруэлла о возможности карать не только реальных диссидентов, но и потенциально инакомыслящих? И что особенно печально — апеллировать будет не к кому. ИИ фактически будет исполнять роль бога на земле.

Аджемоглу считает, что наиболее вероятный исход — это некая комбинация второго и третьего сценария. Внутри высшего руководства слишком сильны опасения упустить бум ИИ, чтобы представить, что хайп утихнет в ближайшее время. Данные за второй квартал 2024 года иллюстрируют масштабы ажиотажа с расходами. Только четыре компании — Microsoft, Alphabet, Amazon и Meta Platforms — инвестировали более 50 миллиардов долларов в капитальные расходы за квартал, причем большая часть этих средств пошла на ИИ.

Третий и самый страшный сценарий заключается в том, что вера в ИИ останется столь же безоговорочной и бесконтрольной на протяжении многих лет. В итоге компании сократят рабочие места и вложат сотни миллиардов долларов в ИИ, «не понимая, что они собираются с этим делать», чтобы потом, когда технология не оправдает себя, с трудом пытаться снова нанять работников. Это будет иметь масштабные негативные последствия для всей экономики, предупреждает экономист.