Искусственный интеллект атакует человечество

Законодательные рамки

Однако рассуждения о регулировании искусственного интеллекта по-прежнему, как правило, сводятся к двум подходам. Одни предлагают развивать машинный разум для укрепления мощи национальных государств и в рамках национальных законодательств, тогда как другие выступают за жесткие наднациональные ограничения, чтобы снизить глобальные риски. Но решить эту проблему прежними способами, основанными на исторически сложившихся принципах и традициях, пожалуй, невозможно, поскольку ИИ – это технология, которая имеет совершенно иную природу. И машинный разум уже меняет привычные представления о мировой роли крупнейших государств, причем это только самое начало.

Самый простой пример: ИИ самостоятельно определяет свои собственные цели. Уже более десятилетия ведутся исследования, позволяющие понять, как такое может произойти. Человеческая интуиция подсказывает ученым, что даже если жестко ограничить искусственный интеллект, в частности запретить ему причинять вред людям, то всегда есть вероятность, что что-то пойдет не так. Совершенно неясно, как машинный разум поймет эту команду. Вполне возможно, что он ограничится непричинением исключительно физического вреда, но будет способен навредить человечеству многими другими способами, предполагает профессор Бенжио.

Таким образом, можно заключить, что возможности систем искусственного интеллекта растут по экспоненте. Совсем недавно мало кто допускал, что БЯМ смогут сочинять музыку и рисовать картины, писать тексты и программный код, решать научные задачи и предлагать новые идеи. Поэтому логично предположить, что в ближайшем будущем разработчики смогут создать системы ИИ, которые буду способны самосовершенствоваться. А это, вероятно, та самая критическая точка, пройдя которую человеческая цивилизация столкнется с неизвестной опасностью, которой, может, и не удастся избежать.

Старшая научная сотрудница Оксфордского института этики в области искусственного интеллекта Элизабет Реньерис сказала Би-би-си, что ее больше беспокоит то, что «развитие ИИ может увеличить масштабы автоматизированного принятия решений… и привести к распространению дезинформации».

А между тем известные ученые и предприниматели уже несколько месяцев вовсю бьют тревогу. В конце марта этого года они выступили с открытым письмом, в котором призывают «все лаборатории искусственного интеллекта немедленно приостановить как минимум на шесть месяцев обучение системам ИИ, более мощным, чем GPT-4». Среди подписавших – Илон Маск, Стив Возняк, Юваль Ной Харари, Дарон Аджемоглу и многие другие. Но чем же, собственно говоря, так озабочены лучшие умы человечества?

Более того, неизвестно даже, к чему приведет компромиссный вариант, сочетающий национальное и наднациональное регулирование систем искусственного интеллекта. Поскольку помимо национальных государств и международных организаций в этом уравнении присутствует еще одна неизвестная величина – транснациональные корпорации. Существующее положение дел осложняется тем, что роль и значение технологических гигантов никак не укладываются в современные представления о мировом порядке, государственном суверенитете, демократии, общественном благе. А это значит, что в обозримом будущем развитие ИИ и дальше будет идти по непредсказуемой траектории и, что самое печальное, с непонятным результатом.

При этом скептики считают, что любые ограничения бессмысленны до тех пор, пока они не получат глобального распространения. Учитывая, что сама природа интернета не предполагает соблюдения границ, опасные проявления ИИ, разработанные, например, в России, или Китае, все равно могут привести к негативным последствиям для граждан Европы или США.

Искусственный интеллект определенно стал повсеместным явлением. Цифровой разум управляет школами и больницами, университетами и исследовательскими институтами, музеями и СМИ, банками и инвестиционными компаниями, адвокатскими и архитектурными бюро и прочая и прочая. Производительность труда выросла небывало, инновации появляются едва ли не каждый день. Словом, несколько переиначенный «дивный новый мир» Олдоса Хаксли.

ИИ — шпаргалки

Разговоры о том, что ИИ может либо радикально и к лучшему изменить человеческое общество, либо его полностью уничтожить, существовали в научной фантастике на протяжении последних 80 лет. Но только в последнее время технологии вышли на новый уровень. Теперь ИИ может писать песни, генерировать реалистичные изображения, создавать компьютерный код, писать киносценарии и так далее. Непосредственно на сегодняшний день проблемы, создаваемые ИИ, в значительной степени касаются нарушения авторских прав и конфиденциальности.

Холодная война второй половины XX века была не только открытым противоборством больших идеологий и незаурядных политиков. Она была еще и негласным соперничеством великих ученых и инженеров, потому что безудержная гонка вооружений требовала неимоверных интеллектуальных усилий. При этом все это время мир находился на грани ядерной катастрофы. Тогда, к счастью, все обошлось благополучно, третья мировая война так и не наступила.

Подписи под документом также поставили получившие премию Тьюринга за свою работу над нейронными сетями Джеффри Хинтон и Йошуа Бенджио, которых часто называют крестными отцами ИИ. В начале мая Хинтон даже уволился со своего поста в Google, чтобы получить возможность свободно говорить о потенциальном вреде технологий без оглядки на профессиональную этику.

Еще один эксперт по искусственному интеллекту, старший аналитик калифорнийского фонда Open Philanthropy Аджейя Котра предложил термин «режим устаревания», в который, как это ни печально, постепенно входит человечество. По его мнению, для решения любой задачи бизнесмены все чаще будут использовать ИИ, а не людей, потому что он обходится дешевле, работает быстрее и, главное, определенно умнее любого Homo sapiens. Таким образом, человек окажется неконкурентоспособным на рынке труда, да и не только на нем. Так, какое-либо государство, имеющее обычных генералов, не сможет противостоять противнику, чье командование при планировании операций использует силу машинного разума. И это четвертый, крайне пессимистический сценарий.

Правда, есть несколько «но». Как выяснилось, в развитых странах весьма многие работники умственного труда массово теряют работу и пытаются отстоять свои права в судах, где опять-таки заседают цифровые судьи, решительно отклоняющие их иски. Затаив злобу на новый порядок вещей, бывшие служащие и лица свободных профессий переходят в ряды непримиримой оппозиции, каковая принимает транснациональный характер, а самые радикальные и вовсе уходят в подполье, замышляя нечто такое, по сравнению с чем 11 сентября 2001 года может показаться детской шуткой. Причем экстремисты полагаются, как это ни парадоксально звучит, на титаническую мощь своего заклятого врага – искусственного интеллекта, вот только теперь они намерены использовать его в своих преступных целях. Так что мир, который должен был стать более совершенным, напротив, становится более уязвимым.

Что касается России, то в настоящее время в ней «отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта». Между прочим к такому неутешительному выводу пришли участники XI Петербургского международного юридического форума, состоявшегося в мае этого года. Хотя первые шаги в этом направлении уже сделаны. С августа 2020 года действует правительственная «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года». К тому же партия «Единая Россия» разрабатывает законопроект, который будет регулировать использование ИИ на территории РФ.

К чему все это может привести, британской газете Guardian рассказали ведущие мировые специалисты в области искусственного интеллекта. Они считают возможными пять сценариев, при которых цифровой разум «может уничтожить мир». Здесь, безусловно, надо заметить, что все потенциальные риски, которые несет машинный разум, только этим не исчерпываются.

И все ж таки, несмотря на определенную инерцию мышления, политические элиты ведущих стран постепенно осмысливают проблемы, создаваемые триумфальным шествием искусственного интеллекта. В мае первые лица государств «большой семерки» пришли к необходимости регулировать генеративный ИИ. Мировые лидеры наконец обеспокоились разрушительным потенциалом машинного разума и намерены обсудить ограничительные меры в рамках так называемого Хиросимского процесса.