Искусственный интеллект против человека: кто выйдет победителем в битве за рабочие места

В каких сферах ИИ уже показал свои возможности?

У жителей подземного «ГУЛАГа» есть легенда о проводнике, который должен вывести их из «ада» на освещенную поверхность — такая технологическая вариация на тему сошествия Иисуса Христа в преисподнюю. Однако в реально­сти выйти наружу предстоит лишь незначительному меньшинству, которое должно заменить прежних жителей Варшавы. Жителей рая, совершивших грехопадение, регулярно из эдемского сада изгоняют, а ад оказывается демографиче­ским резервом для заселения рая заново. И каждый раз жители Варшавы уверены, что именно они — первые и единственные обитатели своего города, который существует сравнительно недавно — 90 лет, между тем на самом деле — как минимум уже лет 300.

Нужно всё-таки просчитывать опасности наперед. Возьмем простой эксперимент с максимизатором скрепок: если поручить мощной системе ИИ произвести максимальное количество скрепок, машина будет стремиться превратить всю материю в скрепки или в машины для производства скрепок. Это казалось неправдоподобным, пока мы имели дело с обычными программами, которые «всего лишь» запускали ракеты в космос и обыгрывали величайших шахматистов. А на что будет способен искусственный интеллект с непонятными ценностями и способностью к самообучению, умением нанимать сотрудников, проходить капчи, заказывать пиццу и умело прикидываться человеком?

Непонимание окружающего мира — важнейшая тема современности. Почему громкий успех некогда имела «Новая хронология» Носовского и Фоменко — теория, утверждавшая, будто бы все, что мы из учебников истории знали о древности, — лишь позднейшая фальсификация? Почему постоянно рождаются и приобретают сторонников конспирологические теории? Потому что мир, в котором мы живем, слишком сложен, и все, что мы о нем знаем, в конце концов порождено доверием авторитетным источникам — науке, религии, экспертам, «Википедии», школьным учебникам, заявлениям правительств. Проверить всю сложность даваемой информации никакой человек не в силах; устройства атомных станций, истинные мотивы политиков, причины экономического упадка, закономерности распространения ковида всегда находятся вне зоны контроля простого человека, между тем, то, что «авторитетные источники» часто оказываются инструментами злоупотреблений, слишком хорошо известно. Отсюда желание обмануть сложность, одним прыжком разоблачить систему лжи — например, посмотреть на политику через призму конспирологии. В конце концов и показной цинизм, желание приписывать всем без исключения политическим акторам самые худшие, низменные мотивы — тоже форма конспирологии, происходящая из желания убрать пелену сложности; цинизм превратил фразу «все не так просто» в иронический символ лицемерия, ведь цинизм — не только моральный, но и когнитивный жест, а именно акт упрощения. Но проблема конспирологических теорий (и в частности «Новой хронологии») заключается в том, что их авторы не обладают теми интеллектуальными и информационными ресурсами, которые позволили бы им стать сопоставимыми по мощи соперниками «авторитетных источников». Вот близкий пример: в России многие не доверяют данным официальной статистики, в частности, показателям инфляции, но ни у кого из скептиков нет такого же, как у Росстата, объема данных, чтобы реально пересчитать за него инфляцию. И в «Четках» персонажи много рассуждают, что решения g.A.I.a., по-видимому, несправедливы и, судя по всему, сама система неэффективна — но с уверенностью никто этого сказать не может, данные есть только у g.A.I.a.

«Четки» с романом «1984» роднит тема подмены прошлого и фальсификации памяти, но политически два романа диаметрально противоположны — что, конечно, объясняется различием эпох, когда тексты создавались: Оруэлл писал о тоталитаризме и его «логическом продолжении», Косик же дает картину вполне благополучного и демократичного общества, которое лишилось основ своей свободы, делегировав важнейшие вопросы неконтролируемым техническим системам.

Технооптимисты На данном этапе правильнее говорить, что искусственный интеллект — только инструмент, и от нас зависит, как мы его будем применять. Это естественный этап технологической эволюции, которую нельзя остановить. Нам нужно не бояться ее, а вместе идти навстречу будущему и создавать более безопасный мир.

Герои пытаются в той или иной степени сопротивляться системе, в том числе пользуясь своим служебным положением, поскольку являются служащими главного вычислительного центра Третьего рейха — управления национальной безопасности, однако каждый следующий виток развития IT все больше и больше делает сопротивление невозможным. Эшбах показывает несколько этапов развития технологий контроля — от простой слежки и цензуры соцсетей — к компьютерным запросам, от них к технологиям анализа больших данных, затем к нейросетям и распознаванию лиц и, наконец, к «чипизации мозга» (которой занимается доктор Менгеле). Кстати, автор ненавязчиво напоминает, что столь популярные сегодня нейросети исходно представляли собой побочный продукт моделирования человеческой нейрофизиологии. Параллельно развивается сюжет о хакерской войне Германии против США и вмешательстве в американские выборы через интернет.

Все это пока еще не выходит за пределы проблематики глобального неравенства. Однако g.A.I.a. готов даже и об избранном меньшинстве заботиться только в тех формах, в которых считает нужным, постоянно изымая из сообщества жителей «верхнего» города людей, признанных потенциально опасными. Если же человечество (которое наивно думает, что является хозяином собственной судьбы) противится, и если, скажем, городские власти отменяют процедуру Элиминации, то g.A.I.a. устраивает некую глобальную катастрофу, выжигает город вместе со всеми жителями, а затем отстраивает его заново, населяя выходцами из подземного «ГУЛАГа», предварительно подменив последним память — уверив новых жителей Варшавы, что они жили тут всегда. Таким образом, на страницах романа Рафала Косика возрождается стоическая концепция «экпюрозиса», «мирового пожара», предполагающая, что циклически этот мир сгорает — и затем возникает заново. Консерваторы, которые противостоят свободолюбивым политикам, желающим отменить Элиминацию — в Варшаве их роль играет мафия, — фактически являются «катехоном» — теми, кто всячески пытается оттягивать наступление «мирового пожара».

Еще более ярко эта тема всплыла в сборнике «Новое будущее» (составитель Сергей Шикарев. М.: Эксмо, 2023). В сюжетах большинства рассказов так или иначе фигурируют неприятные тайные силы, от которых герои (а порою и все человечество) находятся в унизительной зависимости, но о которых они не знают. Финалы же рассказов часто сводятся к тому, что страшная правда о «мировой закулисе» выплывает наружу. Увлечение современных авторов информационными технологиями дает результаты, в некотором отношении обратные тому, что мы видим вокруг. Если в окружающем нас мире технологическая мощь IT делает реальность все более прозрачной, так что даже доклады разведок разных стран оказываются слитыми в сеть, то в рассказах из «Нового будущего» — написанных едва ли не исключительно под знаком недоверия к бытию — вся мощь информационных технологий направлена на сокрытие чего-то важного. Например, в рассказе Владимира Березина «Раскладка» Россия будущего изображается подчиненной латинско-католической культуре, и от ее граждан скрывают православное прошлое и кириллический алфавит. В рассказе Рагима Джафарова «Освобождение» от граждан общества победившего бессмертия скрывают, что люди все-таки иногда умирают. В рассказе Шамиля Идиатуллина «Это наша работа» от человечества скрывают, что всем управляют четырехглазые инопланетяне (или мутанты), в конце же оказывается, что главный герой (сюрприз!) — именно такой инопланетянин, только забыл это и лишнюю пару глаз куда-то спрятал. В рассказе Дениса Дробышева «Будь ты проклят, Марс!» от граждан России будущего скрывают, что людей, отправляемых на освоение Марса, на самом деле до Марса не довозят, а просто убивают.

Можно ли позволить ИИ самому развиваться?

Надо сказать, по ходу действия романа персонажи размышляют о том, что, если g.A.I.a. почти всемогущ, он вполне бы мог уничтожить недовольное им человечество, однако не делает этого, поскольку только человечество придает смысл его существованию. Искусственный интеллект — почти бог, но такой микроэлектронный бог нуждается в человеке, чтобы о нем заботиться. Это действительно так, однако в качестве предмета заботы g.A.I.a. выбрал лишь ничтожное меньшинство избранных — «варшавян»: о «верхних» горожанах он радеет, используя подневольный труд большинства. Очень характерная деталь: некогда в подземном «ГУЛАГе» производства были более автоматизированными, но машины постепенно выходят из строя и их заменяют «насельники ада».

Невозможность пробиться к правде сегодня стала важной темой интеллектуальной фантастической литературы. Можно вспомнить роман Марии Галиной «Автохтоны» (М: АСТ, 2015), в некотором смысле посвященный самому процессу искажения информации. Главный герой «Автохтонов» пытается и не может проникнуть сквозь пелену городских легенд — их придумывают экскурсоводы для ублажения туристов, их добросовестно косплеют местные жители, причем некоторые сами пали жертвами веры в довольно сомнительные легенды.

И «Управление» Андреаса Эшбаха, и «Четки» Рафала Косика, разумеется, вызывают ассоциации со знаменитым романом Джорджа Оруэлла «1984». Однако очень важно увидеть разницу. Оруэлла больше интересовали моральные и историософские вопросы, для Эшбаха моральное отношение к тоталитаризму уже не является сложной проблемой, но его в не меньшей степени интересуют технические подробности диктатуры, это, можно сказать, роман о технологиях оруэлловского мира — и явственное предупреждение, что сама мощь уже соз­данных технологий создает опасность для возникновения новых диктатур.

Это не просто полиция. Полиция расследует уже совершенные преступления и карает за них, а Элиминация работает с людьми, которые еще ничего не совершили, но, по расчетам искусственного интеллекта, имеется очень большая вероятность, что они совершат нечто в будущем. В результате Элиминации подвергается ребенок, которого сначала похитили, а затем на его глазах убили мать: такие травмы очень серьезно повышают риск, что, повзрослев, девочка станет на преступный путь. Здесь можно вспомнить «Особое мнение» — рассказ Филиппа Дика (1956) и созданный по его мотивам фильм Спилберга (2002), там людей карали за еще не совершенные, но предсказанные преступления. Подобные практики существуют уже не только в фантастике. В доброй половине штатов США официально используются алгоритмы, которые рекомендуют судьям меру строгости наказания преступников, исходя из статистической вероятности рецидива и опираясь при этом на социологический профиль подсудимого и данные многих тысяч предыдущих осужденных.

Третий сценарий — умеренная автоматизация. Предполагает сочетание обоих подходов, где ИИ заменяет часть рабочих задач, но также создает новые возможности для работников, готовых адаптироваться и обучаться новым навыкам. Текущие тенденции и прогнозы показывают, что искусственный интеллект станет неотъемлемой частью большинства отраслей, но его роль будет скорее вспомогательной, чем заменяющей. Люди, способные адаптироваться к изменениям и использовать ИИ для улучшения своей работы, будут наиболее востребованы. Успешное будущее требует баланса между технологиями и человеческими навыками, что обеспечит процветание и устойчивость на рынке труда. В конечном итоге, будущие специальности потребуют более тесного сотрудничества человека и искусственного интеллекта. Люди, которые смогут эффективно использовать нейросеть, будут востребованы на рынке труда, а их уникальные человеческие навыки останутся критически важными для успешного функционирования любой организации. ИИ продолжит изменять рабочие процессы, делая их более эффективными и продуктивными, но не заменит человеческий труд полностью. Главным вызовом остается необходимость обучения и адаптации работников к новым технологиям, чтобы обеспечить гармоничное и продуктивное сосуществование человека и ИИ.

Оруэлловское торжество зла видим мы и в романе Рафала Косика «Четки», чье действие происходит в Варшаве будущего, которая уже не совсем Варшава: как и другие важнейшие города Земли, она расположена на вращающейся во­круг Солнца космической станции. Впрочем, это не так важно. Главное, что за порядком и безопасностью в Варшаве следит всемогущий искусственный интеллект g.A.I.a., который наблюдает за жителями города и присваивает каждому коэффициент его потенциальной опасности. Тех, чей коэффициент превышает некоторый уровень, специальная служба Элиминации увозит неизвестно куда — навсегда.

Технооптимисты Это всего лишь единичный случай — позитивных примеров гораздо больше. Например, в США на улицах устанавливают систему микрофонов, которые анализируют звуки. Если раздается звук выстрела, система немедленно отправляет к месту происшествия экстренные службы, и это помогает спасти жизни.

Нужны экстраординарные меры, чтобы узнать правду. Правда о кириллической раскладке в рассказе Владимира Березина всплывает благодаря компью­терному вирусу. Герою рассказа Дениса Дробышева правду о фальшивом освоении Марса выдает за выпивкой друг-полицейский.

Кто несет ответственность за ИИ и его действия?

Технооптимисты Безопасность человека — приоритет, но нейросети как раз и помогают ее достичь. Например, ИИ, который анализирует медицинские снимки, чтобы найти болезни на ранних стадиях. А на новые вызовы надо отвечать по ходу их появления — так работает прогресс с момента получения человеком огня.

Технооптимисты Конечно, отвечать за последствия таких инцидентов должны разработчики. Но в реальности опасных ситуаций гораздо меньше, чем приносящих пользу. Девять из десяти ДТП происходят по вине человека, при этом именно камеры заставляют водителей соблюдать правила и повышают безопасность на дорогах.

Технооптимисты Уже сейчас активно применяются узкоспециализированные системы — они повышают безопасность на предприятиях, избавляют от ошибок, возникающих из-за человеческого фактора. Другой пример — беспилотные поезда, в которых компьютер реагирует на опасность быстрее машиниста.

«Управление» Эшбаха — образец альтернативной истории; роман рассказывает, что было бы, если бы во времена гитлеризма существовали современные информационные технологии: компьютеры, телевидение, интернет и мобильные телефоны. Сначала идея кажется не совсем удачной просто по той причине, что о нацизме мы знаем довольно много, о возможностях современных информационных технологий — тоже, и не совсем ясно, какую прибавочную стоимость дает их соединение. Если благодаря компьютерам нацисты более эффективно ловят евреев, то это не производит большого впечатления, поскольку и без компьютеров они вылавливали их, увы, довольно качественно. Но, по мере чтения романа, замысел Эшбаха открывается с иной стороны.

В этой статье хотелось бы прежде всего поговорить о двух весьма интеллектуальных и действительно заставляющих задуматься произведениях подобного рода, недавно переведенных на русский язык: романах «Управление» немецкого писателя Андреаса Эшбаха и «Четки» польского фантаста Рафала Косика.

Торжество зла в конце романа выражается не только в том, что нацистская Германия выигрывает во Второй мировой войне (немецким хакерам удается вовремя распознать опасность американских разработок атомной бомбы), но и в том, что оба главных героя романа оказываются даже не погибшими, а оставшимися в плену системы, лишившись своей личности и воли (хотя и в разном смысле слова — здесь обойдемся без спойлеров) — в этом пункте можно увидеть параллель с финалом главного романа Оруэлла.

В романе два главных героя, один (точнее одна) из них, Хелена Боденкамп, — типичный положительный персонаж, который пытается сопротивляться системе изнутри, второй — Ойген Леттке — явный мерзавец, шантажист и сексуальный маньяк, однако и ему невольно сочувствуешь, поскольку, каким бы Леттке ни был негодяем, он пытается разыгрывать свою персональную партию как частное лицо, не находясь на стороне системы. Его история — о невозможности сохранения в широком смысле приватности в условиях цифрового тоталитаризма. Одновременно, как профессиональный шантажист, Леттке символизирует возможности неэтичного использования приватной информации, и, в частности, именно ему принадлежит идея выявления прячущихся евреев с помощью анализа пищевых калорий, потребляемых населением.

Искусственный интеллект (ИИ) продолжает завоевывать мир, вызывая горячие дебаты о том, заменит ли он человека. С одной стороны, ИИ обещает значительное повышение эффективности и продуктивности, с другой — вызывает опасения по поводу массовой безработицы. IT-World собрал разные точки зрения и проанализировал, как ИИ влияет на рынок труда и останется ли человеческий фактор критически важным.