Пластмассовый мир победил

Склонить к суициду

Из-за широкого доступа к инструментам искусственного интеллекта, которым под силу создавать порно на заказ, может снизиться и уровень доходов порнозвезд. Ловингс отмечает, что сильнее всего данную угрозу ощущают те, кто снялся в большом количестве сцен, показав свое тело в многочисленных ситуациях и со многих ракурсов, поскольку ИИ будет проще их изображать. «Чем больше у нас выпущено сцен, тем достовернее нас можно будет изобразить», ― говорит она.

Законов по защите тех, чей образ был изменен при помощи ИИ без их разрешения, крайне мало. Например, в США власти некоторых штатов классифицируют публикацию дипфейков в рамках действующего законодательства, которым запрещается распространение материалов порномести (то есть откровенных фотографий и видеороликов с другим человеком, который не давал согласия на их публикацию). Однако законы о порномести часто ограничиваются ситуациями, когда злоумышленники распространяют изображения с целью запугивания или травли запечатленной жертвы. В изображениях или видео порнозвезд, делающих вещи, на которые они не соглашались, вероятны иные мотивы: создатель материала может генерировать его на продажу или просто для личного просмотра.

Как бы там ни было, в некоторых ситуациях порноактеры сталкиваются с такими же видами незаконного присвоения, с какими приходится иметь дело публичным фигурам. Сутра утверждает, что ее саму и коллег постоянно имитируют мошенники, рекламирующие различные продукты, это якобы эксклюзивный контент и даже встречи с фанатами вживую. В подобных онлайн-аферах часто задействованы образы знаменитостей (это подтвердят жертвы криптомошенников, говорящих от имени Илона Маска), но актеры жанра «для взрослых» защищены от подражателей куда меньше, нежели другие известные люди. Поскольку они не могут получить верифицированный статус в социальных сетях типа YouTube и Instagram (принадлежит компании Meta, которая запрещена в России), поклонникам сложнее разобраться, какие аккаунты принадлежат именно их кумирам.

На таком фоне, пожалуй, фейковое порно уже не выглядит главной угрозой человечеству. Хочется верить, что мы просто научимся критичнее относиться к тому, что видим на экране, — в конце концов, научились же мы жить в мире, где существует Photoshop. Да и порноролики, честно скажем, получились не очень-то убедительными.

Этим летом была представлена программа, способная правдоподобно подстроить видео под фонограмму — благодаря этому, например, разработчикам удалось заменить одну речь Барака Обамы на другую. Правда, это все равно была реально произнесенная речь, но, учитывая, что технологии синтеза речи постоянно совершенствуются, ждать описанных Пелевиным правдоподобных подделок уровня «Ким Чен Ын пообещал завтра начать ядерную войну» осталось совсем недолго.

Ряд законодателей и экспертов выступают за более основательные механизмы защиты жертв дипфейков вне зависимости от того, были ли они созданы с целью запугивания. Ребекка Дельфино, преподаватель юриспруденции в Университете Лойола Мэримаунт, специализирующаяся на юридическом аспекте дипфейков, подчеркивает, что многие законодательные органы, включая Палату представителей, сейчас думают о введении новых штрафных санкций против создателей и распространителей порно с дипфейками. «Порнография, покуда она основывается на принципе согласия, подпадает под защиту в рамках Первой поправки к Конституции, ― уточняет эксперт. ― Но, по-моему, отсутствие согласия, которое вряд ли имеет место, когда кто-то становится жертвой дипфейков, ставит вопрос в один ряд с детской порнографией ― и это нельзя рассматривать с позиций защиты в соответствии с Первой поправкой».

Сутра не одна такая. Три других создателя порнографического контента высказали в интервью с Forbes свои опасения по поводу того, что искусственный интеллект (ИИ) может нарушить четкий и недвусмысленный принцип согласия, которым руководствуются большинство игроков порноиндустрии. Леана Ловингс, актриса и бренд-амбассадор порностриминга Adult Time, рассказала, как эти правила реализуются на практике: перед съемками каждый участник в кадре получает перечень того, что можно и чего нельзя. «Все вслух проговаривают, чем сегодня готовы заниматься и чем не готовы», ― поясняет девушка.

С увеличением количества беспилотных автомобилей на дорогах и в связи с массовым использованием подобных технологий в серийных машинах это только вопрос времени. Рано или поздно нейросеть попадет в безвыходную ситуацию, в которой нельзя будет обойтись без жертв, и тогда машине придется решить, кому жить, а кому умирать. На то, что «проблема вагонетки» сегодня стала актуальной как никогда, уже обращали внимание психологи.

Отобрать игрушки

Но в одном сходятся все участники индустрии: в обозримом будущем никакой ИИ работу у них точно не отнимет. Порно на базе ИИ, сгенерированное с нуля и не показывающее реальных людей, тоже набирает популярность, но в плане качества до настоящего ему очень далеко (пока), и в его шансах обойти обычные ролики актеры сильно сомневаются.

Другая полезная нейросеть-злодей помогает роботам совершенствоваться. Один манипулятор учится хватать и поднимать объекты, а другой постоянно их отбирает. Как бы смешно это ни звучало, такой робот-негодяй, отбирая игрушки, существенно ускоряет процесс обучения, помогая партнеру выработать более надежный захват для объектов самой разной формы и жесткости.

А пока интернет бурно обсуждает, можно ли теперь доверять своим глазам и как жить в мире, где любой может хоть завтра оказаться звездой взрослого видео без всякого на то желания, мы вспомнили, что нейросети научились вести себя как киношные злодеи достаточно давно. Итак, уже сегодня нейросеть может.

При этом Дельфино предостерегает, что одного лишь наказания создателям противоправного контента может быть недостаточно, ведь порой весьма затруднительно даже установить их личность, не говоря уже о привлечении их к суду. Она говорит, что важную роль в распространении порно с дипфейками (и инструментов для его создания) играют интернет-провайдеры и что при желании Конгресс мог бы принять закон, по которому за распространение подобных материалов полагается взыскание.

В активно развивающемся мире ИИ-порно озабоченность и страх в связи с этим, столь характерные для обычного порнографического жанра, пока еще не сформировались, и в интернете распространяются приложения, которые обещают раздеть любого ― порноактеров, знаменитостей и много кого еще. Дипфейки и их более дешевая альтернатива чипфейки, которые берут за основу внешность других людей (преимущественно женщин) без их на то согласия, можно без труда найти даже на популярных платформах вроде Reddit и Etsy, где с модерацией всегда были проблемы.

«ИИ для взрослых все еще на заре своего развития. Появляются люди, которые не являются секс-работниками (любители технологий и им подобные), но пытаются попасть в индустрию в обход всего, с чем имеет дело обычный секс-работник, ― рассуждает Сирен Обскура, независимый директор и продюсер, сотрудничающая с создателями «взрослого» контента. ― Они стремятся нажиться на телах секс-работников».

Несколько из поговоривших с Forbes порнозвезд провели аналогию с угрозой ИИ для обычных актеров, которая была камнем преткновения в ходе недавней забастовки в Голливуде. В конечном счете профсоюз актеров добился того, что контракт должен ограничивать способы, которыми работодатели могут создавать ИИ-версии своих сотрудников. Ловингс надеется, что законодатели обеспечат новые механизмы защиты всем актерам, чей визуальный образ может использоваться неправомерно. «Мне хочется, чтобы законов, позволяющих нам бороться с такими вещами, было больше», ― говорит она Forbes.

Чтобы понять, как на самом деле приемлемо поступать в подобных ситуациях, Массачусетский технологический институт запустил специальный портал, на котором предлагает всем желающим поучаствовать в решении задачи «кого давить, кого не давить», а компания Cognitive Technologies провела аналогичный опрос среди 80 тысяч россиян. Результаты, кстати, оказались пугающими — треть наших соотечественников предложила беспилотному грузовику давить пешеходов и собак.