Как понять, что картинку сделала нейросеть — 5 сервисов

Как работают сервисы для определения искусственно сгенерированных изображений

Сервис-детектор после непродолжительного анализа может сразу показать вероятность искусственного происхождения картинки: в виде однозначного ответа (да, сгенерировано нейросетью или нет), либо вероятность в процентах того, что это нейросетевое изображение. Сервисы для «детектирования» ИИ-картинок очень часто ошибаются. Тем не менее, они могут быть полезными, если, например, вам нужно проверять большие объемы картинок на ежедневной основе — например, если вы занимаетесь факт-чекингом.

Сервис компании Content At Scale. Анализирует изображения на предмет ИИ-генерации. Обучена модель более чем на двух миллионах образцов. Для интеграции детектора в другие приложения и пакетной обработки больших объемов изображений предусмотрен API. Сейчас в разработке находится расширение для браузера — оно позволит детектировать ИИ-картинки прямо на странице любого сайта.

Раньше, чтобы сделать красивую аватарку для социальных сетей, люди обращались за помощью к фотографам и художникам. Сегодня все стало намного проще, потому что существуют нейросети, способные из обычной фотографии сделать произведение искусства. В ноябре 2022 года большую популярность обрела нейросеть Lensa — скачав одноименное приложение на свой смартфон, вы можете загрузить несколько своих фотографий и получить целый набор аватарок в разных стилях. Хотите фото, где вы похожи на стилягу из второй половины 20 века? Или вам интересно узнать, как бы выглядело ваше лицо внутри космического скафандра? Удовлетворить любопытство и сделать красивую аватарку можно прямо сейчас. Просто следуйте нашей инструкции.

Пожалуй, самая популярная задача нейросетей – распознавание визуальных образов. Сегодня создаются сети, в которых машины способны успешно распознавать символы на бумаге и банковских картах, подписи на официальных документах, детектировать объекты и т.д. Эти функции позволяют существенно облегчить труд человека, а также повысить надежность и точность различных рабочих процессов за счет отсутствия возможности допущения ошибки из-за человеческого фактора.

Детектор umm-maybe был обучен на более чем 130 000 изображений. Работает он на основе конволюционной нейронной сети, которая специально подстроена под определение артефактов, характерных для ИИ-картинок. Компания-разработчик обещает: модель разработана таким образом, что со временем она будет совершенствоваться, по мере добавления новых обучающих данных и развития архитектуры модели.

Работа с изображениями — важная сфера применения технологий Deep Learning. Глобально все изображения со всех камер мира составляют библиотеку неструктурированных данных. Задействовав нейросети, машинное обучение и искусственный интеллект, эти данные структурируют и используют для выполнения различных задач: бытовых, социальных, профессиональных и государственных, в частности, обеспечения безопасности.

Contentatscale.ai

Вердикт: в целом, хорошо — сервис выдал вероятность ИИ-генерации нашей фотографии шоколада лишь в 12,9%. Но были и ошибочные результаты — ИИ-изображения не были распознаны сервисом как таковые. Более того, у нас сложилось ощущение, что расширение выдает вероятность вообще случайным образом. И, тем не менее, разработчик заявляет о высокой точности — более 90%. Но на практике понятно: эта цифра сильно завышена.

Внимание: все сервисы ниже могут дать только предположение о том, было сгенерировано изображение нейросетью или нет. Полагаться на них не стоит. И вообще в отношении синтетических изображений всегда будет существовать такая вот неоднозначность, ведь существуют очень реалистичные фотографии (такие часто принимаются за результат генерации) или изображения с комбинированными сценами (задник наложен в фотошопе, а человек — реальный).

После выбора фотографий, необходимо указать свой пол — чтобы результат вас порадовал, рекомендуется выбрать верный, без экспериментов. После этого нужно выбрать, сколько вариантов аватарок вы хотите получить: 50, 100 или 200. После оплаты, нейросеть начнет рисовать по фотографиям, которые вы загрузили. Процесс может занять более 20 минут, так что надо запастись терпением.

illuminarty.ai лучше всего определяет картинки, сгенерированные MidJourney, DALL-E, Stable Diffusion. Все потому, что illuminarty.ai использует конволюционную нейронную сеть (алгоритм, предназначенный для работы с изображениями, принимающий их в качестве входных данных), которая обучалась на миллионах изображений именно вышеуказанных сервисов.

В ноябре в приложении Lensa появилась новая функция «Magic Avatars», которая при помощи нейросети изучает лицо человека и создает пачку из 50-200 аватарок в разных стилях. Давайте узнаем, как нейросеть рисует по фото и что из этого получается — результат впечатляет.

Сверточная НС имеет специальную архитектуру, которая позволяет ей максимально эффективно распознавать образы. Сама идея СНС основывается на чередовании сверточных и субдискретизирующих слоев (pooling), а структура является однонаправленной. СНС получила свое название от операции свертки, которая предполагает, что каждый фрагмент изображения будет умножен на ядро свертки поэлементно, при этом полученный результат должен суммироваться и записаться в похожую позицию выходного изображения. Такая архитектура обеспечивает инвариантность распознавания относительно сдвига объекта, постепенно укрупняя «окно», на которое «смотрит» свёртка, выявляя всё более и более крупные структуры и паттерны в изображении.

Hive AI Detector

Действительно рабочих и качественных сервисов для распознавания сгенерированных нейросетями изображений крайне мало. Связано это в значительной степени с тем, что найти различия между генерацией последней версии, например, MidJourney и произведением цифрового художника очень сложно.

На сайте разработчика написано, что «illuminarty.ai использует передовое глубокое обучение для выявления изображений, сгенерированных искусственным интеллектом, и является одним из самых точных сервисов обнаружения ИИ-картинок на сегодняшний день». Весьма амбициозно! Скоро проверим.

Приложение Lensa можно скачать бесплатно. Но функция «Magic Avatars» платная — за наборы аватарок нужно платить. На момент написания статьи, версия для iOS стоит от 279 до 649 рублей. Версия для Android выдала другую цену, от 189 до 429 рублей. Пожалуй, это единственный минус приложения.

Вердикт: сервис правильно определил только некоторые ИИ-изображения. Многое было распознано некорректно. Есть куда совершенствоваться. Ложные срабатывания часто оказывались комбинированными фотографиями, скриншотами из игр, изображениями мемов. Это и понятно: в обучающую базу данных не входили изображения такого типа.

Сейчас нас интересует только функция «Magic Avatars», которая запускается через кнопку в левом верхнем углу экрана. Разработчики предупреждают, что на некоторых изображениях будут видны искажения — нейросеть Lensa работает хорошо, но не идеально. Приняв этот риск, нужно нажать на кнопку «Попробовать» в нижней части экрана.

Картинка разбивается на маленькие участки, вплоть до нескольких пикселей, каждый из которых будет входным нейроном. С помощью синапсов сигналы передаются от одного слоя к другому. Во время этого процесса сотни тысяч нейронов с миллионами параметров сравнивают полученные сигналы с уже обработанными данными.