Как отличить фото людей, которые сгенерировала нейросеть

Contentatscale.ai

Вердикт: в целом, хорошо — сервис выдал вероятность ИИ-генерации нашей фотографии шоколада лишь в 12,9%. Но были и ошибочные результаты — ИИ-изображения не были распознаны сервисом как таковые. Более того, у нас сложилось ощущение, что расширение выдает вероятность вообще случайным образом. И, тем не менее, разработчик заявляет о высокой точности — более 90%. Но на практике понятно: эта цифра сильно завышена.

Если еще год назад определить картинку, сделанную нейросетью, можно было без труда, то отличить работы самых современных нейросетей от реальных фото может быть очень сложно. На помощь в распознавании фейковых картинок могут прийти специализированные сервисы. Рассказываем, как они работают и какие из них самые точные.

Сервис умеет анализировать глаза, пальцы, другие детали, которые сразу выдают генерацию нейросети. Важно, что Hive AI Detector создал свою модель вообще с нуля и обучил ее более чем на миллионе реальных фотографий. По словам разработчика, Hive AI Detector умеет находить самые маленькие артефакты и несоответствия, которыми грешат популярные сегодня нейросети.

illuminarty.ai лучше всего определяет картинки, сгенерированные MidJourney, DALL-E, Stable Diffusion. Все потому, что illuminarty.ai использует конволюционную нейронную сеть (алгоритм, предназначенный для работы с изображениями, принимающий их в качестве входных данных), которая обучалась на миллионах изображений именно вышеуказанных сервисов.

Формат фотографии. StyleGAN обучена на однотипных снимках — крупных портретах, на которых обрезано все лишнее и видно только голову. Обычно так люди фотографируются для рабочих профилей, пропусков или документов. Но в соцсетях такие фото встречаются редко. Поэтому кадр строго «по шею» может указывать на нейросеть. Тем более если фото, например, в профиле пользователя всего одно: генераторы не могут сделать несколько разноплановых снимков человека.

Сервис компании Content At Scale. Анализирует изображения на предмет ИИ-генерации. Обучена модель более чем на двух миллионах образцов. Для интеграции детектора в другие приложения и пакетной обработки больших объемов изображений предусмотрен API. Сейчас в разработке находится расширение для браузера — оно позволит детектировать ИИ-картинки прямо на странице любого сайта.

Внимание: все сервисы ниже могут дать только предположение о том, было сгенерировано изображение нейросетью или нет. Полагаться на них не стоит. И вообще в отношении синтетических изображений всегда будет существовать такая вот неоднозначность, ведь существуют очень реалистичные фотографии (такие часто принимаются за результат генерации) или изображения с комбинированными сценами (задник наложен в фотошопе, а человек — реальный).

Вердикт: сервис правильно определил только некоторые ИИ-изображения. Многое было распознано некорректно. Есть куда совершенствоваться. Ложные срабатывания часто оказывались комбинированными фотографиями, скриншотами из игр, изображениями мемов. Это и понятно: в обучающую базу данных не входили изображения такого типа.

Подборка сервисов

Ошибки и артефакты. У StyleGAN есть несколько мест, где нейросеть обычно ошибается. Например, это аксессуары: ИИ любит генерировать людей в очках и серьгах, но нередко на них проявляются артефакты, которые выглядят как характерные разноцветные кляксы.

Сервисы работают по-разному . Например, в This Person Does Not Exist нельзя задать параметры изображения: после каждого обновления страницы пользователь просто получает рандомно сгенерированный новый снимок. В Bored Humans тоже нет настроек. А в Random Face Generator можно задать только пол и возраст сгенерированного на фото человека.

Мы проверили illuminarty.ai на фотографии шоколада и он… ошибся: вероятность ИИ 91%. Явно не тот результат, которого мы ждали. Но стоит отметить: сервис лучше определяет именно сгенерированные изображения, поэтому даже некоторые реальные фото он может «клеймить» как нейросетевые.

На сайте разработчика написано, что «illuminarty.ai использует передовое глубокое обучение для выявления изображений, сгенерированных искусственным интеллектом, и является одним из самых точных сервисов обнаружения ИИ-картинок на сегодняшний день». Весьма амбициозно! Скоро проверим.

Форма лица. Нейросетевым лицам присуща симметричность, которую редко встретишь в жизни, например глаза на одинаковом расстоянии от центра лица. Либо, наоборот, неестественная асимметричность, например одно ухо гораздо больше второго, глаза разного цвета и размера.

Это действительно проблема. В 2022 году ученые лондонского университета Роял Холлоуэй провели исследование и выяснили, что люди уже часто не могут определить, где реальное фото, а где нет. Другое исследование университетов Беркли и Ланкастера удивило еще больше: после того как участникам эксперимента дали советы по выявлению фейка, 41% испытуемых все равно не справились с заданием.