Как понять, что картинку сделала нейросеть — 5 сервисов

Технологии будущего

Дмитрий Паршин рекомендует обращать внимание и на другие мелкие детали. У картин, созданных нейросетями, может не хватать некоторых элементов, что часто видно при близком рассмотрении. А еще искусственные изображения могут иметь случайные, неуместные элементы или шум.

Вердикт: в целом, хорошо — сервис выдал вероятность ИИ-генерации нашей фотографии шоколада лишь в 12,9%. Но были и ошибочные результаты — ИИ-изображения не были распознаны сервисом как таковые. Более того, у нас сложилось ощущение, что расширение выдает вероятность вообще случайным образом. И, тем не менее, разработчик заявляет о высокой точности — более 90%. Но на практике понятно: эта цифра сильно завышена.

Если еще год назад определить картинку, сделанную нейросетью, можно было без труда, то отличить работы самых современных нейросетей от реальных фото может быть очень сложно. На помощь в распознавании фейковых картинок могут прийти специализированные сервисы. Рассказываем, как они работают и какие из них самые точные.

Это может быть однотипный фон и крупность плана на нескольких снимках, близкая к идеальной, или, наоборот, неестественная симметрия лица, искажения на волосах и мочках ушей, объясняет в беседе с «Известиями» директор платформы по развитию корпоративных инноваций Generation S Екатерина Петрова.

— Проблема состоит в том, что определить, создал ли некий контент человек или нейросеть, может только другая нейросеть, которая обучается на том, что какой-то человек взял и посмотрел, что вот это сделала нейросеть, а вот это — реальный автор, — говорит операционный директор Dreamdocs.ru Анастасия Петелина.

— Из других типичных ошибок — слишком много зубов или «отсутствующий» взгляд на фотографии, — говорит Екатерина Петрова. — Именно по неестественно изображенным глазам чаще всего и удается распознать дипфейк. Однако, учитывая ту скорость, с которой технологии машинного обучения расширяют свои способности, рассчитывать на то, что человек сможет достоверно отличить искусственное изображение от настоящего, нам не приходится.

По мнению генерального директора компании Smart Engines, кандидата технических наук Владимира Арлазарова, нейросети уже сейчас могут заменять художников и будут делать это в дальнейшем. Но это касается не всех мастеров, а только тех, кто пишет «посредственные работы и копии».

Еще одним важным ключом для идентификации изображения, созданного ИИ, является водяной знак. Нейросеть DALL-E 2 размещает его на каждой фотографии, которую пользователь загружает с сайта. Знак находится в правом нижнем углу изображения, он выглядит как пять квадратов желтого, бирюзового, зеленого, красного и синего цветов.

Подборка сервисов

На сайте разработчика написано, что «illuminarty.ai использует передовое глубокое обучение для выявления изображений, сгенерированных искусственным интеллектом, и является одним из самых точных сервисов обнаружения ИИ-картинок на сегодняшний день». Весьма амбициозно! Скоро проверим.

Вьетнамского художника Бена Морана исключили из популярного арт-сообщества r/Art на Reddit после публикации рисунка, на который тот потратил около 100 часов. Там посчитали, что мужчина загрузил изображение, сгенерированное нейросетью. Эксперты сходятся на том, что проблема смешения работ, созданных человеком и искусственным интеллектом, сегодня становится всё острее. В том, как отличить рисунки и почему это важно, разбирались «Известия».

Нейросети, способные генерировать реалистичные изображения, считаются одним из наиболее перспективных направлений в области исследований искусственного интеллекта (ИИ). По словам директора центра разработки Artezio Дмитрия Паршина, это направление машинного обучения начало исследоваться только несколько лет назад — в 2014–2015 годах.

Но реакция модераторов на рисунок оказалась неожиданной: они пометили изображение как созданное искусственным интеллектом. Художник отправил жалобу и предложил предоставить исходный файл изображения для проверки. Автор рассказал, что рисунок был одним из четырех вариантов обложки и он в общей сложности работал над ним около пяти суток. За обложку ему обещали заплатить $500.

— Чаще всего в скам-схемах жертве обещают выплату крупной суммы денег, дорогостоящий приз или нечто бесплатное, — говорит старший исследователь данных в «Лаборатории Касперского» Дмитрий Аникин. — Для большей убедительности подобное письмо могут сопроводить фотографией известной личности.

Сервис-детектор после непродолжительного анализа может сразу показать вероятность искусственного происхождения картинки: в виде однозначного ответа (да, сгенерировано нейросетью или нет), либо вероятность в процентах того, что это нейросетевое изображение. Сервисы для «детектирования» ИИ-картинок очень часто ошибаются. Тем не менее, они могут быть полезными, если, например, вам нужно проверять большие объемы картинок на ежедневной основе — например, если вы занимаетесь факт-чекингом.