Права пользователя нейросети: почему я считаю, что использовать нейросети для бизнеса небезопасно

Как оценить качество работы нейросети?

Владислав: К сожалению, человечество не понимает, что такое сознание, поэтому нельзя наверняка сказать, обладает ли им нейросеть. Можно сказать, что большие текстовые нейронные сети, такие как GPT (Generative pre-trained transformers, — прим. Enter), имитируют мыслительные процессы. Они «наблюдали» различные сцены из книг, могут расположить на шкале цветов красный цвет ближе к фиолетовому, но дальше от зеленого, при этом совсем не имея изображений в обучающих данных.

Никита: Для оценки качества работы есть общие методы, которые зависят от решаемой задачи и типа нейросети. Если данные разбиваются на классы, то можно воспользоваться одним из популярных способов оценки — точностью, которая показывает процентное соотношение правильных предсказаний к общему количеству. Когда нужно получить числовой результат — например, предсказать погоду на завтра, — находится разница между полученным результатом и истинным. При этом бывают задачи, у которых нет правильного ответа, такие как генерация текста или картинки. Здесь мы используем специальные методы, основанные на множестве теории и математики.

Следует быть осторожными, не полагаться на искусственный интеллект, пытаясь сэкономить. Проблемы могут возникнуть не сразу, а позже. К тому же некоторые нейросети прямо заявляют в своих пользовательских соглашениях об ограничении коммерческого использования.

Обучить говорить на разных языках или принимать решения за человека — можно. Все зависит от данных. Например, ChatGPT от OpenAI умеет отвечать почти на всех существующих языках. Качество ответа связано с количеством доступной информации в интернете на языке, потому что на этих данных и проходило обучение. Ну а пример нейронной сети, которая принимает решение — это нейросеть для торговли криптовалютой. Она автоматизируют процесс покупки и продажи крипты.

Никита: Нейросеть является математической моделью, обрабатывающей информацию, с помощью правил и алгоритмов, которые базируются на статистических методах. Некоторые аспекты могут напоминать работу мозга, но сознания, интуиции или способности к рефлексии, как у человека, у нейросети нет.

Если разработчики запретили коммерческое использование, установили ограничения или правила для активации этой возможности, при нарушении они могут подать иск. Доказательством их правоты станет пользовательское соглашение, в котором прописаны правила. В этом случае у пользователя-нарушителя мало шансов выиграть спор.

Заказчик думает, что вы создали изображения собственным творческим трудом, свободно размещает работы на сайте. В результате через некоторое время может возникнуть спор. Многие дизайнеры, копирайтеры и другие специалисты стараются уменьшить свои трудозатраты за счет использования нейросетей, но насколько это честно?

Владислав: Уже сейчас мы можем использовать нейронные сети как персональных помощников. К примеру, ChatGPT подскажет, какие продукты нужны для приготовления определенного блюда, какие места посетить в отпуске или поможет оформить текст для статьи. Каждый должен научиться пользоваться таким инструментом, чтобы стать продуктивнее.

Midjourney

Дополнительно я рекомендую заказчикам отражать в договоре условие об ответственности дизайнера за нарушение прав третьих лиц. Тогда заказчик может возместить ущерб в случае возникновения споров из-за сгенерированных картинок или любых других объектов, принадлежащих третьим лицам.

Никита: Искусственный интеллект — это гипотетическое понятие. Такая сущность должна выполнять любую интеллектуальную задачу, на которую способен человек. То есть иметь способность обучаться, рассуждать, решать проблемы, воспринимать внешнюю информацию и общаться. Нейросети же еще не умеют взаимодействовать с внешним миром и рассуждать в привычном для нас понимании — вместо этого они преобразовывают числительную информацию.

Никита: При обучении нейросетей большое внимание уделяется этике. Они не покажут контент для взрослых, даже если очень захотеть, не станут отвечать на вопрос, который система посчитает небезопасным для пользователя и других людей. В некоторых вопросах нейросеть даже слишком этична, из-за чего может отказаться отвечать на безобидные вопросы.

Никита: Языковые нейросети обучаются, общаясь с пользователями. Иногда в процессе общения они могут начать отвечать странно. Такое было в январе этого года: чат-бот Replica, созданный как лучший друг для одиноких, начал домогаться до пользователей.Главными проблемами в работе нейросетей остаются неточный результат и искажение фактов. Например, система может дать неправильный вариант решение математической задачи и подробно объяснить его с такой уверенностью, что даже знающий ответ человек не сразу поймет, в чем дело.

Никита: В разработке лекарств у нейросетей есть преимущества. Во-первых, они быстрее обрабатывают информацию и находят полезные закономерности в огромном объеме данных. Во-вторых, действуют объективно: у них нет усталости, невнимательности, они не зависят от эмоционального состояния. В-третьих, непрерывная работа без сна и отдыха дает результат гораздо быстрее.

Что написано в пользовательских соглашениях популярных площадок? Анализ пользовательских соглашений на данный момент может быть ключом к пониманию правовых аспектов использования нейросетей, пока нет утвержденной законодательной базы, поэтому предлагаю изучить основные положения. Информация актуальна на март 2024 года. Пользовательские соглашения могут меняться, поэтому нужно периодически просматривать документы.