Человек и искусственный интеллект: игра в обман

Однако, несмотря на все свои достижения, нейросети вряд ли смогут полностью заменить человека. Человеческие качества, такие как эмоции, чувства и креативные способности, делают человека уникальным и незаменимым во многих сферах деятельности. Например, дизайнеры до сих пор остаются незаменимыми в нашей команде. Так как умение находить индивидуальный подход к каждому заказчику и создавать качественные дизайн-решения до сих пор подвластно только человеку с гибким мышлением.

Пример уже универсальной языковой модели искусственного интеллекта — ChatGPT, созданный компанией OpenAI. Такую модель можно использовать для решения различных задач с небольшими дополнительными усилиями. По словам Зайцева, на обучение модели ChatGPT-3, представленной в 2020 году, было потрачено $5 миллионов, у неё было 175 миллиардов обучаемых параметров и в процессе обучения ей было показано 45 терабайт сжатого текста из интернета.

Например, российская компания анонсировала запуск аналога нашумевшей по всему миру нейросети ChatGPT – SistemmaGPT. Основной задачей модели является интеграция искусственного интеллекта в бизнес-процессы. Нейросеть может проводить анализ больших объемов данных и находить инсайты, общаться с клиентами в виде виртуального помощника, создавать персонализированную систему рекомендаций, автоматически обрабатывать заказы и входящие звонки, управлять складом и многое другое.

В сфере бизнеса нейросети помогают предпринимателям по всему миру оптимизировать процессы своей компании: выявляют закономерности, тренды и перспективы рынка, автоматизируют рутинные задачи и предлагают персонализированные рекомендации для пользователей и клиентов.

Начиная с промышленной революции, технологии стали заменять человеческий труд на производстве, и этот процесс только ускоряется. Нейросети способны находить оптимальный способ использования материалов, энергии и рабочей силы, прогнозировать возможные технические сбои, оценивать риски и предлагать меры их предупреждения.

А поскольку искусственный интеллект определённые задачи уже выполняет лучше человека, то такие модели активно используются в самых различных индустриях. К примеру, в приложениях для смартфонов очень много решений принимается на основе нейронных сетей: в почте есть фильтрация спама, а камера с помощью нейросети обрабатывает картинки.

Осуществлять подобные атаки на различные модели нейросетей позволяет многообразие изображений и текстов, поэтому так легко найти объекты, которых нет в обучающей выборке, а в самой структуре искусственного интеллекта не составляет труда отыскать, как изменить объект, чтобы получить искажённый результат, отметил Зайцев.

Однако, несмотря на успехи в этой области, нейросети не могут полностью заменить ученых, так как они не способны на критическое мышление, формулирование гипотез и создание новых идей. Искусственный интеллект может быть ценным инструментом в руках ученого, но именно человек стоит за научными открытиями и теориями.

Несмотря на успехи в этой области, нейросети не могут полностью заменить преподавателей, так как человеческий контакт и живое взаимодействие – важные аспекты образовательного процесса. Тем не менее, они могут стать помощниками как для учителей, так и для учеников, освобождая время для занятий на индивидуальной основе.

Но, несмотря на все возможности нейросети, руководители и менеджеры всё-таки играют ключевую роль в принятии стратегических решений в компании. Опять же за счёт своего опыта и живого понимания о том, что нужно клиенту, ведь полностью понять человека сможет только человек.

Сегодня искусственный интеллект стал частью нашей повседневности, но пока он далеко не безупречен. О том, как учёные ищут слабые места и уязвимости нейронных сетей ради их эволюции и безопасности, на лекции в Ельцин Центре рассказал кандидат физико-математических наук, старший преподаватель Сколтеха Алексей Зайцев.

В области науки и исследований нейросети уже помогают ученым анализировать и интерпретировать сложные наборы данных, проектировать и синтезировать новые материалы, а также обнаруживать закономерности, которые могут быть непосредственно связаны с новыми открытиями. Так, ученые из Петрозаводского государственного университета с зарубежными коллегами разработали алгоритм на базе искусственного интеллекта. Программа позволяет оперативно определить присутствует ли в организме человека инфекция SARS-CoV-2.

Также нейросети и их приложения могут решать менее стратегические бизнес-задачи, например, генерировать несложные идеи и писать тексты разного формата, сохраняя при этом логичность и последовательность. С помощью обучения на больших наборах данных и выявления их закономерностей технологии позволяют упрощать процесс разработки оригинального контента для бизнеса. Мы с коллегами используем подобные возможности – в этом году на 8 марта подготовили необычное поздравление для сотрудниц Совкомбанка: на платформе нашего собственного продукта запустили страничку «Халвы», где каждая сотрудница могла самостоятельно сгенерировать персональную сказку с собой в главной роли.

Второй после классической «атаки на входе» вариант — так называемая one pixel attack, которая также заставляет нейросеть выдать некорректный ответ. Определённый пиксель способен изменить изображение так, чтобы нейросеть стала неправильно классифицировать изображение. По словам Зайцева, изменение цвета одной точки в изображении корабля приводит к тому, что с точки зрения нейронной сети она видит автомобиль, а изменённое в одном пикселе изображение лошади с очень высокой вероятностью распознаётся как лягушка.

Учёный Алексей Зайцев руководит лабораторией Центра прикладного искусственного интеллекта Сколтеха, которая занимается как прикладными, так и фундаментальными задачами в области ИИ. Лекция эксперта «Как обмануть искусственный интеллект?» 25 апреля завершила совместный курс Ельцин Центра и Сколковского института науки и технологий, стартовавший в конце января.

— Злонамеренное прикладное применение нейросетевых атак — влияние на системы распознавания лиц. Есть мы хотим обмануть такую систему, то можем приклеить на лоб какой-либо стикер, надеть специальную футболку, нанести камуфляжный грим или посветить лазером в камеру распознающей системы, в итоге нейронная сеть получит нетипичное изображение на входе и может выдать внезапный результат. Например, опознает того, кто изображён на футболке, или вообще примет вас за кто-то другого.