Нейросети научились писать компьютерные вирусы

По данным японского издания, теперь разработчики генеративного искусственного интеллекта примут меры, чтобы предотвратить создание пользователями вредоносных программ или другую преступную деятельность через свои платформы. Известно о намерениях со стороны американской компании OpenAI (разработчик чат-бота ChatGPT) усилить кибербезопасность своих продуктов.

Исследователи добавляют, что получившиеся результаты требуют некоторых доработок, чтобы получился окончательный рабочий вариант. Вишняков подчеркнул, что в конечном счете появление таких сервисов повлияет на общее число угроз — их станет больше. Однако пока рано говорить о том, что участвующий в их разработке искусственный интеллект будет положительно влиять на их качество.

Участники хакерских форумов используют ChatGPT для написания вредоносного кода и фишинговых электронных писем. Причем некоторые из этих людей имеют небольшой опыт в программировании или вообще его лишены. В одном из приведенных в исследовании Check Point Research примеров описывается скрипт на языке Python, который при некоторой доработке можно превратить в программу-вымогатель, способную шифровать данные на компьютере пользователя.

Термин «компьютерный вирус» появился более сорока лет назад, его придумал американец (тогда студент Университета Южной Калифорнии) Фред Коэн. Считается, что сам первый вирус создали жители Пакистана, братья Басит Фарук Алви и Амджад Фарук Алви в 1986 году. Вирус получил название Brain и распространялся с помощью дискеты.

Полиция Токио задержала 25-летнего Рюки Хаяши из города Кавасаки по подозрению в создании вредоносного программного обеспечения с использованием искусственного интеллекта (ИИ), сообщает Yomiuri Shimbun. Считается, что это первый случай в стране, когда создали вирус с использованием ИИ.

Текущие эксперименты с ChatGPT в разных прикладных отраслях демонстрируют ее функционирование в режиме executive summary. «Технологии ИИ обучаются на основе того, что где-то уже видели, а дальше, используя эти данные как конструктор, собирают что-то новое, избегая логических противоречий. Это новое имеет вид некоторой вариации на известную тему, но не представляет чего-то нового с точки зрения нового взгляда на вещи, как концепции. Поэтому на данный момент мы не ожидаем получение фундаментально нового вредоноса таким способом», — говорит Вишняков.

В марте 2023 года подозреваемый дал задание нескольким ИИ создать вирусы-вымогатели, которые будут шифровать данные на компьютерах сторонних пользователей. Таким образом, за снятие блокировки японец хотел вымогать деньги. Однако Хаяши не смог воспользоваться своим творением, и вредоносное программное обеспечение не причинило никакого реального ущерба.

Еще один созданный ChatGPT скрипт на Python производит поиск файлов заданного типа, например PDF, на локальной машине, осуществляет их сжатие и отправку на сервер потенциального злоумышленника — это стандартный сценарий кражи информации. Использование ChatGPT для написания зловредов нельзя назвать распространенным в настоящий момент, отмечает Алексей Вишняков, руководитель отдела обнаружения вредоносного ПО экспертного центра безопасности Positive Technologies. По его словам, существуют экспериментальные наработки исследовательского плана, но они носят характер прототипов, которые вряд ли можно применять в «боевом» режиме.

Боты и нейросети, основанные на системах искусственного интеллекта, используются для написания вредоносного кода и фишинговых электронных писем. В этом участвует даже самый популярный чат-бот ChatGPT, говорится в исследовании Check Point Research. Эксперты отмечают, что возможности таких систем существенно повлияют на хакерский рынок и увеличат число вредоносных программ.

Про самого несостоявшегося хакера известно, что раньше он работал на заводе и не был экспертом по вредоносному ПО. С помощью онлайн-уроков он научился задавать вопросы инструментам искусственного интеллекта, чтобы получить желаемую информацию по созданию вирусов.

Первый русскоязычный компьютерный вирус появился в Сети 20 лет назад: в 2004 году «Лаборатория Касперского» обнаружила массовую рассылку через Интернет новой вредоносной программы под названием Agent, которая маскировалась под обычные графические файлы формата BMP. Вредоносные программы, маскирующиеся под графические файлы, появлялись и раньше, но были универсальны: заражали компьютеры вне зависимости от того, какая операционная система на нем установлена. Отличительной особенностью вируса Agent было то, что он атаковал исключительно русскую версию Windows 2000, что навело экспертов на мысль о создании вредоносного ПО в России или странах СНГ.