Нейросети, доступные в России: как подключиться и использовать

Шедеврум

Про нейросеть Kandinsky 3.1 от «Сбера» мы уже говорили, однако она заслуживает отдельного от многофункционального чат-бота GigaChat упоминания. Впервые эта генеративная модель появилась в конце 2021 года под названием ruDALL-E XL, она способна создавать изображения по тексту, новые изображения на основе загружаемых в нее, дополнять готовые изображения новыми деталями, смешивать одно с другим, а также создавать небольшие видеоролики. Видеофункции – пока что самое слабое ее место: генерируются долго, а их качество оставляет желать лучшего. Что касается статических изображений, то некоторые пользователи считают эту нейросеть достойным конкурентом Midjourney и Stable Diffusion. Доступные языки запросов – русский и английский. Пользователям доступно неограниченное количество изображений в бесплатном режиме. Чтобы узнать актуальные способы доступа, рекомендуем посетить официальный сайт нейросети Kandinsky (раздел веб-портала «Сбера»), там всегда выложены все рабочие в данный момент варианты. Впрочем, для большинства потенциальных пользователей основным способом попробовать модель в действии остается портал Fusion Brain , созданный командой Института искусственного интеллекта (AIRI). Первой и пока единственной нейросетью, к которой организован доступ на портале, является Kandinsky: удобный и интуитивно понятный интерфейс, простая регистрация с помощью адреса электронной почты. Также доступ к нейросети можно получить с помощью ботов в социальной сети «ВКонтакте» и мессенджере Telegram. Кроме того, существует отдельный Telegram-бот исключительно для генерации видео, однако доступ к нему предоставляется только после рассмотрения предварительной заявки. По умолчанию везде используется новейшая модель нейросети версии 3.1, однако в ботах при желании можно переключиться на предыдущие версии 2.2 и 2.1.

GigaChat – это русскоязычная мультимодальная нейросетевая модель, способная вести диалог, отвечать на вопросы, подготавливать тексты и формировать изображения по запросу. Для доступа к GigaChat необходимо посетить официальный сайт чат-бота либо запустить его в Telegram или «ВКонтакте». Ситуация с доступом к нейросети противоположная ChatGPT: если там нужен зарубежный IP, то для доступа к GigaChat от «Сбера», наоборот, необходим российский IP, а авторизация осуществляется через «Сбер ID». Если вы пользуетесь «Сбербанком Онлайн», то «Сбер ID» – это номер вашего телефона. В России GigaChat функционирует без ограничений. Как и ChatGPT, он отлично подходит для интеграции в сторонние чат-боты и сервисы. Запросы также можно осуществлять на разных языках. Для личного использования нейросеть предоставляется бесплатно (freemium-режим). Речь идет об 1 млн токенов (единицы информации, на которые делятся запросы) без дополнительной платы ежегодно: 950 000 токенов для GigaChat Lite и 50 000 токенов – для GigaChat Pro. Если токены закончились, их можно докупить. Для бизнеса чат-бот платный: минимальная стоимость – 600 рублей в месяц при 0,2 рубля за 1000 токенов. В GigaChat используется совокупность нейросетевых моделей, которую разработчики назвали NeONKA (NEural Omnimodal Network with Knowledge-Awareness). Изначально использовалась модель ruGPT-3 размером 13B (то есть с 13 млрд параметров), обученная на корпусе данных в 300 Гбайт (книги, новостные заметки на русском и английском языках, научные статьи и т. п.). Потом использовались ruGPT-3.5 и FRED-T5. В настоящее время ядром чат-бота GigaChat является GigaChat версии 29В (29 млрд параметров). Для работы с изображениями используется отдельная модель «Кандинский» версии 3.1 (Kandinsky 3.1). Как и в случае с другими нейросетями, при работе с GigaChat особое значение имеет грамотно составленный запрос (промпт). Кстати, не стоит забывать, что нейросети могут отвечать похожими фразами на одни и те же вопросы, но каждый раз ответы будут хотя бы немного различаться, так как генерируются заново.

Несмотря на то, что чат-бот официально недоступен в России, не упомянуть его нельзя – это самая популярная и одна из наиболее развитых нейросетей на сегодняшний день. В мае 2024 года была представлена последняя публично доступная версия модели – GPT-4o (где «o» значит «omni»). Новинка способна в режиме реального времени анализировать все основные виды данных – текст, аудио, изображения, видео и комбинации из них – и генерировать в ответ текст, аудио, изображения и комбинации из них. Чат-бот способен реагировать на входящие аудиозапросы со скоростью 232–320 мс, что сопоставимо с реакцией среднестатистического человека в процессе обычной беседы. Что касается текстового режима работы, то производительность GPT-4o соответствует GPT-4 Turbo на английском языке и языках программирования, однако с другими языками, доступными в модели, новая версия стала работать гораздо быстрее. Кроме того, ChatGPT-4o лучше «видит» и «слышит» в сравнении с предыдущими моделями. Средняя задержка в голосовом режиме общения с чат-ботом версии GPT-3.5 составляла 2,8 с, а с GPT-4 – 5,4 с. Такая высокая задержка в предыдущих версиях нейросети связана с тем, что ранее голосовой режим ввода функционировал с использованием трех отдельных моделей, работавших в виде конвейера. А в GPT-4o реализована единая модель сквозного анализа и обучения с помощью разных типов данных. Разработчики признают, что это первая модель компании OpenAI, в которой используется подобный подход, в связи с чем они изучают ее возможности и ограничения вместе с пользователями. Новая модель может напрямую оценивать тон собеседника, его эмоции, определять фоновые шумы и многое другое, поддерживает множество языков запросов, в том числе русский. А также может генерировать тексты на разные темы, поддерживать беседы, писать стихи, решать математические задачи, анализировать, исправлять и писать с нуля код на языках программирования, петь и т. д. Помимо технологических достижений, OpenAI обещает делать все возможное для того, чтобы ее модель была доступна как можно большему числу заинтересованных пользователей по всему миру, к тому же на бесплатной основе. В этом определенно есть доля лукавства, так как чат-бот ChatGPT доступен не во всех странах. Да и лимиты на запросы в бесплатной версии не сильно впечатляют: их количество зависит от загрузки серверов компании в конкретный момент времени, а так как сейчас наблюдается ажиотаж, то рассчитывать на существенные квоты не стоит.

Нейросетевые инструменты с каждым днем приобретают всё бóльшую популярность как среди профессионалов, так и у широкой аудитории интересующихся. На самом деле конечный продукт, который известен большинству обывателей под названием «нейросеть», представляет собой связку из чат-бота, самообучающейся большой языковой модели и генеративного искусственного интеллекта. Именно большая языковая модель является той самой нейронной сетью с огромным количеством разных параметров, которую обучают либо она самообучается (возможны оба варианта) с помощью анализа огромных массивов данных разных категорий. В свою очередь с помощью больших языковых моделей функционирует так называемый генеративный искусственный интеллект, который по запросу пользователей генерирует разнообразный новый контент: в зависимости от специализации нейросети это может быть текст, программный код, изображения, видео и многое другое. Чат-боты выступают в качестве интерфейсов, с помощью которых пользователи взаимодействуют с конкретными нейросетями. Чаще всего архитектура современных больших языковых моделей определяется как трансформер (тип организации глубоких нейронных сетей). Даже ChatGPT – самый популярный чат-бот на планете – расшифровывается как «генеративный предварительно обученный трансформер» (англ. Generative Pre-trained Transformer). По поводу корректности всех перечисленных терминов продолжаются споры, поэтому для простоты будем называть описываемые в статье продукты нейросетями или чат-ботами. Последние версии чат-ботов имеют достаточно широкое прикладное применение. Они могут выступать в роли ИИ-ассистентов, имитировать дружеское общение, развлекать, помогать в изучении языков и научных дисциплин, осуществлять синхронный перевод в процессе общения носителей разных языков, помогать в решении рабочих задач, давать развернутые ответы на вопросы, спектр которых ограничен лишь фантазией вопрошающих, создавать, интерпретировать и творчески дорабатывать различный контент – как текстовый, так и графический. С помощью дополнительных плагинов можно, например, автоматически превратить аудиозапись телефонного разговора в текст и даже попросить чат-бота самостоятельно определить ключевые пункты общения. В качестве ИИ-помощника чат-боты способны взять на себя организацию вашего ежедневного распорядка, в том числе рабочих задач. Кроме того, с помощью нейросетей можно получать подсказки в процессе решения научных и прикладных задач – математических, физических, в области программирования и т. д.: например, как улучшить конкретный программный код или даже полностью переписать его с одного языка программирования на другой. А с помощью соответствующих запросов к одному чат-боту можно научиться правильно формулировать их для других нейросетей. В теории деятельность нейросетей не ограничена ничем, кроме текущего законодательства и норм морали в том объеме, в котором их исповедуют разработчики конкретных чат-ботов. В связи с этим наиболее сложной темой в сегменте регулирования нейросетей до сих пор остается авторское право. Несмотря на то, что чисто номинально нейросети не могут создавать контент, нарушающий авторские права или непосредственно использующий чью-либо личную информацию, на деле все нейросетевые алгоритмы обучаются на данных, защищенных авторскими правами: это книги, журналы, картины и т. д. То есть, чтобы научиться писать качественные тексты, нейросети буквально штудируют классическую и современную литературу, а чтобы генерировать радующие глаз изображения, бесконечно анализируют работы всемирно признанных художников. Некоторые представители творческих профессий возражают против этого, однако до принятия решения, которое устроит все стороны конфликта, пока далеко. Стоит также отметить, что некоторые популярные нейросети (ChatGPT, Gemini, Copilot (Bing AI), Midjourney и др.) официально не работают в России, поэтому воспользоваться ими можно лишь с территории других государств. Чтобы получить доступ даже к бесплатным наборам функций некоторых чат-ботов для успешной регистрации в сервисе, нужен не только иностранный IP, но и зарубежный телефонный номер, а для оплаты дополнительных функций понадобится международная банковская карта. Тем не менее не стоит сильно огорчаться, ведь некоторые функции этих инструментов встроены в другие продукты, доступные в России (правда, не всегда речь идет о полноценном доступе). Кроме того, многие российские компании разрабатывают собственные нейросети различных категорий – речь идет как о продукции крупных корпораций вроде «Сбера» и «Яндекса», так и о частных инициативах разработчиков.

Тем не менее регистрация в версии ChatGPT-4o действительно стала проще – больше не требуется зарубежный номер телефона (как было в предыдущей версии), достаточно воспользоваться любой электронной почтой или сервисом быстрой авторизации от Google, Microsoft и Apple. Однако OpenAI, как и прежде, ограничивает возможность регистрации с российских IP-адресов. Если для регистрации аккаунта в ChatGPT вы не желаете или не можете временно изменить свою геолокацию, то чат-бота можно протестировать с помощью посреднических сервисов, например LMSYS Chatbot Arena . В разделе Direct Chat можно из списка выбрать нужную модель, в том числе ChatGPT-4o, и отправить запрос. Однако проблема чрезвычайно малого числа бесплатных запросов на сервисах посредников ощущается еще сильнее. Кстати, судя по всему, до релиза ChatGPT-5 осталось совсем немного.

На самом деле количество доступных в России нейросетей гораздо больше. Мы не упомянули, например, Craiyon, Dream, Colorize, Starryai, CopyMonkey, Turbotext, Wordify, Notion AI и многие другие. Однако нужно понимать, что далеко не всегда это полноценные нейросети, такие же, как описаны выше, – нередко речь идет лишь о плагинах, воплощающих отдельные функции. Например, Colorize – это AI-сервис, который раскрашивает черно-белые фото и видео в натуральные цвета. Очевидно, что это хотя и полезный, но узкоспециальный инструмент. Кроме того, многие ИИ-продукты и плагины, доступные сегодня на рынке и работающие с текстом и кодом, основаны на базе разных версий ChatGPT или других известных моделей. На самом деле в этом нет ничего плохого – наоборот, отдельные энтузиасты, создавая узкоспециализированные приложения, последовательно развивают возможности неройсетевых моделей в различных направлениях до экспертных. Отдельно хотелось бы отметить сегмент обучающих нейросетей, например Character AI, Perplexity, Socratic и многие другие. В основном это разновидности ИИ-ассистентов, способных помогать учащимся в решении задач (физика, химия, математика и т.д.), освоении программирования и улучшении определенных навыков (например, восприятия иностранной речи на слух или произношения). Мы осознанно почти не затрагивали технические особенности создания и обучения больших языковых моделей, потому что их можно обсуждать так же долго, как достоинства и недостатки каждой из них. Одно неоспоримо: умение взаимодействовать с нейросетями, в частности грамотно строить запросы и хотя бы на минимальном уровне понимать, как они работают, де-факто уже стало обязательным. Поэтому, если вы еще не шагнули в мир нейросетевых технологий, самое время попробовать.

Шаг 1: Выбор нейросети

После выбора подходящей нейросети необходимо обучить ее на необходимых данных. Обучение нейронной сети — это процесс подбора оптимальных весов и параметров модели, который позволит достичь высокой точности предсказаний. Для этого потребуются набор данных, на котором будет происходить обучение, а также алгоритмы оптимизации и функции потерь для настройки модели. Обучение нейросети обычно происходит на специализированных платформах для машинного обучения, таких как TensorFlow, PyTorch, Keras и другие.

Вне всяких сомнений, 2022 год изменил мир. Но тогда уместен вопрос: как он повлиял на приоритеты кибербезопасности? Этот вопрос я не перестаю задавать собеседникам и крайне редко получаю убедительные, содержательные ответы. Как правило, это ответ из популярного словаря полумаркетолога, а они так же скучны, как вода в канализации: «Мы будем повышать качество наших продуктов и услуг». Гм. а до этого вы их понижали?
Для того чтобы понять о каких переменах идет речь, попробуем сфокусироваться на событиях после 2022 года и их масштабах с точки зрения кибербезопасности.

После успешной интеграции нейросети с сайтом необходимо обеспечить ее поддержку и мониторинг. Это включает в себя постоянный контроль за работоспособностью и производительностью нейросети, обновление модели при необходимости, а также реагирование на возможные проблемы или сбои в ее работе. Также важно следить за изменениями в окружающей среде и обновлять модель нейросети в соответствии с новыми данными и требованиями.

Прежде чем приступить к подключению нейросети, необходимо определиться с выбором самой подходящей модели. Существует множество различных типов нейросетей, каждая из которых предназначена для решения определенных задач. Например, для распознавания изображений можно использовать сверточные нейронные сети, для обработки текстов — рекуррентные сети, а для решения задачи рекомендации — нейронные сети прямого распространения. Поэтому важно определить, для какой цели вы планируете использовать нейросеть на вашем сайте и выбрать соответствующую модель.

Еще совсем недавно от западных облачных сервисов зависело 30% крупных российских компаний. Их отключение, порой внезапное, должно было поставить рынок перед сложными вызовами. Но оказалось, что российские облака готовы предложить рынку вполне зрелые решения. Это и многое другое обсудили участники круглого стола IT-World «Импортозамещение в облаках».

Нейросети, или искусственные нейронные сети, стали неотъемлемой частью современных информационных технологий. Они способны обрабатывать и анализировать огромные объемы данных, распознавать образы, голос, тексты и даже принимать решения на основе полученной информации.

В портфолио генеративных моделей «Яндекса» сейчас наиболее актуальна серия YandexGPT 3 . Компания позиционирует ее как качественный вспомогательный инструмент для использования в ИТ-продуктах и решения бизнес-задач широкого спектра. Первенец этой серии – YandexGPT 3 Pro – доступен в сервисе Yandex Cloud. Как обычно, новая версия лучше справляется с пониманием запросов и решением поставленных задач. Согласно оценкам с помощью методики YaMMLU_ru, процент верных ответов чат-бота при запросах на русском языке вырос с 55% в YandexGPT 2 до 63% в YandexGPT 3. Аналогичные показатели у Llama-2 70B и ChatGPT-3.5 Turbo по той же методике составляют 59% и 58% соответственно. То есть на русском языке новая версия справляется лучше зарубежных аналогов. Однако не нужно забывать, что нейросети все еще ошибаются, (это касается не только YandexGPT 3, но и всех остальных чат-ботов). Тем не менее количество фактических ошибок в YandexGPT 3 снизилось до 13,5%, что на 2,9% меньше, чем в предыдущей версии этой большой языковой модели, а в категории «неподтвержденная информация» упало с 6,4% до 5%. Помимо некоторых преимуществ работы YandexGPT 3 на русском языке (в сравнении с зарубежными аналогами), разработчики утверждают, что новая версия превосходит ChatGPT-3.5 Turbo в вопросах, затрагивающих узкие классы бизнес-задач. Для достижения этого ее дополнительно обучали на задачах, возникающих в специфических рабочих процессах. В «Яндексе» полагают, что их сервис будет полезен менеджерам продуктов, разработчикам, директорам по данным (CDO) в самых разных областях экономики (финтех, ретейл, промышленность и т. д.). Для того, чтобы начать работать с YandexGPT API, необходимо пройти аутентификацию в Yandex Foundation Models . Обычные пользователи могут попробовать работу в двух деморежимах на выбор – чат или промт, достаточно авторизоваться с помощью «Яндекс ID». Для тестирования бизнес-задач нужно перейти в режим Playground (интерфейс в консоли Yandex Cloud).

В заключение можно сказать, что подключение нейросети к веб-сайту — это сложный и многопроцессорный процесс, который требует глубоких знаний в области машинного обучения, программирования и веб-разработки. Однако, при правильно проведенном интеграции нейросеть может значительно расширить функционал вашего сайта, улучшить пользовательский опыт и повысить его конкурентоспособность на рынке.