Character AI: что это за нейросеть, как работает и как ей пользоваться

Формула для расчета выхода нейрона

Лучше обучение. Искусственные нейронные сети обучаются примерно по тому же принципу, что живые существа. Когда человек часто повторяет одни и те же действия, он учится: ездить на велосипеде, рисовать или набирать текст. Это происходит, потому что веса между нейронами в мозгу меняются: нервные клетки наращивают новые связи, по-новому начинают воспринимать сигналы и правильнее их передают. Нейронная сеть тоже изменяет веса при обучении — чем оно объемнее, тем сильнее она «запомнит» какую-то закономерность.

🧠 Быстро забывает. По слухам, контекстное окно в Character AI составляет 2–4 тысячи токенов, что примерно равно 16 000 символов. Если для короткого диалога это не критично, то на длинной дистанции вполне — неприятно, когда спустя два часа общения бот снова спрашивает, как вас зовут.

Еще есть, например, метод обратного распространения ошибки — градиентный алгоритм для многослойных нейросетей. Сигналы ошибки, рассчитанные с помощью градиента, распространяются от выхода нейронной сети к входу, то есть идут не в прямом, а в обратном направлении.

Но нейронные сети — все же не человеческий мозг. Мозг сложнее, объемнее, в нем намного больше нейронов, чем в любой компьютерной нейросети. Поэтому чрезмерное обучение может сделать хуже. Например, переобученная нейросеть может начать распознавать предметы там, где их нет — так люди иногда видят лица в фарах машин и принимают пакеты за котов. А в случае с искусственной нейронной сетью такой эффект еще явнее и заметнее. Если же учить нейросеть на нескольких разнородных данных, скажем, сначала обучить считать числа, а потом — распознавать лица, она просто сломается и начнет работать непредсказуемо. Для таких задач нужны разные нейросети, разные структуры и связи.

В основе Character AI — большая языковая модель LaMDA от Google. С английского это переводится как « языковая модель для диалоговых приложений ». Слово «диалоговых» означает, что модель обучена на реальных разговорах пользователей, взятых, например, из публичных тредов на Reddit, в X и с других площадок.

🤐 Цензурирует ответы. Некоторые пользователи критикуют сервис за то, что он подвергает цензуре NSFW-контент. Когда обстановка в чате начинает накаляться, алгоритм обрывает генерацию на самом интересном месте, что может быть довольно разочаровывающе для авторов фанатского контента.

В отличие от других нейросетей, Character AI обучена на диалогах, поэтому может не знать каких-то тем или предметов. Зато она отлично умеет вести беседу: может пошутить, ответить с подколкой, посоветовать фильм или книгу, рассказать историю, и всё это — в стилистике своего персонажа. По словам авторов, сервис получился настолько интересным, что в него вместо работы залипают даже сами сотрудники компании 🙂

Человеческий мозг состоит из ста миллиардов клеток, которые называются нейронами. Они соединены между собой синапсами. Если через синапсы к нейрону придет достаточное количество нервных импульсов, этот нейрон сработает и передаст нервный импульс дальше. Этот процесс лежит в основе нашего мышления. Мы можем смоделировать это явление, создав нейронную сеть с помощью компьютера. Нам не нужно воссоздавать все сложные биологические процессы, которые происходят в человеческом мозге на молекулярном уровне, нам достаточно знать, что происходит на более высоких уровнях. Для этого мы используем математический инструмент — матрицы, которые представляют собой таблицы чисел. Чтобы сделать все как можно проще, мы смоделируем только один нейрон, к которому поступает входная информация из трех источников и есть только один выход. 3 входных и 1 выходной сигнал Наша задача — научить нейронную сеть решать задачу, которая изображена в ниже. Первые четыре примера будут нашим тренировочным набором. Получилось ли у вас увидеть закономерность? Что должно быть на месте вопросительного знака — 0 или 1?

Что такое Character AI

Character AI ― это нейросеть, где можно пообщаться с любым персонажем или создать своего. Так как ботов создают и обучают сами пользователи, база знаменитостей внушительная — можно пообщаться с Марио, Гарри Поттером, Илоном Маском, Тейлор Свифт и даже с говорящим куском сыра.

Давайте поймем почему формула имеет такой вид. Сначала нам нужно учесть то, что мы хотим скорректировать вес пропорционально размеру ошибки. Далее ошибка умножается на значение, поданное на вход нейрона, что, в нашем случае, 0 или 1. Если на вход был подан 0, то вес не корректируется. И в конце выражение умножается на градиент сигмоиды. Разберемся в последнем шаге по порядку:

🔠 Плохо понимает по-русски. Как и большинство нейросетей, Character AI обучен на корпусе англоязычных текстов. Однако если тот же ChatGPT худо-бедно умеет токенизировать кириллицу, Character AI просто переводит ответы бота с помощью автоматического переводчика. Общаться по-русски, конечно, можно, но это будет напоминать диалог с Google Translate.

Дальше ― кликайте на бот и начинайте общаться. Персонаж первым начинает диалог, вам остаётся только поддержать беседу. После того как вы введёте первое сообщение, сервис предложит зарегистрироваться — это можно сделать с аккаунтами Google, Apple или по email.

Впрочем, статистика говорит сама за себя — большинство пользователей приводит на сайт именно желание развлечься. Так, аудитория бота Super Mario превышает 50 миллионов пользователей, а у самого популярного нейронного психолога ― едва дотягивает до 100 тысяч.

Больше нейронов. В нашей тренировочной нейросети только один нейрон. Но если нейронов будет больше — каждый из них сможет по-своему реагировать на входные данные, соответственно, на следующие нейроны будут приходить данные с разных синапсов. Значит — больше вариативность, «подумать» и передать сигнал дальше может не один нейрон, а несколько. Можно менять и формулу передачи, и связи между нейронами — так получаются разные виды нейронных сетей.