I’ll be back: 15 глупых вопросов о нейросетях

На каких данных обучается нейросеть? Можно ли ее обучить говорить на разных языках или принимать решения за человека?

В основе нейросети лежат процессы, похожие на работу нашего мозга, и хотя нейронных связей у человека меньше, чем у мощной нейронной сети, понимания поставленной задачи или возможности обдумывать ответ у нее нет. Поэтому нейросеть искусственным интеллектом мы назвать не можем.

Нейросети же получают и применяют знания изолированно, в рамках конкретных задач. Они не могут гибко интегрировать навыки и использовать их повторно для решения новых задач в другом контексте — ИИ, которая умеет играть в Го, не сможет перенести усвоенные игровые принципы на аналогичную игру.

Нейросети не могут обобщать знания и разрабатывать на их основе новые стратегии. Например, ИИ, который обучили определять рак груди на маммограммах, не может распознать аномалию на МРТ или УЗИ. Это не позволяет нейросетям выходить за рамки специализации — для распознавания лиц и животных нужно обучать две отдельные модели.

Вопреки впечатлению, что нейросети сейчас используются почти всеми и повсюду, это все еще довольно дорогая технология. Нейронные сети для обучения или работы требуют значительных вычислительных мощностей для обработки данных. Далеко не во всех сферах можно внедрить такое оборудование, чтобы это было экономически оправдано.

Главная проблема нейросетей в том, что ИИ может проанализировать огромные объемы данных, но на уровне поверхностных статистических закономерностей. Например, нейронка может распознать на изображении объекты по очевидным особенностям: форме, цвету, расположению, деталям. Но не может обработать картинку на более высоком уровне абстрактных концепций и понять суть.

В России в целом существует много нейросетей, которые уже можно использовать: на их основе работает голосовой помощник «Алиса» от «Яндекса», для генерации изображений есть нейросеть Kandinsky. В мае планируется выпуск нейросети GigaChat. Это нейросеть является аналогом

Неспособность интегрировать навыки в новый контекст

Более того, присутствие несвойственных деталей на объектах сбивает нейросеть с толку. Достаточно изменить несущественную часть изображения — и вот уже ИИ не может отличить собаку от кошки. А способность провести более глубокий сознательный анализ, абстрагироваться от поверхностных признаков и скорректировать свое первое впечатление ему пока недоступна.

Никита: У нейросети нет достаточной эмпатии и навыков общения, чтобы заменить человека в психотерапии, консультировании, продажах и так далее. Некоторые виды творческой деятельности — литература, искусство, музыка, танец — могут быть выполнены нейросетями только с ограниченным успехом.

Но, как и свой прототип, искусственная нейронная сеть несовершенна. Как у любой новой технологии, ИИ таит в себе сложности, проблемы, ограничения, непрогнозируемые последствия и даже угрозы. О чем сейчас переживают создатели нейронных моделей и какие есть варианты развития событий — читайте дальше.

Например, языковая модель Galactica по просьбе пользователя написала очень убедительную «научную статью» о пользе употребления битого стекла. В материале были ссылки на исследования и мнения экспертов, имеющие вид полноценной доказательной базы. Та же модель путала исторические даты, имена, факты — к примеру, писала о запуске медведей в космос. В итоге из-за многочисленных жалоб пользователей, тестировавших платформу, она была заблокирована.

В большинстве случаев, если это не прописано в алгоритме, нельзя определить, как нейросеть пришла к тому или иному ответу — генерация осуществляется неконтролируемо. И если для общения с человеком боты используют выбранную языковую систему, то между собой могут переходить на непонятный человеку язык.

Искусственный интеллект — мощная технология, основанная на представлении о мозге как о компьютере. В 1943 году Уоррен Маккаллох и Уолтер Питтс предложили первую простую математическую модель биологического нейрона — сеть из таких нейронов способна обрабатывать данные аналогично тому, как это делает человеческий мозг.

Никита: В разработке лекарств у нейросетей есть преимущества. Во-первых, они быстрее обрабатывают информацию и находят полезные закономерности в огромном объеме данных. Во-вторых, действуют объективно: у них нет усталости, невнимательности, они не зависят от эмоционального состояния. В-третьих, непрерывная работа без сна и отдыха дает результат гораздо быстрее.

Анализ показал, что тарабарщина не была системным сбоем, и машины по-прежнему понимали друг друга. Предположительно боты перешли на упрощенную форму общения для более быстрого принятия решений. Во избежание непредвиденных последствий систему отключили.