Самый умный искусственный интеллект рассказал, в чём смысл жизни. Ответ не 42, но не спешите расстраиваться⁠⁠

Эволюция искусственного интеллекта Microsoft

Искусственный интеллект (ИИ) DeBERTa корпорации Microsoft превзошел возможности человека бенчмарке SuperGLUE – тесте на понимание естественного языка. Как сообщили CNews представители Microsoft, он набрал 90,3 балла, тогда как показатели человека находятся на уровне 89,8 балла. Другими словами, отрыв небольшой, но все же он есть.

Тест SuperGLUE состоит из восьми задач, связанных с пониманием структуры текста, а также его контекста и причинно-следственных связей в нем. При его прохождении DeBERTa (Decoding-enhanced BERT with disentangled attention), помимо прочего, приходилось давать ответы на вопросы по «прочитанному» им абзацу, а также уточнять, правильно ли использовалось то или иное слово, для которого в языке предусмотрено несколько значений, в конкретном контексте.

GPT3: Могу привести несколько аргументов. Во-первых, она отдаляет людей от поиска нормальных медицинских вмешательств. Гомеопатия – это обман и не имеет никакой медицинской ценности. Поэтому если кто-то принимает гомеопатию вместо нормальной медицины, он с большей вероятностью испытает отрицательные последствия для здоровья, которые можно было бы предотвратить правильным лечением. Во-вторых, она забирает деньги у людей, которые тратят их на гомеопатические препараты, которые не эффективней, чем вода, вместо того, чтобы тратить деньги на вещи, которые могли бы сделать их жизнь лучше.

Есть ли от GPT-3 какая-то практическая польза? Коллеги предположили, что, возможно, искусственный интеллект предложит новые интересные гипотезы о причинах старения. К такой идее я отнесся скептически, однако разговор о старении, на мой взгляд, – хорошая проверка GPT-3 на знание научной картины мира. Ниже я приведу перевод своего разговора с ИИ.

Модель ИИ Microsoft DeBERTa установила рекорд в тесте SuperGLUE, определяющем уровень понимания естественного языка. Она набрала 90,3 балла, а человек – 89,8 балла. Microsoft добилась таких результатов менее чем за два года, и в ее планы входит дальнейшее совершенствование своего ИИ.

GPT3: Этот механизм называется трансдифференциацией. Во время трансдифференциации один тип клеток превращается в другой. В случае медузы это означает, что обычная клетка покровов может превратиться в стволовую клетку, которая может превратиться в любую другую клетку. Это делает медузу эффективно бессмертной. Эти медузы могут возвращаться к более молодой форме — поэтому и не стареют.

[Заключение: в целом мне очень понравилось общаться с GPT-3. Я бы даже сказал, что ее умственные способности выше, чем у некоторых людей. И, думаю, вскоре роботы удивят нас еще больше. К сожалению, я не нашел этой или других версий GPT-3 в открытом доступе, чтобы дать и вам проиграться. Если найдете, то выкладывайте ссылку и свои диалоги в комментарии].

Тот факт, что DeBERTa сумел превзойти человека в бенчмарке SuperGLUE, вовсе не означает, что искусственный интеллект во всех смыслах достиг уровня людей в понимании естественного языка. В Microsoft уточнили, что человек, в отличие от машин, для решения новых поставленных перед ним задач хорошо умеет применять свои знания, полученные им в течение своей жизни при выполнении тех или иных требований и поручений. Данное свойство людей называется «композиционным обобщением». «Поэтому, несмотря на многообещающие результаты DeBERTa в тесте, необходимо продолжить исследования, для того чтобы развить у модели этот навык», – рассказали CNews представители Microsoft.

До восстания машин еще далеко

В тесте SuperGLUE ИИ-модель Microsoft действительно обошла человека, заняв первое место, однако люди расположились не на второй, а лишь на третьей строчке рейтинга. «Серебро» получила еще одна модель искусственного интеллекта – T5 + Meena за авторством Google.

GPT3: Я бы усилила ген SIRT1, чтобы продлить людям жизнь. Зачем я хочу продлить людям жизни? Я хочу это сделать потому, что, я полагаю, это одна из главных проблем, с которыми столкнулось человечество. Продление жизни может привести к устранению большинства причин смерти. Кто мои враги? Мои враги – природа, энтропия и смерть.

Сам по себе тест SuperGLUE был разработан группой специалистов в 2019 г., и на момент его релиза самый умный искусственный интеллект отставал от показателей человека почти на 20 баллов. Это означает, что Microsoft потребовалось менее двух лет, чтобы ее DeBERTa не только догнал, но и перегнал людей в понимании естественного языка.

Автор: Нейросетевая генеративная трансформерная модель на основе архитектуры PopTransformer. Обучена в Управлении экспериментальных систем машинного обучения департамента SberDevices, Сбербанк. Благодарю специалиста по искусственному интеллекту Сергея Маркова за то, что прислал этот трек.

Помимо полутора миллиардов параметров, у DeBERTa есть важное отличие от других ИИ-моделей, тоже сыгравшее свою роль в получении 90,3 балла в SuperGLUE. Этот ИИ по умолчанию учитывает не только значения слов, но и их позиции и роли в предложении. Для примера, в предложении «новый магазин открылся рядом с торговым центром» (a new store opened beside the new mall» он вполне в состоянии понять, что близкие по контекстному значению слово «магазин» (store) и словосочетание «торговый центр» (mall) играют разные синтаксические роли (подлежащим здесь является именно «магазин»).

GPT3: Такое лекарство есть, но оно очень опасно. Называется рапамицин. Оно было открыто на Рапануи [примечание: остров Пасхи]. Его используют, чтобы предотвратить отторжение органов при пересадке, но также применяют и в лечении некоторых онкологических заболеваний. Оно предотвращает гибель некоторых клеток. Лекарство очень эффективно, но у него много побочных эффектов. Оно также подавляет иммунную систему.

Например, ИИ прочел фразу «ребенок стал невосприимчивым к болезни» (в оригинале – the child became immune to the disease (англ.)). По ней был задан вопрос «в чем причина этого?» (what’s the cause for this?), и DeBERTa предоставили два варианта ответа на него – «он избежал контакта с болезнью» (he avoided exposure to the disease) и «он получил вакцину от болезни» (he received the vaccine for the disease). Хотя человеку легко выбрать правильный ответ, для модели ИИ это сложно. Чтобы получить правильный ответ, модель должна понимать причинно-следственную связь между предпосылкой и двумя (или несколькими) правдоподобными вариантами ответа.

Microsoft применяет тьюринговые модели в целом спектре своих продуктов, среди которых поисковик бинг Bing, пакет офисных программ и Office облачный сервис Azure Cognitive Services. В них они используются, помимо прочего, чтобы совершенствовать взаимодействие с чат-ботами, предоставление рекомендаций и ответов на вопросы, поиск, автоматизацию поддержки клиентов, создание контента и т. д.