ИИ несет в себе опасности, но совершенно не те, о которых все говорят»

Представители творческих профессий не желают делиться славой и деньгами с ИИ

Могут быть полезны языковые модели и для ускорения анализа информации. Сегодня каждый день выходят новые научные статьи в каждой области. По одним и тем же областям читается огромное количество курсов в разных университетах — и наверняка в каждом из них есть объяснение, которое удачнее других. Этой информации так много, что невозможно все это прочитать и переварить. Если мы научим языковые модели отличать правду от выдумки (и добьемся, чтобы они не ошибались в фактах) — мы получим крайне мощный инструмент, который позволит, например, за час узнать краткое резюме всех результатов в любой области науки. Думаю, это позволило бы ученым выйти на новую скорость в исследованиях.

Еще один важный нюанс: в языковые модели не заложено понимания того, что выдаваемая ими информация должна соотноситься с реальностью и не противоречить фундаментальным законам физики или математики. Мы, живые люди, имеем возможность это проверять. Мы способны установить истину, потому что мы каждую секунду взаимодействуем с реальным миром. Какие-то утверждения проверить легко, для каких-то потребуется много работы — но это хотя бы реализуемо. Языковые модели с ним взаимодействуют только через тексты, которые видели при обучении, и эти тексты вполне могли быть некорректными, не соответствующими действительности.

Несмотря на недостатки, перспективы у ИИ очень большие. Так, существенная часть работы преподавателей — это проверка работ студентов. Даже в самых строгих областях науки мы предпочитаем давать студентам творческие задания, где надо подумать, проанализировать, предложить идею. И, конечно, сейчас это приходится проверять вручную. У лингвистических моделей есть все шансы нам помочь — находить в решениях недостатки, давать студентам развернутую обратную связь. Для обучения таких моделей нам понадобится собрать большую выборку решений студентов вместе с результатами проверки — но вряд ли это нерешаемая задача.

Даст какой-то эффект это письмо? Ранее об опасности ИИ и массовой роботизации неоднократно писали тот же Маск, Стивен Хокинг и другие знаменитости. Эхо было громким, но недолгим. Кто согласится остановить гонку? Ведь сказано же: кто будет лидером в сфере ИИ, тот будет править миром.

— Мне кажется, нынешняя ситуация с ИИ напоминает ту, которая сложилась после того, как при самом активном участии ученых в невероятной гонке было создано атомное оружие. А когда его возможности были продемонстрированы, ученые первыми стали думать, как оставить его в арсеналах, обеспечить его неприменение. В итоге было создано МАГАТЭ, которое контролирует многие вопросы в атомной сфере. Между странами подписаны важнейшие документы, где они берут на себя обязательства по неприменению и нераспространению такого оружия.

Наверняка вы слышали историю, как студент РГГУ написал дипломную работу с помощью ChatGPT и даже успешно защитил ее. Сколько тогда было паники — говорили, что всё, образование можно отменять! Какая-то железка умеет решать такие сложные задачи, ужас! Но давайте разберемся, как именно работает ИИ на примере конкретно этой истории с дипломом.

Евгений Соколов — о возможностях и проблемах технологии

Безусловно, это лишь некоторая основа, поверх которой нужно построить много всего, чтобы оно работало. Но если совсем поверхностно, то ChatGPT и другие языковые модели работают именно так. Они могут поддержать диалог, могут выдать краткое объяснение той или иной темы, могут решать математические задачи. И обратите внимание — в них не закладывали эти навыки каким-то специальным образом, их просто учили продолжать текст слово за словом.

И тем не менее Маск и его сторонники призывают на шесть месяцев приостановить разработки. Почему? Человечество сегодня не готово использовать его без вреда самому себе. Оно словно получило в руки интересную игрушку, с удовольствием с ней играет, не понимая опасности, которая ему грозит. Авторы письма особо подчеркивают, что ИИ-лаборатории увязли в гонке по созданию все более мощных цифровых умов, которые никто, даже сами разработчики, не может до конца понять, прогнозировать и надежно контролировать. Это может спровоцировать очень болезненные, а порой даже неожиданные изменения в жизни человечества, несет угрозу самому его существованию.

И этот призыв авторов письма в первую очередь не к политикам, а к коллегам, разработчикам ИИ. Нельзя продолжать эту сумасшедшую бесконтрольную гонку в никуда. Давайте сделаем паузу, чтобы те блестящие умы, которые создают такие мощные интеллекты, остановились и договорились о новых правилах игры. Цель — сделать ИИ, который будет работать только на пользу, а не во вред человеку.

Сейчас в нейронных сетях начинает появляться другая модель нейронов, так называемые спайковые модели и другие. И самое важное — появилась новая, «нефоннеймановская» архитектура, которая позволяет более эффективно производить вычисления, появляется новый вид памяти. Сегодня у любого процессора 40% занимает память по площади, по энергетике. Мы ожидаем в ближайшие 10 лет мультипликативные эффекты в 100 тыс. раз, что намного расширит возможности нейронных сетей. Многое в жизни будет меняться. Перед этим взрывом важно остановиться и еще раз просмотреть законодательную базу по ИИ.

Обращение Илона Маска, Стива Возняка и еще более тысячи исследователей искусственного интеллекта, которые призвали немедленно приостановить обучение систем на основе ИИ, вызвало сильнейшее эхо в СМИ и соцсетях. Ситуацию подогрела мировая новость, что чат-бот Элиза спровоцировал на самоубийство эколога в Бельгии. Звучат требования, пока не поздно, остановить безответственных ученых, которые из собственного любопытства готовы поставить человечество на грань выживания.

Модели вроде ChatGPT крайне хороши в создании текстов. Они могут сгенерировать официальное письмо на основе краткого неформального описания от нас. Сделать красивое рекомендательное письмо. Подготовить ответ на жалобу, которую вам надо обработать. «Причесать» текст, «налить воды» — или, наоборот, сократить, сделать краткую выжимку. Тот же ChatGPT мы можем использовать в качестве помощника.