ChatGPT поставил школу между адом и раем: воевать с искусственным интеллектом бесполезно, надо учиться с ним жить

«Взлом цивилизации» отменяется

Рассмотрена вероятная этимология выражений, используемых в заголовке. Приложен перевод статьи с русского языка на английский. The probable origins of the words mentioned in the title are considered. Attached is the translation of the article from Russian into English.

«Я историк и сразу увидел вопиющую ошибку в вопросе, когда Иван был избран на царство. Ему было 17 лет, а не 3 года. В 3 года потерял родителей, стал великим князем, а не царем. На русском языке система путается в элементарных фактах, так что пока я спокоен за нашу цивилизацию»

Более общая угроза AI: эксперты в разных странах опасаются, что, овладев языком в совершенстве, он сможет «взломать цивилизацию» и манипулировать нами, изменять картину мира. Мария Добрякова напомнила, что на самом деле мы в принципе мало контактируем с реальностью: наши представления о мире зависят от нашей культуры, от экспертного знания, от СМИ, от переводчиков и т.д. Почти все эти фильтры так или иначе необъективны, просто к ним добавляется еще один. Поэтому главная защита от манипуляций и искажений на любом уровне фильтров — понимать, что сконструировано чьим-то сознанием (фантазией, рассуждениями, договоренностями), а что все-таки существует независимо от того, как мы об этом рассказываем.

Что конкретно умеет ChatGPT сейчас в контексте школьного образования — для семинара проверили учителя, студенты программы «Педагогическое образование». Ее академический руководитель Мария Лытаева представила несколько кейсов. Искусственный интеллект может составить стройный план урока, но получается шаблонно, не креативно (плюс надо согласовывать такой урок с требованиями ФГОС или других учебных программ, с которыми AI, конечно, не знаком). С созданием учебных материалов справляется лучше: ChatGPT написал вполне корректный текст для чтения на уроке английского с учетом уровня владения языком, возраста целевой аудитории, выделил активный словарь, задания на понимание текста, на тренировку лексики, даже на развитие критического мышления и рефлексию. Задание на создание текста для аудирования с нуля, для которого сочетали несколько программ AI, выполнено почти отлично.

«Если делать очень обобщенные выводы: сейчас ChatGPT точно может разгрузить опытного педагога в отношении рутинных действий. Но все-таки урок, придуманный AI, получается шаблонным и не точно настроенным под аудиторию, ему нужна творческая адаптация. Искусственный интеллект может составить набор учебных материалов, но преподавателю нужно скорректировать их и проверить на достоверность».

Начали с краткого ликбеза: модель искусственного нейрона, который будет работать примерно как человеческий, описали еще 80 лет назад. Но только когда из этих нейронов удалось построить достаточно большие сети, возникла та самая «магия процесса», рассказал Иван Карлов. Прорывным стал конец 80-х, когда советские и американские ученые независимо друг от друга пришли к модели обратного распространения ошибки, благодаря которой возник алгоритм быстрого обучения нейронных сетей.

Сейчас искусственный интеллект принято делить на аналитический (его профиль — выявление закономерностей) и генеративный — способный создавать контент, похожий на тот, который производит человек. AI по-прежнему оперирует только цифрами, но благодаря так называемой векторизации объектов удалось раскладывать тексты и изображения на цифры, а для ответа собирать обратно. Кстати, важная деталь: сейчас AI скорее англоязычен, то есть предварительно переводит на английский и наши запросы, и свои ответы, что тоже сказывается на точности.

Там, где не нужно было оперировать фактами (например, в задании по литературе), искусственный интеллект справился лучше, в географии — вообще прекрасно. С информатикой результат противоречивый: AI правильно решил лишь половину задач. Он хорошо пишет и анализирует коды, спотыкается на математике — считает правильно, но после точных расчетов внезапно может дать неправильный итоговый ответ.

AI научился нам нравиться

«Ключевые недостатки: нет верификации по внешним источникам. ChatGPT работает не с достоверной информацией, а с неким представлением о реальности, возникшим в результате обучения на текстах из интернета. Он может ссылаться на несуществующих людей, публикации и т.д. Это постарались купировать в версии 4.0, также по этой причине авторы чат-ботов запрещают использовать их в таких критических отраслях, как медицина. Второй минус: нет системы логического вывода. В ответе ChatGPT мы принимаем за рассуждение цепь ассоциаций».

«Систему оценивания можно перенастроить с того, что можно списать (слова, цифры, формулы), на то, что списать нельзя — умение, действие, понимание. Предметное знание должно быть основано на понимании принципов, закономерностей; переплетено с осознанием того, что у нас нет запасной планеты (отсюда экологическая, гражданская грамотность) и что ситуации применения знания могут быть самыми разными и непредсказуемыми (отсюда универсальные компетентности). Хорошее образование пробуждает весь этот плотно сплетенный внутри клубок, это не вопрос или — или. А самыми лучшими (не требующими принуждения и контроля) действиями всегда будут те, что основаны на собственном выборе».

«С задачами на логику совсем плохо. Причем, в отличие от других типов заданий, здесь уже не помогают ни подсказки, ни уточняющие вопросы. С классической задачей про волка, козу и капусту ChatGPT не справился: в первых действиях были намеки на правильное решение, но затем он начал так гонять персонажей туда-сюда, что мне стало их жалко».

Работа посвящена вопросам миграций адыгов на украинские земли во времена античности и средневековья. Настоящее издание является первым монографическим исследованием, где рассматриваются эти малоизученные страницы из прошлого народов юга Восточной Европы и Северного Кавказа. Для историков, этнологов, фольклористов, археологов, лингвистов и широкого круга читателей. Work is dedicated to the issue of migrations of the Adygho-phone population from the Northern Caucasus to the Ukrainian lands during the Ancient and Medieval times. This book is the first monographic research, where these little-studied pages from the past of the peoples of the South of Eastern Europe and the Northern Caucasus are considered. It is intended for historians, ethnologists, folklorists, archaeologists, linguists and a wide range of readers.

В целом на сгенерированных ответах ученика поймать все-таки можно — за счет гладкости текста и отсутствия лексических повторов, что не свойственно живому человеку. Но это формальная сторона. Если ученик научится задавать вопросы, понимая, что именно он хочет узнать, понять и какой ответ устроит его самого, поможет разобраться и внятно изложить тему, — то с содержательной точки зрения ответы будут нормальными. Если ученик с таким полным и аргументированным ответом (по сути, проделав настоящую собственную работу в изучении темы) придет в класс, то это не только не плохо, но и очень хорошо. Умение задать точный вопрос и определить, найден ли на него необходимый и достаточный ответ, — важнейший навык в любой сфере.

Еще одна группа студентов разрабатывает при помощи ChatGPT программу обучающего курса по написанию резюме для поступления на работу и учебу. ChatGPT составил неплохой чек-лист для слушателя и сформулировал образовательные результаты, опираясь на таксономию Блума-Андерсона. Результат неплохой, хотя авторы эксперимента сочли, что искусственный интеллект склонен к общим формулировкам в противовес конкретике, не может сформулировать уникальные идеи, есть смысловые повторы, перепутаны близкие по смыслу термины. Но это может быть связано с русским языком и формулировками запроса: после уточнений ChatGPT доработал тексты.