Искусственный интеллект сквозь призму права. Интервью с академиком Т. Хабриевой

В-четвертых, технологии искусственного интеллекта применяются в большом разнообразии сфер. Например, ИИ может использоваться в публичном управлении — в предоставлении государственных услуг. Мы с вами как москвичи пользуемся подобными сервисами. Помимо этого, технологии искусственного интеллекта задействованы в работе таможенной службы, в медицине, транспорте, банковском деле и многих других областях. Охват сфер, где используется ИИ, очень широк, и это также ведет к различиям в степени риска при работе с искусственным интеллектом: в разных отраслях применение «умных» программ может причинить различный по серьезности ущерб.

Мне очень понравилось, как описал проблемы в области правовой идентификации искусственного интеллекта один из моих коллег, заместитель директора нашего института А.С. Емельянов. Он сравнил работу современных российских и зарубежных юристов с притчей про слона и семерых мудрецов: каждый натыкался на зверя в кромешной темноте и описывал его — кто-то говорил, что это дерево, кто-то утверждал, что это диван, и каждый был по-своему прав. Так же и мы, изучая феномен ИИ, нащупываем разные стороны его сущности и, исходя из своих наблюдений, даем этой технологии различные определения и пытаемся соответствующим образом идентифицировать ее уже на законодательном уровне. Однако я думаю, что уже в ближайшем будущем мы сможем представить этого «слона» как целое и получим ожидаемый от нас социальный эффект.

Обеспечив ребенку свободное целеполагание и возможность участия в управлении образовательным процессом («и подключив к этому ИИ как угодно»), школа наладит продуктивный диалог с учеником, считает Мокринский. «Дай ребенку порулить ー и он готов делать любые ошибки, лишь бы это было эмоциональной частью ваших отношений. Все, с этого момента ИИ будет объезжен так же, как и другие формы современной культуры».

Искусственный интеллект представляет особый интерес для ученых-правоведов России и мира. Что такое компьютерный разум с точки зрения юриста — рукотворный объект или все же «электронное лицо» и может ли измениться взгляд на ИИ с течением времени? Как «умные» программы помогают творить законы и вершить суд? Чем интересны создаваемые при участии российских правоведов нормативные документы в области высоких технологий — Цифровой кодекс и Федеральный закон о технологической политике? О том, как развивается российское и мировое законодательство в области искусственного интеллекта, рассказывает директор Института законодательства и сравнительного правоведения при Правительстве РФ, заместитель президента РАН академик Талия Ярулловна Хабриева.

Ученые института немало продвинулись в вопросах регулирования отношений в области ИИ. Речь идет и об отдельных правовых институтах, которые во многом завязаны на динамику развития гражданского права в связи с созданием и использованием новых технологий. В рамках этой темы есть что обсудить, но на самом деле это большой перечень.

Что касается Цифрового кодекса, здесь дела обстоят несколько сложнее. Мы участвовали в подготовке этого документа еще на этапе разработки его концепции. Изначально мы очень критически отнеслись к идее кодификации законодательства в сфере информационных, цифровых технологий, потому что данный процесс всегда юридически очень сложен, но не всегда необходим. Да и название «Цифровой кодекс» не совсем научное и с юридической точки зрения не вполне подходящее. С другой стороны, понятие «цифровой» уже прочно вошло в правовой обиход: например, уже используются «цифровые права». В настоящее время цифровые кодексы разрабатываются в странах Евразийского экономического союза, Содружества Независимых Государств. Проекты подобных кодексов уже готовятся в Киргизии, Казахстане, с недавнего времени — в Азербайджане. Это говорит о том, что, судя по всему, время для разработки данных документов пришло.

Что получилось у «СберУниверситета»? Опросив более 500 преподавателей, эксперты выяснили, что радикальные изменения в навыках и отношении студентов к учебе отмечает каждый пятый из них, при этом большинство изменений воспринимаются негативно ー это снижение мотивации, когнитивных способностей и восприятие образования как услуги, рассказал Алексей Суханов. Из положительных изменений, отмеченных преподавателями, Суханов перечислил настрой на практические знания, предпринимательский дух и высокий уровень цифровой грамотности.

Если говорить о моделях правового регулирования отношений в области ИИ, я бы начала с той, которая сформировалась в связи с внесением поправок в Конституцию в 2020 г. Мы одними из первых в мире сумели предложить конституционные параметры для развития научно-технологической политики, сохранения научного потенциала, а также создания и внедрения новых технологий. Кстати, ИЗиСП осуществлял научно-правовое сопровождение конституционной реформы: я была сопредседателем рабочей группы по подготовке поправок, и самым большим «десантом» от научных учреждений в ее составе были наши сотрудники.

«Давайте представим, как ребенок учится, ー предложил Алексей Масютин. ー Это похоже на то, как работают нашумевшие большие языковые модели. Ребенок слышит слова, видит символы и последовательности, которые из символов появляются. И в какой-то момент начинает продолжать эти последовательности, где-то понимая смысл: привязку к объектам мира графического, мира эмоционального (горячее ー обжегся, больно и т. д.) Похожим занимаются разработчики искусственного интеллекта, когда передают массивы всех накопленных человечеством данных, чтобы научить модели одному простому свойству: продолжить предложение, текст. Казалось бы, такая базовая операция позволяет языковым моделям схватывать смыслы. И когда мы с ними взаимодействуем, нам кажется, что там появляются признаки сознания. Вопрос в том, куда человечество пойдет дальше в развитии ИИ».

— Проблемы, с которыми имеют дело в этой области разработчики и ученые-практики, общие для всех стран. В первую очередь следует назвать разнообразие обсуждаемых технологий: все говорят о слабом и сильном искусственном интеллекте, об ИИ, обучающемся на данных низкого либо высокого качества. Эти названия условны, но очевидно, что у разных видов искусственного интеллекта есть свои особенности. Так, технологии слабого ИИ предназначены для решения одной задачи или небольшого их комплекса: например, для компьютерной игры, виртуальной игры в шахматы или распознавания речи. Совершенно другими отличительными чертами обладают технологии сильного искусственного интеллекта — самообучающегося, понимающего свои мысли. Говорят, что в будущем подобные программы даже смогут осознавать себя как личность.

Чем преподаватели отвечают на эти перемены? Подавляющее большинство в целях адаптации (65%) изучают цифровые дисциплины, рассказал Алексей Суханов. А как же непосредственно педагогика, педагогический дизайн и мягкие навыки? Только 13% и 8 преподавателей из 100 обеспокоенных уделяют этому время.

В августе в сообществе Noôdome прошла дискуссия о роли искусственного интеллекта в образовании: «Умный, хитрый, свободный: как искусственный интеллект меняет поведение студентов и симулирует знания». Задачей обсуждения было понять, как может измениться сама парадигма образования, когда оно получает такой мощный усилитель, как ИИ, ー и может ли этот инструмент убить владельца? Главный редактор EdDesign Mag Ксения Докукина модерировала дискуссию. Взяв в соавторы нейросеть, она подвела итоги беседы.

Прежде чем понять, опасен или полезен искусственный интеллект, необходимо разобраться в том, как работает наш собственный мозг. Алексей Масютин из НИУ ВШЭ, следуя идеям американского физика Митио Каку, сравнил компьютер и мозг как системы, обрабатывающие сигналы и генерирующие новые. Обучение ребенка, по его мнению, очень похоже на процесс обучения современных языковых моделей (LLM).

При этом самый популярный тренд менее половины респондентов оценили как значимый (важность остальных оценена еще ниже). «Почти фотографическая фиксация расширяющегося разрыва между пониманием роли, целей, задач и методик высшей школы со стороны преподавателей и меняющимися запросами и поведенческими паттернами нового поколения студентов», ー охарактеризовал исследование доктор социологических наук, проректор Президентской академии (РАНХиГС) Сергей Мясоедов.