Российские ученые впервые в мире научили искусственный интеллект самостоятельно принимать решения и думать

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Аникьева Эмилия Николаевна, Кувардин Сергей Романович

Искусственные нейронные сети используют «чистые» математические алгоритмы для выполнения вычислений. В редких случаях для выполнения этих вычислений может потребоваться логика. Нейронные сети работают на прототипах нервной системы человека. Эти методы искусственного интеллекта обычно используются для следующих целей:

Некоторые задаются вопросом: Может ли ИИ заменить наши моральные способности принятия решений? Во многих случаях — да. Мы изменили поведение людей с помощью закона, правительства и культуры [1]. Профессиональные граждане создают и применяют законы, которые поощряют или запрещают определенное поведение. Поэтому нам обычно приходится меньше думать о нашем моральном выборе, чем, скажем, люди, живущие в анархии. ИИ распространяет эту власть на значительную часть нашей жизни с ещё большим контролем. По мере того как компьютеры будут делать больше, а люди меньше — человечество будет передавать многие области принятия решений автоматизированным системам для выполнения этих задач, что приведет к потере некоторых навыков.

«Для нас ИИ — это своего рода черный ящик — мы не всегда понимаем, когда и какие результаты будут получены. А если там будет система из агентов, где каждый агент все решает сам, то сложность контроля в разы увеличивается. По сути, это черный ящик внутри черного ящика. В условиях синтетических данных риск предвзятости или ошибок выше, потому что система получает ограниченный набор ситуаций и не видит всю картину мира. Если синтетические данные содержат различные ошибки или отклонения, то наша ИИ-система, будет принимать их как правду и усиливать их», — говорит эксперт «Битрикс24» Сергей Нотевский. Не только на новые возможности ИИ, но и на новые риски указывает и генеральный директор «Рексофт Консалтинг» Андрей Скорочкин: «Риск передачи ответственности ИИ есть. Это реальная проблема, которую еще предстоит решить обществу. Как не передать контроль за своей жизнью искусственному интеллекту? Кто будет принимать ключевые решения? Есть, например, классическая дилемма беспилотного автомобиля, которая так и не решена: едет машина, и ситуация складывается так, что авария неизбежна и кто-то один из пассажиров пострадает. Слева пожилая женщина, справа ребенок. Какое решение ИИ автомобиля должен принять? Кто будет писать этот алгоритм принятия решения? Кто понесет в итоге ответственность? Поэтому этичность играет важную, я бы сказал, определяющую роль в развитии и применении ИИ». Разработчики датасета настроены более оптимистично. «Изучение моделей, которые обучают другие модели, развивается активно, но это в любом случае происходит под контролем человека, так как такие модели-учителя представляют из себя специально созданные для этой цели узконаправленные инструменты», — уверен Куренков.

С 2019 года в нашей стране реализуется программа «Умные города» в рамках национального проекта «Цифровая экономика» и «Жилье и городская среда». Были представлены первые результаты первых пилотных проектов. В частности, есть необычные варианты привычных элементов городской среды

Холдинг «Швабе» разработал интеллектуальный светофор, оснащенный лазерным устройством, которое проецирует в воздух видимые водителями препятствия [6]. На поверхности, на расстоянии 100-200 метров, она выглядит как ряд параллельных линий, предупреждающих о расположении пешеходных переходов. Эти сигналы хорошо видны в темноте и в тумане.

3. Суперинтеллект. Для его создания пока нет никаких предпосылок, есть лишь приблизительное представление о том, каким он должен быть. Например, согласно одной из точек зрения, суперинтеллект должен быть максимально похож на человеческий интеллект, а возможно, даже превосходить его.

ARTIFICIAL INTELLIGENCE FOR DECISION MAKING

Компании Teva и Hoka используют MakerSights для принятия решений о своих продуктах на основе искусственного интеллекта. Благодаря технологии, основанной на искусственном интеллекте, MarkerSight предоставляет Teva и Hoka правильную структуру принятия решений на каждом этапе процесса разработки продукта.

2. Сильный. В настоящее время находится в стадии разработки. Он основан на так называемой «мыслительной способности». ИИ принимает решения по «необученным» задачам. Пока что существуют роботы-операторы колл-центров, которые очень близки к «сильному» искусственному интеллекту.

5. Deep learning for improving the storage process: accurate and automatic segmentation of spoiled areas on apples / N. Stasenko, G. Ovchinnikov, E. Chernova, D. Shadrin, M. Pukalchik, I. Krivolapov // В сборнике: Conference Record — IEEE Instrumentation and Measurement Technology Conference. Сер. «I2MTC 2021 -IEEE International Instrumentation and Measurement Technology Conference, Proceedings» 2021. С. 9460071.

Искусственный интеллект в медицине [5, 6]. В феврале 2022 года компании «ТехЛАБ» и «Нетрика» завершили внедрение в Ленинградской области подсистемы лечения онкологических заболеваний, под названием «Онкопомощь». Основная цель — эффективное направление онкологических пациентов и контроль состояния пациентов, объемов и результатов лечения. В переводе на общедоступный язык это означает, что интеллектуальная компьютерная система, располагающая всеобъемлющими клиническими данными и историями болезней данных пациентов со злокачественными или подозреваемыми злокачественными опухолями, будет рекомендовать лечение на основе индивидуальных клинических снимков, обеспечивать непрерывность лечения и контролировать его соблюдение. «Онкопомощь» работает в связке с другими региональными подсистемами, и врач-онколог имеет доступ ко всей истории болезни пациента: лабораторным, инструментальным исследованиям, данным интегрированной электронной медицинской карты.

Новый датасет называется XLand-MiniGrid и предназначен для обучения «ИИ-агентов» — моделей, которые умеют принимать решения. Решение разработано группой Научно-исследовательского института искусственного интеллекта AIRI при участии лаборатории T-Bank AI. «Датасет содержит не случайные данные из интернета с вопросами-ответами, а траектории того, как ИИ-агент действовал в нашей среде. Основная цель — использование датасета для получения нейросетевых моделей, которые обладали бы «агентностью». Мы сделали его открытым, чтобы ученые и практикующие специалисты могли придумывать новые методы в исследовании ИИ и расширять границы самостоятельности моделей», — рассказал «РГ» руководитель группы «Адаптивные агенты» AIRI Владислав Куренков. ИИ-агент, обученный на новом датасете, может исследовать окружающий мир, чтобы понять, какие действия ведут к хорошему исходу, а какие к плохому. Затем он должен остановиться и перейти в фазу использования «хороших действий». Задача «исследования и использования» различных действий со стороны ИИ заключается в том, чтобы самостоятельно найти механизм обучения, который будет давать наилучший результат за меньшее количество шагов. В свое время похожий прорыв произошел в области обработки естественного языка. Раньше люди были вынуждены обучать разные нейросетевые модели под разные задачи, но с появлением GPT-методов смогли обходиться одной. Теперь вместо длительного процесса обучения для многих задач применяют лишь немного промпт-инжиниринга — создания специальных запросов или инструкций для ИИ-модели. Сегодня существует множество разновидностей искусственного интеллекта. Есть чат-боты, которые общаются с людьми, есть генеративные ИИ-модели, создающие тексты, музыку, изображения и даже видео. А есть так называемые агенты искусственного интеллекта, которые умеют взаимодействовать с окружающей средой, собирать данные и на их основе самостоятельно определять и выполнять действия, позволяющие добиться определенных целей. Эти цели задаются людьми, а ИИ-агент уже самостоятельно принимает решения для достижения этих целей. Сложные ИИ-агенты используют машинное обучение для сбора и обработки огромных объемов данных в реальном времени и принятия «обоснованных решений». Это, например, позволяет получать более точные прогнозы при разработке экономической стратегии, причем независимо от отрасли. Область потенциального применения ИИ-агентов очень широка. Говоря о «границах самостоятельности» ИИ Куренков отмечает, что в данный момент ИИ-модель работает только в рамках датасета и прилагающейся к ней среды. «Чтобы это работало в более сложных условиях принятия решений, требуется проделать еще много работы, поэтому границы самостоятельности ИИ в текущий момент строгие», — говорит Куренков. Однако, сегодня логика развития того, что называется современным искусственным интеллектом, двигает разработчиков в сторону создания автономных ИИ-систем. Такие системы более эффективные, «умные», и новая разработка российских ученых находится на пике самых передовых исследований. Однако все большая и большая самостоятельность, как в обучении, так и в принятии решений, а также самообучение ИИ стали предметом изучения потенциальных рисков.

Общество и искусственный интеллект. Будущее нашего общества тесно связано с будущим мышления, основанного на данных. Искусственный интеллект скоро изменит все аспекты нашей жизни. Исследования в этой области изучают интерфейс между системами, управляемыми ИИ, и человеческими субъектами, изучая как влияние принятия решений на основе данных на поведение и опыт человека, так и то, как технологии ИИ могут использоваться для улучшения доступа к возможностям.

Например, в Сатке, город в Челябинской области, который стал одной из демонстрационных площадок «умного города», на одной из улиц были установлены дорожные датчики для оценки качества дорожного покрытия в режиме реального времени. Датчики анализируют влажность и уровень льда, а также уровень антиобледенительных смесей. Благодаря собранным данным дорожная служба может контролировать ход работ и принимать своевременные решения по техническому обслуживанию.

Независимо от того, передают ли люди свои навыки другим или автоматизируют их, эти способности являются специализированными и редкими. Когда многие сложные возможности передаются искусственному интеллекту, то вскоре эти специализированные навыки могут стать очень