Нечеткая логика и ее роль в искусственном интеллекте

Кажется, что разницу между переменная облачность и облачно с прояснениями, знают только метеорологи. Изображение: YouTube

Подход, основанный на нечеткой логике, использует все релевантные данные для решения проблемы. Затем он генерирует оптимальное решение на основе доступных входных данных. В ситуациях, когда четкое обоснование не может быть предоставлено, он обеспечивает приемлемую замену.

К настоящему моменту разработан обширный математический инструментарий, который может быть использован для формализации понятия этики в ИИ. В частности, особый интерес представляют подходы, позволяющие оценивать на соответствие определенным требованиям (этическим нормам, критериям, стандартам и т. п.) те или иные технологии, использующие ИИ. Важно отметить, что проблема формализации этических норм тесно связана с более общей задачей, а именно: с формализацией гуманитарного знания.

Ройзенсон Г. В, канд. техн. наук, ст. науч. сотр. Института системного анализа Федерального исследовательского центра «Информатика и управление» РАН, член российской Рабочей группы по этике искусственного интеллекта, член научного совета Российской ассоциации искусственного интеллекта

Хотя эти термины могут показаться эквивалентными, нечеткая логика и вероятность не являются взаимозаменяемыми. Нечеткая логика — это убеждения с различной степенью правдивости. Вероятность фокусируется на понятиях и утверждениях, которые являются либо истинными, либо ложными. Вероятность утверждения — это уровень веры в его обоснованность.

Проблема формализации этических норм включает в себя две основные задачи. Первая – это создание форм представлений норм (критерии, признаки и т.п.), вторая – выбор соответствующего математического аппарата для работы с этими формами: сопоставления, измерения, анализа и т. д. Нечеткая, многозначная или вероятностная логика – это достаточно глубоко проработанные области, доведенные, вообще говоря, до уровня практически применимых технологий. Здесь гораздо важнее определиться с качественным уровнем представления параметров систем ИИ и этических норм.

Искусственный интеллект полностью изменил такие сферы, как банковское дело, рыночная аналитика, исследования и т. д. Сегодня нам доступно огромное количество инноваций в области искусственного интеллекта, таких как, например, генеративный искусственный интеллект, способный создавать произведения искусства из нескольких слов или фраз, что привело к росту инвестиций в ИИ и биржевые инвестиционные фонды ETF.

IBM Watson — одна из самых выдающихся систем искусственного интеллекта, использующая нечеткую логику или нечеткую семантику

Нечеткая логика — это набор правил, которые можно применять к нечетким наборам данных для получения логических выводов. Это полезный метод для обнаружения релевантных связей в этом типе данных, учитывая, что интеллектуальный анализ данных часто включает неточные измерения.

Нечеткая же логика, напротив, принимает во внимание всю неоднозначность проблемы, где возможны дополнительные альтернативные значения помимо бинарного «истинное» и «ложное». Это чрезвычайно полезно для искусственного интеллекта, который должен быть более интуитивным, адаптивным и человекоподобным, нежели традиционные машинные операции.

Кроме того, в рамках этики ИИ требуется разработка новых норм, таких, например, как гуманность (как машины влияют на наше поведение и взаимодействие), сингулярность (как мы сможем контролировать сложную «умную» систему), проблема эмпатии (например, как робот-няня сможет оценивать эмоциональное состояние ребенка и правильно реагировать), безопасность и т. п. Таким образом, не всегда соответствие тем или иным нормам можно свести к классическим «да» и «нет». Поэтому здесь актуально рассмотрение и использование различных неклассических логик (например, многозначных), механизма многокритериальной классификации, вероятностных подходов и т.п. Рассмотрим указанный математический аппарат подробнее.

Определения нечеткой логики и вероятности отличают их друг от друга. Вероятность связана с событиями, а не фактами, поскольку события либо происходят, либо нет. Здесь нет места двусмысленности. С другой стороны, нечеткая логика стремится уловить суть неопределенности. В основном это относится к уровню истины.

Термин «нечеткий» обозначает нечто туманное и расплывчатое. Когда ситуация неясна, компьютер, как и люди, может быть не в состоянии принять верное или ложное решение. В булевой алгебре есть только два значения: «Истинное» (True) и «Ложное» (False), выражаемые через 1 и 0 соответственно.

Концепция формализации различных этических понятий активно развивается на протяжении последних десятилетий. В качестве пионерской работы по исследуемому вопросу важно упомянуть книгу В. А. Лефевра «Алгебра совести». В этой книге есть целая глава, которая посвящена вопросам этики и возможным аспектам, связанным с формализацией этого понятия. Для решения рассматриваемой задачи в основном используется математический аппарат булевой алгебры. В рамках булевой алгебры предполагается, что высказывания могут быть только истинными или ложными, то есть используется двоичная логика (бинарная). Использование булевой алгебры имеет как положительные, так и определенные отрицательные стороны. К положительным сторонам можно отнести то, что булева алгебра к настоящему моменту очень хорошо развита, есть множество приложений, программных библиотек для самых разных инструментальных средств и т. п. Достаточно сказать, что булева алгебра служит основой для работы вычислительной техники, использующей архитектуру фон Неймана (двоичная система счисления 0 и 1). К отрицательным сторонам можно отнести то, что не всегда различные этические проблемы (в том числе и относящиеся к ИИ) можно строго разделить на «белые» и «черные», а механизм булевой алгебры зачастую предполагает именно такой подход. В работе Д. А. Поспелова для преодоления данной проблемы вводится понятие «кольцевых» шкал (см. рисунок 1), что для решения задачи формализации этики ИИ является весьма оригинальным и перспективным подходом.