Искусственный интеллект не сможет сравниться с естественным в изобретении нового»

Для машины все иначе. «В байесовском мышлении (речь идет об использовании прошлых знаний для более точного предсказания будущих событий, которое лежит в основе машинного обучения. — Ред.) существует только возможность корреляции: используемые данные необязательно требуют теоретического понимания, машине достаточно найти корреляцию, которая просто функционирует», — поясняет профессор.

Очень многие сторонники искусственного интеллекта отмечают, что ИИ объективен и принимает решения без предвзятости. Питер Верхезен опровергает эту теорию: он обратил внимание, что сейчас фирмы создают свои собственные машины, при этом их код является конфиденциальной информацией. «Сегодняшние алгоритмы в основном непрозрачны и являются собственностью компании, — говорит он, — мы не знаем, как принимаются решения, и владеем только асимметричным доступом к данным». Любой фирме, согласно теории экономики, нужно максимизировать свой доход, значит, машина, построенная компанией, уже далеко не объективна, отмечает профессор.

— ИИ способен быстро перебирать различные варианты, он может заменить человеческий или обеспечить помощь человеку во многих областях с известным или понятным подходом к принятию решений: в анализе данных с учетом многообразных связей, в выборе оптимальных решений, в мониторинге ситуаций и управлении; роботы могут выполнять различные работы (в трудных условиях, в доме, на производстве, в здравоохранении и др.). Интеллектуальные системы поддержки принятия решений будут помощниками людей. Роботы заменят их во многих работах, где можно построить алгоритмы действий человека. Возможно, что и в математике, при доказывании теорем, ИИ сможет в перспективе решать сложные задачи. Но вновь должен отметить, что ему будет недоступно открывать принципиально новые направления в науке.

— Роботов обучают по-разному, но имеется подход, основанный на обучении на примерах. Если его использовать, то теоретически можно было бы добиться, чтобы робот не в шутку прыгал с любого этажа. Но он разобьется и больше не прыгнет. В то же время когнитивные способности систем на основе ИИ растут. Но взвешенная оценка говорит о том, что искусственный интеллект не сможет сравниться с естественным, по крайней мере, в изобретении нового. Мы не знаем, как человек изобрел колесо, аналогов которого в природе нет. Как обучить подобному ИИ. Новое знание возникает в мозге далеко не каждого человека.

— Теперь более практический вопрос: в каких сферах ИИ надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики — скажем, докажет алгебраическую независимость чисел ϖ и е?

Искусственный интеллект (ИИ) внедряется повсеместно, забирает на себя часть рутинных операций, оптимизирует процессы, решает сложные задачи. Однако машинный ум пока не может ответить на вопросы «зачем?» или «почему?» и именно поэтому уступает человеку. Люди способны быть творческими, изобретательными и нестандартно мыслить, а машина — нет. Своим взглядом на развитие искусственного интеллекта поделился профессор Университета Антверпена Питер Верхезен, выступая на XXIV Ясинской (Апрельской) международной научной конференции с докладом «Почему ИИ может сделать нас умнее, но не мудрее?».

— Интеллектуальные системы, основанные на экспертных знаниях высококвалифицированных врачей, обладающих интуицией и образным мышлением, могут включать интуитивные представления в том случае, когда их удается извлечь для формирования базы знаний. Мой опыт показывает, что этого можно достигнуть при групповом извлечении знаний за счет вскрытия врачебной интуиции одного эксперта путем вопросов к другим экспертам при умелом управлении дискуссией.

«Самое главное разграничение между человеком и машиной — восприятие мира и создание причинно-следственных связей», — утверждает профессор Питер Верхезен. Например, ребенок в возрасте от года до шести лет активно задает вопрос «почему?». Развивая свои нейронные связи, он не только формирует собственное мировоззрение и расширяет кругозор, но и осознает, как все взаимосвязано.

Также Питер Верхезен обращает внимание на то, что человек всегда осознает последствия своих поступков и может принимать решение, исходя из общественных норм. «Искусственный интеллект — очень полезный инструмент, однако он ни моральный, ни аморальный, так как способен проявлять только когнитивные способности», — поясняет он. В этом и заключается вся природа ИИ: он может только подражать человеку, обучаться на прошлых данных, но делать какие-то логические заключения ему не под силу. «Все этические нормы и социальный выбор должны быть привиты искусственному интеллекту с самого начала, а не становиться результатом порой неправильных размышлений», — говорит Верхезен.

— Естественный интеллект характеризуется многочисленными функциями. Часть из них реализуется в системах ИИ, но главным отличием естественного интеллекта от искусственного является способность синтезировать новые знания, выявлять неизвестные закономерности. Искусственный интеллект — это устоявший термин, однако связанный с не совсем точным переводом с английского. Artificial Intelligence означает «умение рассуждать разумно». Создаваемые на этой основе системы более корректно называть системами с элементами искусственного интеллекта.

— Большинство систем ИИ с самого начала опирались не на математический аппарат, а на логику с использованием средств для диалога с пользователем на естественном языке (логико-лингвистические системы), чего не умели предшествующие вычислительные системы. В настоящее время гибридные интеллектуальные системы включают наряду с логикой также и различные математические методы анализа. Но обязательным для интеллектуальных систем является база знаний, содержащая формализованные знания для конкретной области, для чего используются различные языки представления знаний. Для работы этих систем используются обычные компьютеры. Суперкомпьютеры лишь позволяют ускорить обработку данных, что важно для динамических систем реального времени — например, в управлении двигателями космического корабля и существенно, например, для прогнозов погоды. Исключением являются нейросети, в которых осуществляется математическая обработка введенной информации, однако отсутствует аргументация и логика решений, отсутствуют база знаний предметной области и объяснение выдвигаемых гипотез (решений). Но нейросетевой подход — это технология, имитирующая до некоторой степени работу мозга, истинное представление о которой пока остается открытым.

Однако есть сферы, которые хорошо оптимизируются искусственным интеллектом. Например, скоринговые банковские модели и цепочки поставок. В сфере экономики и финансов это бухгалтерские операции, управление доходами и заполнение финансовых отчетов. А вот отдавать развитие бизнеса и аудит в сети искусственного интеллекта, по словам Питера Верхезена, точно не стоит.

— Да, сообщества представителей ИИ и их взаимопомощь возможны. Это развитие сегодняшних многоагентных систем — виртуальных сообществ интеллектуальных агентов, каждый из которых взаимодействует с другим, и имеются агенты более высокого уровня, координаторы и наблюдатели, обеспечивающие изменение программы взаимодействия интеллектуальных агентов.

— Мне представляется неправильным говорить об угрозах искусственного интеллекта. Опасность может нести применение искусственного интеллекта в устройствах, работающих рядом с людьми или заменяющих персонал, например в больницах. Недоучет факторов, которые могут приводить к травмам окружающих, следует рассматривать как основную угрозу в настоящее время и в будущем. Это касается и автопилотов, и систем контроля различных производственных процессов, обеспечения функционирования так называемых умных больниц.

— Полноценные интеллектуальные системы, как уже отмечено выше, характеризуются как раз тем, что пользователь получает объяснение выдвигаемых системой гипотез как в процессе их рассмотрения, так и по завершении работы (окончательная гипотеза). Черными ящиками являются нейросети, не выдающие объяснений.

— В явном виде конкуренции между странами нет. Может быть, можно говорить об ученых, которые следят за работами друг друга. На уровне компаний это связано с получением финансовых средств на разработку и/или на получение прибыли по законченным работам. В России период 70-х — начала 90-х годов прошлого века сопровождался созданием большого числа систем и интересными теоретическими разработками. Последующее недофинансирование работ в этой области привело к спаду. Хотя работы не остановились. Рассматривая в качестве примера медицину, приходится отметить, что, несмотря на неоднократные заявления о необходимости таких систем, их финансирование практически отсутствует, за исключением работ по грантам в системе РАН. Положительными примерами в этой области могут служить разработки Федерального исследовательского центра «Информатика и управление» РАН (интеллектуальная система в области здоровьесбережения, ориентированная на управление рисками при инфаркте миокарда, инсульте и депрессии, и интеллектуальные системы автоматизированной поддержки медицинских исследований, реализованные на основе ДСМ-метода автоматического порождения гипотез) и Института автоматики и процессов управления ДВО РАН (диагностика болезней пищеварения и другие, реализованные на основе онтологий).