Искусственный интеллект не сможет сравниться с естественным в изобретении нового»

— Интеллектуальные системы, основанные на экспертных знаниях высококвалифицированных врачей, обладающих интуицией и образным мышлением, могут включать интуитивные представления в том случае, когда их удается извлечь для формирования базы знаний. Мой опыт показывает, что этого можно достигнуть при групповом извлечении знаний за счет вскрытия врачебной интуиции одного эксперта путем вопросов к другим экспертам при умелом управлении дискуссией.

— Большинство систем ИИ с самого начала опирались не на математический аппарат, а на логику с использованием средств для диалога с пользователем на естественном языке (логико-лингвистические системы), чего не умели предшествующие вычислительные системы. В настоящее время гибридные интеллектуальные системы включают наряду с логикой также и различные математические методы анализа. Но обязательным для интеллектуальных систем является база знаний, содержащая формализованные знания для конкретной области, для чего используются различные языки представления знаний. Для работы этих систем используются обычные компьютеры. Суперкомпьютеры лишь позволяют ускорить обработку данных, что важно для динамических систем реального времени — например, в управлении двигателями космического корабля и существенно, например, для прогнозов погоды. Исключением являются нейросети, в которых осуществляется математическая обработка введенной информации, однако отсутствует аргументация и логика решений, отсутствуют база знаний предметной области и объяснение выдвигаемых гипотез (решений). Но нейросетевой подход — это технология, имитирующая до некоторой степени работу мозга, истинное представление о которой пока остается открытым.

Очень многие сторонники искусственного интеллекта отмечают, что ИИ объективен и принимает решения без предвзятости. Питер Верхезен опровергает эту теорию: он обратил внимание, что сейчас фирмы создают свои собственные машины, при этом их код является конфиденциальной информацией. «Сегодняшние алгоритмы в основном непрозрачны и являются собственностью компании, — говорит он, — мы не знаем, как принимаются решения, и владеем только асимметричным доступом к данным». Любой фирме, согласно теории экономики, нужно максимизировать свой доход, значит, машина, построенная компанией, уже далеко не объективна, отмечает профессор.

— Полноценные интеллектуальные системы, как уже отмечено выше, характеризуются как раз тем, что пользователь получает объяснение выдвигаемых системой гипотез как в процессе их рассмотрения, так и по завершении работы (окончательная гипотеза). Черными ящиками являются нейросети, не выдающие объяснений.

— Теперь более практический вопрос: в каких сферах ИИ надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики — скажем, докажет алгебраическую независимость чисел ϖ и е?

Искусственный интеллект (ИИ) внедряется повсеместно, забирает на себя часть рутинных операций, оптимизирует процессы, решает сложные задачи. Однако машинный ум пока не может ответить на вопросы «зачем?» или «почему?» и именно поэтому уступает человеку. Люди способны быть творческими, изобретательными и нестандартно мыслить, а машина — нет. Своим взглядом на развитие искусственного интеллекта поделился профессор Университета Антверпена Питер Верхезен, выступая на XXIV Ясинской (Апрельской) международной научной конференции с докладом «Почему ИИ может сделать нас умнее, но не мудрее?».

— ИИ способен быстро перебирать различные варианты, он может заменить человеческий или обеспечить помощь человеку во многих областях с известным или понятным подходом к принятию решений: в анализе данных с учетом многообразных связей, в выборе оптимальных решений, в мониторинге ситуаций и управлении; роботы могут выполнять различные работы (в трудных условиях, в доме, на производстве, в здравоохранении и др.). Интеллектуальные системы поддержки принятия решений будут помощниками людей. Роботы заменят их во многих работах, где можно построить алгоритмы действий человека. Возможно, что и в математике, при доказывании теорем, ИИ сможет в перспективе решать сложные задачи. Но вновь должен отметить, что ему будет недоступно открывать принципиально новые направления в науке.

— Мне представляется неправильным говорить об угрозах искусственного интеллекта. Опасность может нести применение искусственного интеллекта в устройствах, работающих рядом с людьми или заменяющих персонал, например в больницах. Недоучет факторов, которые могут приводить к травмам окружающих, следует рассматривать как основную угрозу в настоящее время и в будущем. Это касается и автопилотов, и систем контроля различных производственных процессов, обеспечения функционирования так называемых умных больниц.

— Да, сообщества представителей ИИ и их взаимопомощь возможны. Это развитие сегодняшних многоагентных систем — виртуальных сообществ интеллектуальных агентов, каждый из которых взаимодействует с другим, и имеются агенты более высокого уровня, координаторы и наблюдатели, обеспечивающие изменение программы взаимодействия интеллектуальных агентов.

— В явном виде конкуренции между странами нет. Может быть, можно говорить об ученых, которые следят за работами друг друга. На уровне компаний это связано с получением финансовых средств на разработку и/или на получение прибыли по законченным работам. В России период 70-х — начала 90-х годов прошлого века сопровождался созданием большого числа систем и интересными теоретическими разработками. Последующее недофинансирование работ в этой области привело к спаду. Хотя работы не остановились. Рассматривая в качестве примера медицину, приходится отметить, что, несмотря на неоднократные заявления о необходимости таких систем, их финансирование практически отсутствует, за исключением работ по грантам в системе РАН. Положительными примерами в этой области могут служить разработки Федерального исследовательского центра «Информатика и управление» РАН (интеллектуальная система в области здоровьесбережения, ориентированная на управление рисками при инфаркте миокарда, инсульте и депрессии, и интеллектуальные системы автоматизированной поддержки медицинских исследований, реализованные на основе ДСМ-метода автоматического порождения гипотез) и Института автоматики и процессов управления ДВО РАН (диагностика болезней пищеварения и другие, реализованные на основе онтологий).

Также Питер Верхезен обращает внимание на то, что человек всегда осознает последствия своих поступков и может принимать решение, исходя из общественных норм. «Искусственный интеллект — очень полезный инструмент, однако он ни моральный, ни аморальный, так как способен проявлять только когнитивные способности», — поясняет он. В этом и заключается вся природа ИИ: он может только подражать человеку, обучаться на прошлых данных, но делать какие-то логические заключения ему не под силу. «Все этические нормы и социальный выбор должны быть привиты искусственному интеллекту с самого начала, а не становиться результатом порой неправильных размышлений», — говорит Верхезен.

Для машины все иначе. «В байесовском мышлении (речь идет об использовании прошлых знаний для более точного предсказания будущих событий, которое лежит в основе машинного обучения. — Ред.) существует только возможность корреляции: используемые данные необязательно требуют теоретического понимания, машине достаточно найти корреляцию, которая просто функционирует», — поясняет профессор.