3.3 Этичное применение искусственного интеллекта

3.1 Ответственность ИИ

Как и в любой ситуации, нельзя четко провести границу и сказать: «Всегда виноват пользователь или всегда виноват разработчик». Здесь этого не получится по многим причинам, как в любой другой технической системе. Например, при аварии самолета происходит разбирательство, кто виноват ― производитель, авиакомпания, пилот. И здесь нужна такая же граница. В частности, если у нас появятся стандарты, то первый вопрос будет, валидирована ли система по стандартам или нет. В принципе, когда возникает какая-то сложная, технически обусловленная ситуация, естественно, собирают технических специалистов, анализируют, проводят в сертифицированных центрах исследования, анализ. Аналогично должно быть и с системами искусственного интеллекта.

Внедрению И И и других цифровых технологий препятствует низкий уровень доверия граждан к алгоритмам и новым технологиям в принципе, а также отсутствие понятных этических рамок в применении ИИ. В настоящем разделе мы даем общую характеристику и наиболее перспективные подходы к решению основных этических проблем, связанных с применением систем ИИ:

Неизвестно как набор искусственных нейронных сетей, направленных на выявление наиблагоприятнейшего результата поведёт себя с человеком. Создавая искусственный интеллект, акцент ставится на рациональном компоненте. Как быть с эмоциями. Или они считаются лишними даже для человека? Но разве не они есть энергией, заставляющей двигаться вперёд и поддерживать мир на плаву. Потому что с рациональной точки зрения многое из того, что мы ценим как общечеловеческое — не рационально.

Изучение кредитной истории при принятии решения о найме на работу может повредить социально незащищенным гражданам, хотя наличие связи между качеством кредитной истории и поведением на работе не доказано. В США программа прогнозирования преступлений PredPol обучалась на этнически искаженной выборке, поэтому чаще посылает полицию по адресам, где живут представители этнических меньшинств. Обученная на частично вымышленных историях болезни программа IBM Watson иногда выдает смертельно опасные рекомендации по лечению рака.

Благодаря этим преимуществам, тест Тьюринга представляет собой хорошую основу для многих схем, которые используются на практике для испытания современных интеллектуальных программ. Программа, потенциально достигшая разумности в какой-либо области, может быть испытана сравнением ее способностей по решению определенного количества проблем со способностями человека.

Важной составляющей справедливости систем ИИ является непосредственное участие человека. Хотя статистические показатели справедливости, безусловно, полезны, но они не могут учитывать нюансы социальных условий, в которых развертывается система ИИ, и потенциальные проблемы, связанные, например, со сбором данных. Предстоит ответить на вопросы:

История знания как модели искусственного интеллекта

Но здесь опять вопрос: может ли несовершенный человек, с несовершенным интеллектом создать совершенную модель интеллекта или просто разрабатывает улучшенную версию себя? А если иметь амбиции на идеальность, то какой идеал считать идеальным? И если будет создан этот улучшенный продукт науки, то сможет ли менее совершенный интеллект управлять тем, что превосходит его? Сначала создана антропоморфная машина (робот), как улучшенная версия человека, что превосходит по физическим параметрам (прочность, выносливость, скорость и т.д.), а теперь искусственный интеллект, который по всей вероятности, если не сразу, то со временем, превзойдет человека и весь тот массив серого вещества, которым так гордится человек, окажется неконкурентоспособным.

Из всего этого можно сделать предположение, что машины смогут обучаться. Вычислительные машины могут учиться улучшать свою работу путем ее анализа. Называть ли это мышлением – вопрос терминологический. Существует ли вероятность того, что машины смогут учиться больше, чем человек? Если такое и произойдет, то только лишь потому, что люди перестанут учиться. Человеку учиться легче, чем машине. Если же люди начнут поклоняться машине и оставлять ей все, то за возможные неприятности и негативные последствия нам нужно будет «благодарить» только самих себя. Обучающаяся машина – это такая машина, которая не просто, скажем, играет в какую-нибудь игру по твердым правилам, с неизменной стратегией, но периодически или непрерывно рассматривает результаты этой стратегии, дабы определить, нельзя ли изменить с пользой те или иные параметры, величины или стратегии.

До второй половины прошлого столетия экзистенциальный подход в исследовании знания был преобладающим. Это не означает, что не развивалась сама технология передачи, получения, обработки и хранения знаний. Достаточно вспомнить о развитии книгопечатания и других технических устройств для передачи информации, о методах обучения и педагогических исследованиях, посвященных технике передачи знаний и воспитания способности к самостоятельному приобретению и использованию знаний. Что касается технологического подхода к знанию в искусственном интеллекте и в компьютерных науках, то здесь необходимо обратить внимание на различие между действиями, осуществляемыми для получения, передачи, обработки и хранения информации, и пониманием этих действий именно как осуществляемых в отношении знаний в качестве некоторого особого феномена, а также разработку соответствующих технологий в данной сфере. Вообще говоря, любые компьютеры, даже те, которые называются «большие арифмометры», всегда имели дело со знанием, ведь любые данные, закладываемые в ЭВМ, представляют собой результат чьей-либо познавательной деятельности, имеющей целью постижение реальности и обеспечение на этой основе адекватного поведения. С точки зрения самой широкой трактовки знания этого достаточно для присвоения некоторому результату познавательной деятельности статуса знания и интеллекта. Между тем в течение довольно длительного времени само слово «знание» не получало в ИИ и в других научных направлениях, связанных с разработкой и применением компьютерных систем, какой-либо специфической смысловой нагрузки: о компьютерах и интеллектуальных системах говорили обычно как об устройствах, перерабатывающих информацию. Ситуация изменилась с появлением слова «знание» в названиях направлений ИИ и составляющих элементах компьютерных систем: «банки знаний», «базы знаний» и т.п. Понятие знания потеснило и встало в один ряд с понятием мышления и интеллекта, которые традиционно занимали почетное место у профессионалов занимающихся ИИ. Теория искусственного интеллекта стала иногда охарактеризовываться как «наука о знаниях и о том, как их добывать, представлять в искусственных системах, перерабатывать внутри системы и использовать для решения задач», а история искусственного интеллекта – как история исследований методов представления знаний.

Однако более ранние попытки Платона исследовать феномен знания не становятся от этого менее интересными. Мы можем увидеть, что в случаях, когда Платон рассматривал знание, не прибегая к тем примерам, которые используются в «Государстве», ему удалось выявить такие аспекты и наметить такие вопросы, разработке которых было посвящено немало усилий в последующие века и которые оказываются актуальными даже сегодня в связи с возрастающими масштабами компьютерной переработки информации.

В связи с растущими потребностями людей в развитии технологий, совершенствуются и компьютеры. Их эволюция шла в сторону уменьшения размеров, стоимости и энергоемкости. Когда отдельные машины стали объединяться в сети, совершился чрезвычайно расширивший их возможности переход от «одноклеточных» к «многоклеточным» созданиям. На этом этапе возникли некоторые сложности. Дело в том, что с одной стороны ЭВМ показали себя мощным интеллектуальным орудием, необходимым в работе и повседневной жизни. Но с другой стороны общаться с ЭВМ на понятном для нее машинном языке и, тем самым, использовать ее огромные возможности могли далеко не все. Здесь требовались посредники – программисты, а в условиях их нехватки рост числа компьютеров был бы бессмысленным. Лозунгом, провозглашенным японцами, стал: «Вычислительная машина должна быть в управлении не сложнее стиральной машины. Только тогда она станет таким же предметом домашнего обихода и конструкторского оборудования, как телефон». И теперь, на данном этапе, можно со всей ответственностью заявить, что компьютеры стали неотъемлимой частью человеческой жизни. Они находят применение не только в виде обычного ПК, но и в вооружении, технологии, медицине и других отраслях человеческой деятельности.

Наконец, алгоритм машинного обучения может выявить статистические корреляции, которые социально неприемлемы или незаконны. Например, модель ипотечного кредитования обнаруживает, что у пожилых людей выше вероятность не соблюсти график платежей, на этом основании сокращает объем кредитования в зависимости от возраста. Общество и правовые институты могут считать это незаконной дискриминацией по возрасту.

Области практического применения Искусственного Интеллекта

Еще одной причиной неувядающего интереса к автоматическому доказательству теорем является понимание, что системе необязательно решать особо сложные проблемы без человеческого вмешательства. Многие современные программы доказательств работают как умные помощники, предоставляя людям разбивать задачи на подзадачи и продумывать эвристики для перебора в пространстве возможных обоснований.

Искусственный интеллект (ИИ) можно определить как область компьютерной науки, занимающуюся автоматизацией разумного поведения. Это определение наиболее точно соответствует рассматриваемой нами проблеме, поскольку ИИ будет далее рассматриваться нами как часть компьютерной науки, которая опирается на теоретические и прикладные принципы. Эти принципы сводятся к структурам данных, используемым для представления знаний, алгоритмам применения этих знаний, а также языкам и методикам программирования, используемым при их реализации.

Различие между человеком и машиной, прежде всего, заключается в том, что в организме человека число элементов по порядку величин во много раз больше, чем обладает машина. По современным научным данным человеческий мозг содержит около 240 основных «вычислительных» узлов нейронов, которых соединяют около 250 связей синапсисов. Из этого непосредственно вытекает, что организация элементов в организме настолько сложна, что при помощи наших современных логических средств мы не можем еще овладеть этой сложностью. Но современные вычислительные системы стремительно приближаются по своим вычислительным возможностям к мозгу. Искусственные нейронные сети контролируют сложнейшие системы управления и слежения, проявляют способности в области распознавания изображения вплоть до возможности создания интеллектуальных автопилотов. Уже активно занимается искусственными системами область, считавшаяся прерогативой человека – компьютеры стали лучше людей играть в шахматы. Помимо различия в количестве объема нейронной составляющей, между машиной и человеком существует еще и одно качественное отличие. Преимущество человека состоит в его гибкости, в его умении работать с неточными идеями, хотя создание нейронных сетей и было задумано для имитации структуры нейронов человеческого мозга и работы с зашумленной информацией. В подавляющем количестве существующих методик для реализации искусственного интеллекта используются тщательно спроектированные алгоритмы перебора. Совершенно отличный, новый подход и состоит в построении интеллектуальных программ с использованием моделей, имитирующих структуры нейронов в человеческом мозге или эволюцию разных альтернативных конфигураций, как это делается в генетических алгоритмах и искусственной жизни. Нейронные архитектуры привлекательны как средства реализации интеллекта по многим причинам. Традиционные программы ИИ могут быть слишком неустойчивы и чувствительны к шуму. Человеческий интеллект куда более гибок при обработке такой зашумленной информации, как лицо в затемненной комнате или разговор на шумной вечеринке. Нейронные архитектуры, похоже, более пригодны для сопоставления зашумленных и недостаточных данных, поскольку они хранят знания в виде большого числа мелких элементов, распределенных по сети.

Можно сказать, что автоматическое доказательство теорем – одна из старейших частей искусственного интеллекта, корни которой уходят к системам Logic Theorist (логический теоретик) Ньюэлла и Саймона, и General Problem Solver (универсальный решатель задач), и так далее, к попыткам Рассела и Уайтхеда построить всю математику на основе формальных выводов теорем из изначальных аксиом. В любом случае эта ветвь принесла наиболее богатые плоды. Благодаря исследованиям в области доказательства теорем были формализованы алгоритмы поиска и разработаны языки формальных представлений, такие как исчисление предикатов и логический язык программирования PROLOG.

Итак, искусственный интеллект. Ставит ли потенциальное его существование под угрозу жизнь человечества? Антиутопия, переплетенная с научной фантастикой, нередко ставят под сомнение естественно существующий мир при появлении интеллекта искусственно происхождения. Ставит ли он под сомнение всевозможность современного человека, гений которого способен на любые свершения. Разрушает ли эту сказку о всемогуществе. Сказку, в которую так охотно верится, ведь человек не способен добровольно и безболезненно сознаться в своей неспособности.

Построение интеллектуальных систем также предполагает те или иные способы получения знаний, которые должны быть в них представлены. Это могут быть способы получения знаний из книг или иных текстов, используемых в данной области, а также в ходе определенным образом организованной коммуникации с экспертами в сфере, где будет применяться система. Решение такого рода задач, называемых задачами представления и приобретения знаний, оказалось связанным с вопросами о том, как вообще устроено знание, из чего оно состоит и каковы механизмы его функционирования, какие существуют виды знания, — а также со множеством других вопросов. Поскольку работа по созданию искусственного интеллекта в значительной степени осознается сегодня как работа со знаниями, само понятие знания занимает значительное место в рефлексии исследователей ИИ над своей деятельностью. Осознание роли компьютера как средства хранения, передачи и получения знаний, как модели знания уже оказывает ощутимое влияние на развитие наших знаний о знании. И есть основания полагать, что это влияние, в связи с процессами компьютеризации, будет усиливаться.

Однако, в будущем, Винер считает возможным создание не только разумной машины, но и машины «умнее своего создателя». Не исключает он и бунта машин. Он полагает, что не только робот, но и любая стратегическая машина способна вызвать катастрофу: «…машина должна программироваться опытом. …ошибка в этом отношении может означать лишь немедленную, полную и окончательную гибель. Мы не можем рассчитывать на то, что машина будет подражать нам в тех предрассудках и эмоциональных компромиссах, благодаря которым мы позволяем себе называть разрушение победой».

Так как искусственный интеллект сможет анализировать массив информации гораздо быстрее человеческого мозга, то, будучи осведомленным во всём предшествующем опыте человечества (в отличие от человека, который ограничен временем и не может загрузить в свою голову весь объем оцифрованной информации), он способна прогнозировать потенциальное разворачивание событий лучше человека, создавая огромную сеть возможностей, которую человек не сможет генерировать самостоятельно.