IT-программа из России прошла тест на человечность

Будущее искусственного интеллекта

«В области искусственного интеллекта нет более символического и спорного рубежа, чем тест Тьюринга, когда компьютер убеждает достаточное число задающих вопросы поверить в то, что он не машина, а человек», — цитирует слова приглашенного профессора университета Рединга Кевина Уорика сайт университета.

Цель нашего исследования – анализ междисциплинарных дискуссий по актуальным философским, методологическим и теоретическим проблемам искусственного интеллекта, связанных с разработанным Аланом Тьюрингом мысленным экспериментом для систем искусственного интеллекта в качестве критерия определения разумности компьютерной системы.

Искусственный интеллект. За последние несколько лет и даже десятилетий это словосочетание стало довольно популярным и часто употребляемым в разговорах, книгах, фильмах. Но у многих нет чёткого представления об искусственном интеллекте. Что же это такое? Программа или живое существо? С какой стороны его нужно рассматривать? С технической? Или этого недостаточно? Может быть, это понятие относится и к вопросам философии?

При создании такого теста, Тьюринг был мотивирован желанием прекратить все философские дебаты о метафизической сущности разума. Для этого он сформулировал простой критерий определения разумности компьютерной системы, который, по его мнению, должен был положить конец метафизическим спекуляциям на эту актуальную тему. Так Тьюринг предложил сыграть в «игру-имитацию». Суть ее заключается в следующем: пусть некто виртуально поддерживает разговор с компьютером, точнее с компьютерной программой. На основании ответов на его вопросы он должен понять, общается ли он с компьютером или с другим человеком. Если испытатель не сможет различить, где компьютер, а где человек, а компьютер сможет длительное время поддерживать с ним осмысленный диалог, то тогда компьютер проходит тест Тьюринга. Этот тест должен был определить, может ли машина мыслить, хотя не сформулирован критерий достижения компьютером «разумности» [10]. Как пояснял сам Ален Тьюринг: «Можно критиковать эту игру, утверждая, что шансы человека в ней значительно перевешивают шансы машины. Если бы человек должен был притвориться машиной, ему пришлось бы значительно труднее. Его сразу бы выдала медлительность и неаккуратность в арифметике. Могут ли машины делать нечто, что нам пришлось бы определить как мышление, но что сильно отличалось бы от того, на что способен человек? Это очень сильное возражение; тем не менее, мы можем утверждать, что если нам удастся сконструировать машину, способную играть в игру-имитацию, этот аргумент не должен нас тревожить». В процессе этой игры «рабская имитация» человеческого поведения, по мнению Тьюринга, не является лучшей стратегией испытуемой машины, даже не вникая в теорию игры-имитации, возможно, наилучшей стратегией следует признать естественные ответы, которые дал бы человек. Имитация, какой бы искусной она не была, не обязана совпадать с оригиналом [11].

Поскольку само понятие «интеллект» пока не очень понятно и потому четко не сформулировано, то все обозримые попытки определения термина «искусственной интеллект» имеют методологически существенный недостаток, связанный с пониманием того, какие именно разрозненные когнитивные способности объединяет этот термин [14]. Тем не менее, искусственный интеллект можно рассматривать как область компьютерной науки, опирающейся на теоретические и прикладные принципы современной математики, включающие вычислительные алгоритмы и языки программирования, которые реализуются с привлечением разнообразного математического инструментария. Следует также уточнить, что возможность прояснения когнитивных процессов в мозге человека непосредственно связана с прогрессом науки о знании, изучающей методы получения и использования человеческих знаний.

Искусственный интеллект должен быть способным к мышлению, обучению, самообучению. А также он должен обладать способностью решать задачи. Однако, на заре теории искусственного интеллекта, ее создатели под данным понятием понимали не модель, способную к мышлению, обучению, самообучению и решению задач. Они стремились создать модель человеческого мозга, модель, которая бы обладала всеми человеческими чертами, в числе которых сознание и самосознание; доброта, способность к состраданию; любовь; способность понимать чувства человека, его настроение; способность творить, создавать что-то новое; видеть прекрасное, иметь различные вкусы. Но в наше время, даже с нынешним высоким уровнем развития науки, ничего подобного так и не было создано [15].

В свете всех предыдущих размышлений возникает еще одна серьезная проблема. Если машины станут полноправными членами общества, то обретут все права, образующие основу правового статуса человека, в том числе и самое главное из прав личности – право на жизнь. Это будет означать что ни одна машина, наделенная искусственным разумом, не может быть умышленно лишена жизни. Но что будет считаться смертью для машины? Так как каждая из них будет, по сути, компьютером с записанной на него последовательностью инструкций, то будет ли удаление этой программы приравниваться к убийству, подобному тому, когда человек лишается жизни и разума? С одной стороны машина не испытает никаких физических страданий. Однако она, как существо разумное, будет осознавать сам факт удаления программы, после которого ее существование как личности будет прекращено. Вероятнее всего это и будет означать смерть для интеллектуальной модели. Но вместе с тем поднимается еще одна проблема: если искусственный интеллект будет удален из своего носителя, но предварительно будет перенесен на несколько других физических тел, то что же мы получим в итоге? Будут ли новые интеллектуальные модели аналогичны первоначальной интеллектуальной машине? Скорее всего, они, как существа мыслящие абстрактно и всеобще, сохраняя черты исходной машины, со временем станут приобретать некоторую индивидуальность. В конечном итоге они станут независимыми друг от друга личностями, исходная интеллектуальная модель фактически прекратит свое существование. Таким образом, в данном случае также можно говорить о смерти искусственной интеллектуальной машины [17].

Далее вполне логично поставить следующий вопрос: если человек и машина, наделенная искусственным интеллектом, смогут общаться на равных, то должна ли машина оставаться бесправным существом? Или же ее нужно будет наделить правами? На данный вопрос существует один этически непротиворечивый ответ: машину нужно будет наделить всеми правами, предлежащими человеку. Человечеству придется принимать во внимание мнение машин, советоваться с ними, видеть в них социальное существо. Ведь машина, как существо мыслящее, станет полноправным кандидатом на членство в обществе. Злодеяния в отношении искусственного интеллекта будут приравнены к преступлениям против людей [18].

18. Саулин Е.С. Развитие представлений об искусственном интеллекте: литература и кинематограф // Материалы XX научно-практической конференции молодых ученых, аспирантов и студентов Национального исследовательского Мордовского государственного университета им. Н.П. Огарёва. В 3 ч., 2016.

«Юджин» родился в 2001 году. Наша главная идея была в том, что он может утверждать, что знает все. Но ввиду его столь юного возраста, совершенно очевидно, что он не знает всего. Мы провели много времени, разрабатывая персонажа с правдоподобной личностью», — приводятся слова разработчика программы Владимира Веселова на сайте британского университета Рединга.

«Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор», — такова стандартная интерпретация теста.

Компьютерная программа «Элиза» имитировала диалог между психоаналитиком и пациентом, не пытаясь понять человеческий язык, а просто на основе формальных знаний о правилах синтаксиса «возвращала» человеку его собственные утверждения. При этом использовались некоторые хорошо известные «уловки», которые позволяют успешно «играть» в сеансе с психоаналитиком. Например, опытный психотерапевт старается спровоцировать человека к рассказу о себе и своих проблемах с помощью коротких вопросов общего вида. Поэтому программа «Элиза» просто перефразировала высказывания пользователя, например, так: «У меня болит голова» – «Почему вы говорите, что у вас болит голова?». По существу в этой программе задаваемые вопросы детерминируют ответы. Джозеф Вейценбаум стремился показать, что общее решение задачи понимания машиной естественного языка невозможно, так как понимание языка происходит исключительно в рамках определенного контекста и даже эти рамки бывают общими для различных людей лишь в ограниченной степени. Эксперименты подобного рода продолжались повсеместно. Так программа «Эллочка», созданная на отделении математической лингвистики Киевского государственного университета, в отличие от «Элизы», вычислений не производит, однако может вести беседу с человеком более тонко и гибко. Программа «Элиза» экспериментально опровергла тест Тьюринга в его примитивном понимании, поскольку люди воспринимали эту компьютерную программу как достаточно разумного и даже доброжелательного собеседника, но в действительности эта программа была всего лишь «иллюзией» разговора с психоаналитиком, точнее лишь «пародия» на профессиональный диалог. Возможно, Алан Тьюринг переоценил интеллект среднего человека. В частности, эти важные эксперименты выявили внерациональные аспекты того, что даже сложные формальные операции человек иногда понимает как неформальные.

Тест Тьюринга, который был призван устанавливать «разумность системы», оставляет открытым вопрос о наличии или отсутствии у системы, обладающей «когнитивной компетенцией», субъективной реальности. Первые практические успехи имитации некоторых простых интеллектуальных функций породили у исследователей уверенность в том, что задача создания полноценного искусственного интеллекта разрешима, даже несмотря на внешний вид, физические характеристики и необычную структуру компьютерной системы. Но уже с середины 70-х годов прошлого века стало приходить осознание того, что наука и философия не видят пока реальных путей создания машинного аналога естественного интеллекта, способного к рефлексивной мыслительной познавательно-творческой деятельности. Так первой практической реализацией идеи Тьюринга стала созданная в 1966 году американским ученым Джозефом Вейценбаумом программа «Элиза» (ELIZA), как пример виртуального собеседника.

По его мнению, искусственным интеллектом могут воспользоваться киберпреступники, используя программу в своих финансовых аферах. Ничего не подозревающий пользователь будет думать, что общается с реальным человеком, и в итоге может потерять значительную сумму денег, поддавшись на уловки программы.