Опасности нерегулируемого искусственного интеллекта

Аннотация научной статьи по философии, этике, религиоведению, автор научной работы — Григорьев Артём Дмитриевич, Шеманов Кирилл Андреевич, Кириллов Герман Михайлович

The article discusses the history of the emergence and development of artificial intelligence. Various strategies for implementing the task of creating artificial intelligence and its «implementation» in everyday life are traced. The article deals with the problem of the limits of the use of artificial intelligence and the possibility of its control by humans. The authors come to the conclusion that natural and artificial intelligence are different in nature. Since human intelligence is an integral part of consciousness, as well as in the aggregate of its attribute properties is a developing historical, social

Что же ждет нас в недалеком будущем? Мог ли кто-нибудь в эпоху Тьюринга даже подумать о том, что компьютеры смогут с легкостью пилотировать космические корабли, проводить сложнейшие хирургические операции, решать громадные системы уравнений? Однако пока они не в состоянии побеседовать по душам с человеком. Человеческий язык по своей сущности является сложным феноменом, который невозможно загнать в рамки даже большого словаря. Чат-бота можно сбить с толку с помощью простых междометий и вопросов, не имеющих правильного ответа. Выходит, что для моделирования человеческой беседы требуется нечто большее, чем увеличение памяти и вычислительной мощности машины. Это наиболее сложные вопросы, которые возникают сегодня при изучении искусственного интеллекта. Актуальным является вопрос: «Почему бы нам просто не создать аналог человеческого мозга?» Чем всё-таки отличается естественный интеллект от искусственного?

Другие формы использования ИИ могут иметь еще более серьезные негативные последствия. К ним относится применение алгоритмов и данных о сотрудниках с тем, чтобы усилить мониторинг их работы. Когда работники получают часть ренты, которую зарабатывает фирма (это могут предусматривать условия договора), более тщательное отслеживание их деятельности может быть выгодно компаниям, желающим вернуть себе часть этой ренты. Но такое перемещение ренты социально неэффективно – это затратная и дорогостоящая деятельность, которая не способствует увеличению общественной выгоды, а лишь перераспределяет ее от одной группы агентов к другой.

Искусственный интеллект уже влияет практически на все сферы жизни. Однако пока его использование приносит обществу больше ущерба, чем обещанных выгод, – и проблема тут не в самой технологии, а в ее применении. Необходима политика, которая могла бы это изменить.

Цель исследования: рассмотреть имеющиеся разработки, связанные с использованием искусственного интеллекта, изучить проблему возможности обретения «сознания» в машинном «разуме». Задачи исследования: изучить научную литературу, касающуюся темы исследования; рассмотреть некоторые гипотезы, связанные с возникновением искусственного интеллекта и возможности его сосуществования с человеком; проанализировать различные точки зрения относительно границы между сознанием человека и работой интеллекта машины; на основе анализа сделать выводы касательно наиболее вероятного решения исходной проблемы.

Эти последствия можно увидеть на товарных рынках, в сфере рекламы и на рынке труда – применительно к неравенству, ограничению заработной платы и уничтожению рабочих мест. У применения ИИ есть и более широкие социальные последствия, которые затрагивают область социальных коммуникаций, политического дискурса и демократии.

Несмотря на стремительное развитие прогресса, даже сегодня многие чат-боты всё ещё используют тактику «Элайзы» и «Перри». Лучшая программа 1997 года — «Екатерина» — могла поддерживать беседу на высокоинтеллектуальном уровне. Но это происходило в основном лишь в тех случаях, когда испытуемый хотел говорить на определённую тему. Одна из последних успешных программ «Женя Густман», в основе которой лежит имитация образа тринадцатилетнего мальчика. Другие программы, например, «Клеве бот», используют иной подход: они хранят в себе огромную базу данных и анализируют вопрос пользователя, выдавая нужный ответ. Некоторые из таких программ даже «запоминают» предыдущие беседы, чтобы использовать полученный опыт в следующих разговорах, то есть обнаруживают способность к обучаемости. Анализируя ответы робота на отдельные фразы, можно порой прийти к выводу, что перед вами — настоящий человек. Тем не менее, отсутствие у программы сознания и иных свойств человеческой личности делает невозможным поддерживать многие актуальные темы разговоров.

Обратим внимание на то, как шло развитие искусственного интеллекта. Принято считать, что область знаний об искусственном интеллекте сформировалась в середине XX века. Однако это не совсем так. Еще в глубокой древности делались первые попытки предпринять шаги в этом направлении. Можно вспомнить греческий миф о Талосе, первом в мире роботе. Бог огня и кузнечного ремесла Гефест упорно трудился над своим лучшим изобретением, предназначенным для царя Крита Миноса. Согласно мифу, бронзовый защитник ходил по периметру острова в поисках незваных гостей. Однажды ему пришлось столкнуться с кораблем, который по-настоящему испытал его характер. Потрёпанная команда Ясона, Медеи и аргонавтов возвращалась домой после поисков золотого руна, в ходе путешествии они претерпели много бедствий, и уставшие мореплаватели захотели отдохнуть в тихой гавани. Аргонавты слышали множество рассказов о неуязвимом бронзовом роботе. И им хитростью удалось обмануть робота, предложив сделать его бессмертным. Не понимая своей механической сущности и будучи настолько человечным, чтобы хотеть бессмертия, Талос согласился. Пока Медея произносила заклинание, Ясон выкрутил болт. Как они и предполагали, это было слабым местом изобретения Гефеста. Кровь богов потекла по расплавленному свинцу, истощая силы Талоса. Робот с грохотом упал на землю, и аргонавты смогли продолжить своё возвращение домой. Эта история, написанная примерно в 700-ом году до нашей эры, вызывает знакомое беспокойство по отношению к искусственному интеллекту и может быть использована как сценарий научно — фантастического фильма. Однако, по словам историков, древние роботы были больше, чем просто мифы. В 4-ом веке до нашей эры греческие инженеры научились сооружать автоматизированные изделия, такие, как роботы-слуги и летающие модели птиц. Характерно, что будущая робототехника первоначально

Похожие темы научных работ по философии, этике, религиоведению , автор научной работы — Григорьев Артём Дмитриевич, Шеманов Кирилл Андреевич, Кириллов Герман Михайлович

С середины 30-х годов XX века, с того момента, как А. Тьюринг опубликовал свои работы по созданию устройств, которые были способны решать довольно сложные задачи, проблемой ИИ заинтересовалось мировое научное сообщество. По предложению Тьюринга интеллектуальной машиной стали считать такую машину, которую невозможно отличить от человека. Она должна была обладать способностью к общению. Ученый считал, что компьютеры, имеющие 100 мегабайт оперативной памяти, с легкостью пройдут эмпирический тест, ответив на вопросы которого можно определить, с кем вы разговариваете: с реальным человеком или с бездушной компьютерной программой. Однако Тьюринг поторопился с этим предположением. Несмотря на то, что нынешнее компьютеры имеют в несколько раз больше оперативной памяти, лишь нескольким машинам удалось пройти данный тест, причём те, кому это удалось, упор делали на то, чтобы создать иллюзию общения, вместо того, чтобы попробовать воссоздать некое подобие мышления. Первой программой, результат которой можно было назвать успешным, была программа под названием «Элайза». В её основе лежал довольно простой и короткий скрипт, имитирующий беседу с терапевтом, «выслушивающим» пациента. Программа была способна отвечать на вопросы собеседника, выделяя в них ключевые слова и перестраивая полученные фразы. Другой скрипт «Перри» действовал кардинально противоположным образом. Он изображал поведение параноидального шизофреника, который перехватывал инициативу во время разговора и строил беседу, подчиняя её собственным интересам. Однако реализация этих программ указала на определённые пробелы в тесте Тьюринга [2,с.322-330].

Между тем проблем, касающихся ИИ, много: остается нерешенным вопрос о том, что делать с чат-ботом, который научится понимать людей. В этой связи стоит заметить, что порой диалоги с голосовым помощником Алисой оказываются более разумными, чем беседы с людьми: речь Алисы отличается большей связностью и

Проблема противоборства людей и машин не раз была представлена в произведениях искусства. К примеру, в романах «Дюна» Фрэнка Герберта и «Гиперион» Дэна Симмонса, война с машинами в кинофильме «Терминатор» и др. На вопрос, как оставить за человеком контроль над машиной, должны нести ответственность нейробиологи, инженеры, философы и программисты. Полагаем, что само появление подобных машин может перевернуть этические догмы. Ведь мы должны понимать, что наличие сознание у машины может привести к неожиданным последствиям. Это будет и такой сугубо человеческий феномен, как рефлексия. Машина больше не сможет относиться к машинному разуму как к помощнику или домашнему питомцу. Примером такой «разумной» машины является голосовой помощник Алиса. Она создана для того, чтобы помогать людям решать повседневные задачи: Алиса может найти информацию в интернете, подсказать, где поужинать, какая будет погода и многое другое. Чат-бот Алиса стал для нас привычным. Мы убедились, что искусственный интеллект, родившийся когда-то в мире научной фантастики, теперь научился слушать людей. Нам не приходится нажимать на кнопки, использовать микрофоны, чтобы включить «режим записи». Алиса должна понимать, что человек обращается к ней. Сделать это было не так легко, как может показаться, ведь помощник должен не только понимать естественный язык, но и уметь на нем разговаривать как человек. Особенностью «Алисы» является личность, которую разработал коллектив «Яндекса» вместе с журналистом компании Владимиром Гуриевым. Голосовым ассистентом стала молодая ироничная девушка, готовая оказать помощь владельцу смартфона. Многие пользователи задаются вопросом: на самом ли деле у Алисы, которая отвечает на вопросы, нет разума? Характерно, что современные молодые люди все больше используют в своей речи наукообразную лексику, связанную с техносредой, будто приближая себя к чат-ботам: интерфейс, хай-тек, процессор, мультимедиа, пентиум, ноутбук, on-line и др. [6,с.170-177].

В статье рассматривается история возникновения и развития искусственного интеллекта. Прослеживаются различные стратегии реализации задачи создания искусственного интеллекта и его «внедрения» в повседневную жизнь. Затрагивается проблема границы применения искусственного интеллекта и возможность его контроля со стороны человека. Авторы приходят к заключению, что естественный и искусственный интеллект имеют разную природу. Поскольку интеллект человека является неотъемлемой частью сознания , а также в совокупности его атрибутивных свойств представляет собой развивающийся исторический, социальный и культурный феномены, он не может быть воспроизведён техническим путём. Таким образом, эволюция искусственного интеллекта это процесс, подчиняющийся иным законам, которые заслуживают особого внимания и подлежат дальнейшему изучению. В качестве первоочередной авторы отмечают проблему взаимодействия человека и машины в исторической перспективе.

The article discusses the history of the emergence and development of artificial intelligence. Various strategies for implementing the task of creating artificial intelligence and its «implementation» in everyday life are traced. The article deals with the problem of the limits of the use of artificial intelligence and the possibility of its control by humans. The authors come to the conclusion that natural and artificial intelligence are different in nature. Since human intelligence is an integral part of consciousness , as well as in the aggregate of its attribute properties is a developing historical, social and cultural phenomena, it can not be reproduced in a technical way. Thus, the evolution of artificial intelligence is a process subject to other laws that deserve special attention and are subject to further study. As a priority, the authors note the problem of the interaction of man and machine in a historical perspective.

Что еще хуже – компании могут использовать свое информационное преимущество с точки зрения знания о предпочтениях потребителя для того, чтобы манипулировать его поведением. Экономические модели строятся исходя из предположения, что решения потребителей всегда в полной мере рациональны и не предполагают такого манипулирования. Однако оно вполне вероятно, когда потребители не в полной мере осознают, насколько много новых методов сбора и обработки данных используется для того, чтобы отслеживать и прогнозировать их поведение.

Новизна настоящего исследования заключается в том, что авторы работы стремятся не просто обозначить проблему «искусственного интеллекта», а пытаются найти возможные пути её решения. Сопоставляя уже известные факты из прошлого, а также анализируя опыт настоящего, можно предположить возможный результат, к которому приведут исследования в данной области.

Влияние ИИ на демократию не ограничивается автоматизацией. Среди сфер, которые ИИ изменил наиболее радикально, – коммуникации и потребление новостей, особенно через продукты и услуги, предлагаемые платформами различных социальных сетей. Использование ИИ и активный сбор данных пользователей уже изменили социальный дискурс и, как свидетельствуют имеющиеся данные, способствовали поляризации общества, разобщив его в понимании фактов и приоритетов, в то время как такая общность крайне важна для демократической политики. Как и предполагал 20 лет назад Касс Санстейн (имеется в виду книга профессора Гарвардской школы права Касса Санстейна Republic.com . – Прим. «Эконс»), «фрагментация и экстремизм… являются предсказуемыми последствиями любой ситуации, когда единомышленники говорят только сами с собой». Он подчеркивал, что без обмена опытом разнородному обществу будет гораздо сложнее решать социальные проблемы. И действительно, социальные сети на базе ИИ, по-видимому, способствовали этому типу фрагментации и усилению экстремизма, с одной стороны, и распространению дезинформации – с другой.