Гипотеза: может ли у искусственного интеллекта появиться сознание

Метафоры цифровой философии

Искусственный интеллект не имитирует рассудочные, умственные усилия человека, обладающего мозгом, а реально воспроизводит их. Воспроизводит в своих реальных продуктах: решенных математических и логических задачах; в предоставлении информации после обработки огромных массивов данных; в выдаче соответствующих команд машинам и механизмам и во многих других результатах своих непротиворечивых действий.

Американский физик Эдвард Фредкин объединил эти теории в термин «цифровая физика», который позже поменял на «цифровую философию». В рамках новой дисциплины исследователи продолжили рассуждать о фундаментальной природе Вселенной, структуре нашей реальности и ее связи с человеческим сознанием. Их умозаключения повлияли на развитие таких популярных концепций, как, например, гипотеза симуляции. Так, в 2003 году, через несколько лет после выхода фильма «Матрица», шведский философ Ник Бостром написал статью, в которой доказал, что с высокой вероятностью мы все живем в симуляции.

Алан Тьюринг и Джон фон Нейман, основатели современной информатики, указывали на то, что машины в конечном счете смогут имитировать все возможности человеческого мозга, включая сознание. При этом Алан Тьюринг предположил и оказался прав, что не думающая и не осознающая машина сможет осуществлять сложную обработку информации. Это верно и для людей: когнитивные науки подтвердили, что такие сложные вычисления, как распознавание лиц и речи или оценка шахматной игры, происходят в нашем мозге неосознанно.

Seung, S. (2015) Net neirona, kotoryi byl by kak ostrov (fragment iz knigi «Konnektum. Kak mozg delaet nas tem, chto my est’?» [There is No Neuron that would Be Like an Island (fragment from the book «Connectum. How does the Brain Make Us What We Are?»]. Nauka i zhizn’. (3), 44-49 (in Russian).

По мнению доктора физико-математических наук Юрия Валентиновича Визильтера, «что такое сознание, никто толком не знает . Ведь даже специалисты когнитивных наук, которые изучают вопросы сознания и подсознания, рисуют такую картину, что основная деятельность в мозге происходит бессознательно»5.

В этом смысле сознание — это фактически синоним внимания (хотя нужно оговориться, что внимание бывает и неосознанным, непроизвольным). Этот процесс позволяет интегрировать множество других процессов, которые происходят неосознанно, чтобы придать организму единый курс для дальнейших действий. По сути, благодаря сознанию становится возможным целенаправленное поведение.

Сильный ИИ может выполнять много независимых и не взаимосвязанных задач. Он способен обучаться выполнять новые задачи и решать новые проблемы. Происходит это путем выучивания новых стратегий. Также предполагается, что он способен «мыслить», обладать «разумом» — совсем как в фантастических фильмах и даже больше.

Поэтому на вопрос нетерпеливого читателя: «Так все же, сможет ли искусственный интеллект обладать сознанием (т.е. быть верующим или атеистом, любящим или холодным)?» можно с уверенностью сказать: «Нет!». Ни самый продвинутый робот, ни самообучающаяся электронная система с многослойными искусственными нейронными сетями не способны «приобрести» сознание. Сознание — это свойство живой материи, и зарождаться оно может только в живых клетках нейронов человеческого мозга. Искусственный интеллект, детище науки землян, зиждется на электронном искусственном неживом нейроне. Технологии искусственного интеллекта работают с информацией, и только, но отнюдь не с обработкой еще вещества и энергии, как это происходит в действиях человека, вооруженного сознанием.

Метафоры когнитивных наук

В 50-60-е годы прошлого столетия происходит так называемая когнитивная революция. Появляется огромное количество новых нейробиологических и психофизиологических теорий, которые разбирают работу мозга и мышления. Развивается кибернетика, Теория информации и Теория вычислимости Тьюринга. Проходит Дартмутский семинар — одно из ключевых событий в мире искусственного интеллекта. Именно тогда компьютерные метафоры мышления начали активно проникать во многие научные дисциплины и философию.

Почему сознание возникло в процессе эволюции, какие у него физиологические механизмы, и как его правильно измерить до сих пор до конца не ясно. Есть ли сознание только у взрослого человека, или оно также доступно некоторым животным и маленьким детям – даже на этот счет тоже нет единого мнения. Слово «сознание», как и многие донаучные термины, имеет различные значения. В клинической медицине оно часто используется для оценки бдительности и бодрствования человека («пациент не был в сознании»). Выяснение мозговых механизмов бдительности — важная задача для понимания процессов сна, анестезии, комы или вегетативного состояния. Но когда мы задаемся вопросом, может ли искусственный интеллект обладать сознанием, нам, скорее, интересно не медицинское значение, а то, как оно понимается в психологии.

Abstract. The article considers neopositivist and dialectical-materialistic approaches to the study of the problems of interactions and relationships between consciousness and artificial intelligence. The need for scientists dealing with the problems of the human brain, as a «model» for the construction of an artificial brain, to enter a qualitatively new scientific level, which is the level of social neuroscience is noted. The general human nature of consciousness is emphasized as the properties of the highest form of life, which is social. The attention is drawn to the inevitability and necessity of the transition of scientists dealing with theoretical problems of artificial intelligence to the position of materialistic dialectics. It was revealed that a person works with substance, energy and information meanings, while artificial intelligence technologies work with information symbols. The research also notes that the humanistic role of artificial intelligence is completely impossible under the conditions of a monopoly on it only in private hands.

Исследуя мозг, создавая его научно обоснованную концепцию, необходимо, на наш взгляд, двигаться «снизу вверх»: в филогенезе в единстве с онтогенезом. Изучать историю появления у древних гоминидов своего, уже социального мозга, механизм его развития за миллионы лет до homo sapiens; а в онтогенезе — от рождения до взросления, до социализации человека и его мозга. Но даже этот, на 100 % очеловеченный мозг не обладает самостоятельным сознанием. Сознание имеет социальную и только социальную общечеловеческую природу. А на уровне индивида оно трансформируется в конкретную человеческую психику конкретной личности.

1. Самая простая идея — это скопировать принципы работы человеческого мозга. Одним из примеров является искусственная нейронная сеть. Она начинается как сеть «нейронов», соединенных друг с другом входами и выходами, и совсем ничего не знает — почти как мозг младенца. Способ, которым она «учится», заключается в том, что она пытается выполнить задание — скажем, распознавание рукописного ввода, и сначала действует случайным образом. Затем она получает обратную связь в виде правильного ответа. Связи между нейронами, которые привели к правильному ответу, усиливаются, а к неправильному — ослабляются. После многих проб и обратной связи сеть формирует правильные нейронные пути, и система обучается правильно решать данную задачу. Однако сама по себе искусственная нейронная сеть, хоть и отражает некоторые нейробиологические принципы, не обладает сознанием и не способна решать задачи, которым её никогда не обучали.

Компьютер начинает выполнять задачи, и самые успешные программы будут «скрещиваться» друг с другом (наследовать друг от друга признаки определенным образом, подробнее тут), а менее успешные будут удалены. При этом в отличие от биологической эволюции, искусственная эволюция имеет два важных преимущества — скорость и целенаправленность. На практике генетические алгоритмы работают не очень хорошо, хотя порой результаты получаются весьма веселыми. До сознания тут, пожалуй, еще тоже далеко.

Если исходить из убеждения, что биология в одиночку порождает разум, то сравнение человека с обучающимся червяком не выступает шокирующим. Тем более что О.И. Ивашкина не останавливается на примитивизме, двигаясь в своих исследованиях в сторону социальной нейронауки, и, отвечая на вопросы Я. Хижняк, прямо заявляет: «Судя по всему, существует (в мозге человека — О.П.) еще какая-то принципиальная надстройка, дающая нам такую развитую психику и такие когнитивные функции. Но пока мы не можем это объяснить». Чтобы понять, почему «наш мозг в отличие от мозга шимпанзе устроен более плотно, в нем больше нейронов на единицу площади» (Хижняк, 2021: 28), следует как минимум с биологического этажа подняться на социальный. Нужно открыть, понять и признать биосоциальный характер мозга человека —

То, что сознание связано с мозгом, не подлежит сомнению. Но как оно проявляется, материализуется? В своей книге «Тайны сознания и мозга: кто кем командует?» (2019) мы по наивности утверждали, что «давно (!) прошли те времена, когда сознание и его ядро — мышление в конкретном воплощении, в трудовой психике личности трактовалось в духе вульгарного материализма» (Паламарчук, 2019). «Мозг выделяет мысль так же, как желчный пузырь желчь», — утверждал в XIX веке немецкий физиолог и по совместительству философ Якоб Молешотт (18221893), и мы с ним полностью согласны (Паламарчук, 2019: 11).

Понятие нечеловеческого сознания

Сейчас есть тенденция, что цифровые философы часто берутся за обсуждение популярных тем, которые связанны с современной цифровой культурой. Если раньше они говорили о цифровой природе реальности и симуляции, то сейчас больше обсуждают искусственный интеллект. От того, что цифровые философы подвижны в своих изысканиях, академики иногда их недолюбливают. Считают, что они подвержены внешним стимулам в своих рассуждениях и все реже занимаются фундаментальной философией.

российский журнал «Наука и жизнь», писал: «Главная тайна в теле человека — мозг. Как работает сердце, легкие более-менее понятно. А вот мысли, эмоции — другое дело. Можем ли мы по-настоящему понять, каким образом их порождает мозг?» (Сеунг, 2015: 44). Судя по логике Сеунга, мозг «порождает» их в гордом одиночестве, сам по себе. С ним в какой-то степени солидарен академик РАН, физиолог Святослав Всеволодович Медведев: «Мы. еще чрезвычайно далеки от понимания того, как мозг. осуществляет высшие, специфически человеческие функции и прежде всего -мышление и сознание» (Медведев, 2017). С.В. Медведев — крупнейший специалист в области нейрофизиологии мозга, и вполне объясним его научный интерес: искать «материальное . обеспечение» сознания, мышления в активности нейронов (Медведев, 2017: 122). Но однако, чтобы понять, как активность нейронов преобразуется в мысль — основу сознания, надо уточнить с научно-социальных (= человеческих) позиций: а что мы понимаем под мыслью и особенно — под сознанием. Неслучайно Святослав Всеволодович цитирует сомнение Джона Экклса (1903-1997) в том, что мозг обеспечивает мышление (Медведев, 2017: 122).

Khizhnyak Ya. (2021) Gde zhivet nasha pamyat’? Interv’yu s nachal’nikom laboratorii neironauk Kurchatovskogo kompleksa NBIKS-prirodopodobnykh tekhnologii neirobiologa O.I. Ivashkinoi [Where does Our Memory Live? Interview with the Head of the Neuroscience Laboratory of the Kurchatov Complex of NBICS-Nature-Like Technologies, Neuroscientist O.I. Ivashkina]. V mire nauki. (11), 24-31 (in Russian).

Чтобы изучать сознание нечеловеческих агентов, философы работают с сознанием у животных. Если лучше понять, как устроен разум у человекоподобных приматов или позвоночных млекопитающих, можно ближе подойти к пониманию сознания у искусственного интеллекта. Однако проблема сознания животных остается такой же сложной, как и сознание человека или искусственных агентов.

Привет! Я — Александра Танюшина, кандидат философских наук, преподаватель МГУ, культурный тренд-аналитик и специалист по цифровой философии. Проблема сознания у AI волнует философов, нейробиологов, когнитивистов, ML-специалистов и других. Обычно они делятся на два лагеря: одни поддерживают эту гипотезу, а другие — категорически против. Но ни одни, ни другие так и не нашли консенсуса в данном вопросе. В тексте постараюсь сузить поток абстрактности вокруг темы и разобраться, почему и как начали изучать сознание у AI.

Под слабым ИИ понимается такая система, которая способна решать задачи, применимые к узкой области. Примеры таких систем — это автоматические языковые переводчики, беспилотные автомобили, умные поисковики. Такие системы могут выполнять задачу (и порой делать это лучше человека), но не могут учиться ничему принципиально новому. Например, известный алгоритм от IBM, обыгравший Гари Каспарова в шахматы, хоть, безусловно, и впечатляет, не может больше делать ничего кроме шахмат. А человек способен еще на многое.

М. О’Коннел, рассказывая о своем участии в работе конференции «The Brain Forum», особенно отмечает слова нейроинженера Эдварда Бойдена, специалиста по синтетической нейро-биологии, который признается, что «не понимает значения термина «сознание»», и поясняет свою позицию: «Проблема слова «сознание» . в том, что мы не можем судить, есть оно или нет» (О’Коннел, 2019: 71).

В начале года ученые подписали декларацию о наличии сознания у животных. Они допускают, что с высокой долей вероятности у всех позвоночных и, возможно, у некоторых беспозвоночных есть приватный субъективный опыт — «феноменальное сознание». Если отталкиваться от этой предпосылки, у нас формируется новая этическая система по отношению к животным, а у исследователей — задел на изучение альтернативных нечеловеческих сознаний, в том числе и искусственных.