Сильный ИИ – не хайп, а фейк. Почему его невозможно создать

3. Последний метод самый простой, но, вероятно, самый пугающий. Предлагается создать машину, двумя основными навыками которой будут исследования искусственного интеллекта и внесение изменений в сам код, что позволит ей не только изучать, но и улучшать свою собственную архитектуру. Мы научим компьютеры быть «компьютерными учеными», чтобы они могли сами начать разработку алгоритмов. Возможно, это самый вероятный способ получить сознательную машину в ближайшее время.

Сильный ИИ может выполнять много независимых и не взаимосвязанных задач. Он способен обучаться выполнять новые задачи и решать новые проблемы. Происходит это путем выучивания новых стратегий. Также предполагается, что он способен «мыслить», обладать «разумом» — совсем как в фантастических фильмах и даже больше.

Б. Важная часть человеческих знаний является неявными (невербализуемыми – tacit) знаниями («неявными знаниями» – ред.). Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, – ошибочны. В равной степени можно пытаться научить ребёнка кататься на велосипеде, не имея его, и лишь используя инструкцию.

А. Компьютерная мощь никогда не разовьётся в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие – способность принимать правильные решения в конкретных ситуациях, и мудрость – способность видеть целое.

У искусственного интеллекта, как и у сознания, нет общепринятого определения. Например, под искусственным интеллектом понимают процесс обучения машин учиться, действовать и думать, как человек. Цель всего этого — заменить рутинные функции, которые выполняет человек, расширить и усилить его возможности. Иногда выделяют слабый и сильный (или общий) искусственный интеллект.

2. Второй, более радикальный подход, — это копия всего мозга. Ученые берут настоящий человеческий мозг, различными методами исследуют его нейронные связи, чтобы воспроизвести их на компьютере в виде программы. Если этот метод когда-нибудь будет успешным, у нас будет компьютер, способный на все, на что способен мозг — ему просто нужно будет учиться и собирать информацию.

2. Современная трактовка Фьелланда ещё более радикальная, чем аргументация Дрейфуса (равно как и автора этого поста). Фьелланд препарировал вопрос так, что показал принципиальную невозможность создания сильного ИИ, не просто в обозримом будущем, а вообще никогда.

Так как мы пока толком не можем определить такие сложные понятия как «разум», «мышление», четких критериев появления такой системы у нас нет. Однако появлялись различные идеи, как протестировать систему, чтобы мы могли назвать ее разумной. Пример такого подхода — широко известный тест Тьюринга.

Вернемся к примеру с лампой уровня топлива. Человек замечает, что машину пора заправить, тогда как сама машина этого «не осознает», хоть она и напичкана сложным оборудованием. Индикатор мигает, но все остальные системы автомобиля об этом не догадываются. Машина будет обладать сознанием, если все процессы будут взаимосвязаны, и у автомобиля будет представление самого себя с информацией о своих возможностях и их ограничении. Например, эта «сознательная система» автомобиля будет включать в себя интегрированное изображение себя, в том числе, например, его текущее местоположение и расход топлива, а также его внутренние базы данных (например, «знание», что у него есть карта GPS, которая может определять местонахождение заправочных станций).

С сильным ИИ получается, как с термоядерным синтезом. Его взрывной вид (самую мощную в мире бомбу) сделали почти 70 лет назад. Тогда же собрались освоить управляемый вид (построить термоядерные электростанции). Но не судьба. Спустя почти 70 лет ситуация, как и с сильным ИИ. Может, после 2045 года что-то появится. А может и нет.

Может ли сознание возникнуть в результате других комбинаций и взаимодействия элементов, которых нет в человеческом теле? Если относиться к сознанию, как к функции биологического мозга, то в этой идее нет ничего сверхъестественного. Достаточно создать сложную искусственную систему и поместить ее в достаточно сложную среду, максимально симулирующую реальным мир, в результате чего может возникнуть сознание.

Насколько мы далеки от достижения эмуляции всего человеческого мозга? Пока что ученые и разработчики смогли смоделировать мозг плоского червя размером 1 мм, который состоит всего из 302 нейронов. Этот проект называется «OpenWorm». Чтобы представить, сколько еще нужно преодолеть, следуя этим путем, вспомним, что человеческий мозг состоит из 86 млрд нейронов, связанных триллионами синапсов.

Есть ли примеры такого подхода уже сейчас? Близкое понятие — это автоматическое машинное обучение (AutoML), которое успешно внедряют крупные корпорации, например, Google. Идея заключается в том, что автоматизируется сам процесс машинного обучения: алгоритмы сами подбирают наиболее оптимальные алгоритмы для определенной задачи. Сами алгоритмы-подборщики для этого специально обучаются людьми.

Алан Тьюринг и Джон фон Нейман, основатели современной информатики, указывали на то, что машины в конечном счете смогут имитировать все возможности человеческого мозга, включая сознание. При этом Алан Тьюринг предположил и оказался прав, что не думающая и не осознающая машина сможет осуществлять сложную обработку информации. Это верно и для людей: когнитивные науки подтвердили, что такие сложные вычисления, как распознавание лиц и речи или оценка шахматной игры, происходят в нашем мозге неосознанно.

1. Проф. Фьелланд – знаменитый норвежский физик и философ, – не просто прокричал ещё раз «а король-то голый!» с высокой научной трибуны журнала Nature. Фьелланд на современном уровне переформулировал знаменитую аргументацию невозможности создания сильного ИИ, опубликованную Хьюбертом Дрейфусом (Hubert Dreyfus) более полувека назад в работе «Алхимия и искусственный интеллект».

Представим, что некий объект попадает в поле нашего внимания. Например, в машине подсвечивается лампа низкого уровня топлива. Почему мы можем ее «осознать», а сама машина — нет? Благодаря существованию у нас сознания этот объект (точнее, его ментальная репрезентация) становится доступным всему нашему организму: мы можем его видеть, вспомнить его, воздействовать на него, говорить о нем. Тогда сознание можно представить как луч прожектора, который освещает определенные объекты и задает направление.