Искусственный интеллект невозможен, но копаться в этом надо

Таким образом, превосходство человека над искусственным интеллектом заключается в том, что тело человека непрестанно поставляет ему новую информацию из внешнего мира и подсказывает эвристические аналогии из мира физического. Интеллекту без тела было бы мыслить не о чем и незачем.

— Они потом сами ответили. Себе доказали, что могут, — первое. А второе — это возможность передавать знания. После той победы у нас появились хакатоны — форумы, где чемпионы обучают других спортивной робототехнике. Когда ребята первый хакатон провели, уезжали счастливые, потому что поняли, какую пользу могут принести. Я считаю, что знания ничего не стоят, пока вы не начали их передавать.

Б. Важная часть человеческих знаний является неявными (невербализуемыми – tacit) знаниями («неявными знаниями» – ред.). Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, – ошибочны. В равной степени можно пытаться научить ребёнка кататься на велосипеде, не имея его, и лишь используя инструкцию.

— Потому что это зашито в систему изначально. Я как-то был в Японии на автомобильном заводе. Там 95 % процессов автоматизированы — варка, резка, перемещение, окраска. Остальное не автоматизировано потому, что это дешевле сделать человеку. Знаете, чем вообще программирование отличается от робототехники? В виртуальном мире можно построить систему почти без изъянов. А робототехника — уже реальный мир: даже если ты идеально сделал программу, все равно будут отклонения, сопротивление воздуха, прокруты, люфты и пр.

— Соревнования требуют психической устойчивости. Ребенок должен понимать, что главное не победить, а знать. Это приходит со временем, через неудачи, но лучше, если в более «вегетарианском» формате, чем на международных соревнованиях. Провал может привести к отторжению, мало для кого это стимул идти вперед. Дети сейчас вообще боятся ошибиться. Мне непонятно почему — родители ругают, что ли. Мы, напротив, учим ошибаться: сначала на занятиях, потом на соревнованиях — так приобретаются знания, надо проще к этому относиться.

Философы размышляют и о том, что союз с искусственным интеллектом способен перевести человека на новую ступень эволюции. Но человек перейдёт на другую ступень эволюции лишь тогда, когда изменится его ДНК, чему искусственный интеллект вполне способен помочь. Без него уже и сегодня была бы невозможна расшифровка человеческого генома. А человек наверняка когда-нибудь захочет поуправлять своим наследственным веществом. Здесь есть о чём пофантазировать, однако и тут искусственный интеллект обслуживает человеческие прихоти. Но чтобы обрести собственные желания, ему необходимо тело, способное испытывать боль и бороться за выживание.

— Это простой вопрос. Человечество сначала занималось земледелием вручную, потом запрягло скот, дальше появились тракторы. Разве люди перестали работать на земле? Нет. Сейчас роботы заменяют людей на больших участках, но работы не убавилось. Глупо, когда на заводе надо 10 тыс. раз что-то отрезать и это делают люди. Монотонные действия можно и нужно автоматизировать, а тонкая и творческая часть останется для человека. Тот, кто окунулся в мир робототехники, никогда не доверится автоматизации полностью. У меня на машине парктроник, но я знаю, что он может подвести. Нет ничего идеального и безотказного, всегда возможны ошибки.

Много веков люди конструируют механизмы для развлечения и чтобы переложить на них обязанности разного рода — вспомнить хотя бы робота-рыцаря Леонардо да Винчи. В наше время изобретателей выращивают на лего. Что не под силу роботам и почему человеку не нужно бояться конкуренции с ними — читайте в интервью с Николаем Паком, создателем федеральной сети секций робототехники «Лига роботов».

С сильным ИИ получается, как с термоядерным синтезом. Его взрывной вид (самую мощную в мире бомбу) сделали почти 70 лет назад. Тогда же собрались освоить управляемый вид (построить термоядерные электростанции). Но не судьба. Спустя почти 70 лет ситуация, как и с сильным ИИ. Может, после 2045 года что-то появится. А может и нет.

Сегодня искусственный интеллект — верный помощник человека. Но если завтра он станет умнее человека, что тогда? — вопрос, который сейчас бурно обсуждают во многих СМИ и ещё более бурно — в научной фантастике. Но что значит «быть умнее»? Ум измеряется многими параметрами, и по некоторым из них — объём памяти, быстродействие — компьютер с самого начала неизмеримо превосходит человека. Назначение ума — добывать новую информацию о мире и строить на её основании способствующие адаптации модели реальных явлений, а не только манипулировать уже добытой информацией по заданным человеком алгоритмам, что лишь и делают даже самые продвинутые вычислительные машины. Иными словами, всё, что может сделать машина, — записать по-новому уже известные знания. Прошу на этом сосредоточиться: всё, что может дать машина, — записать в явном виде то, что в ней содержалось с самого начала в скрытой форме. А добывать поистине новую информацию могут лишь какие-то органы чувств или измерительные приборы. Такие приборы уже давно подключаются к электронному мозгу, и он уже давно умеет на звуковые, световые и прочие сигналы реагировать «разумно», то есть так, как ему предписывает человеческий разум. А если такого предписания не поступит, компьютер не сможет даже отличить важную информацию от неважной.

Так что можно придумывать искусственному интеллекту различные тела с различными органами чувств и различными потребностями и получать всё новые и новые модели мироздания, которые будут не лучше и не хуже друг друга. Обсуждать можно лишь то, какие из них будут лучше способствовать адаптации тела искусственного интеллекта.

В. Вера в обретение бессмертия путём создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру (см. также мой предыдущий пост). Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.

— Да, и мы шли к этому пять лет. В World Robot Olympiad участвуют 1,5 млн человек — это планетарного масштаба соревнования. На финал съезжается порядка 4 тыс. участников из десятков стран мира. Можно смотреть и учиться — у французов, немцев, китайцев, американцев. Япония — флагман, там делают фантастические вещи, это как кунг-фу в робототехнике. В России мы немного упаковываемся сами в себя, что плохо. Едем, например, на олимпиаду НТИ (всероссийская инженерная олимпиада для 8–11-х классов. — «СР»), побеждаем и довольные уезжаем. А на мировых турнирах понимаешь, что вообще ничего не умеешь по сравнению с теми же японцами, наступает отрезвление — болезненное, но нужное любому человеку, пусть он хоть бальными танцами занимается. Мы стали чемпионами мира в 2017 году, но до этого были ошибки и провалы, с которыми поначалу трудно мириться.

Тем не менее некий «бунт машин» теоретически всё-таки возможен. Теоретически вполне возможно создать устройство, способное искать себе «пропитание» — источники энергии. И нет ничего невозможного в том, что такие устройства начнут успешно конкурировать с людьми в борьбе за такого рода ресурсы. Они могут и самих людей посчитать такими ресурсами. Но мне кажется, что люди уничтожат себя раньше, чем за них примутся машины.

Николай Пак — робототехник, предприниматель. Окончил факультет автоматики и вычислительной техники Новосибирского государственного технического университета. В 2011 году создал федеральную сеть секций «Лига роботов». Сейчас секции работают в 48 городах России и семи странах, занятия посещают 30 тыс. учеников. Руководитель регионального представительства Российской ассоциации образовательной робототехники (РАОР). Тренирует сборные по робототехнике России и Казахстана. Член национального совета World Robot Olympiad, судья международной квалификации, член судейских комиссий нескольких региональных и всероссийских соревнований по робототехнике.

Искусственному интеллекту, лишённому тела и психики, никогда не понять подобных выражений и не обрести желаний и целей, которые только и порождают всякую интеллектуальную деятельность. Поэтому опасаться того, что электронный мозг восстанет против человека, примерно то же самое, что опасаться, как бы трактор не восстал против тракториста. Разумеется, из-за ошибок в программе или из-за сбоев электронный мозг может направить ракету или автомобиль против «хозяев», но это будет обычная авария, а не восстание. Если угодно, восстание хаоса против порядка, но никак не восстание одного порядка против другого.

1. Проф. Фьелланд – знаменитый норвежский физик и философ, – не просто прокричал ещё раз «а король-то голый!» с высокой научной трибуны журнала Nature. Фьелланд на современном уровне переформулировал знаменитую аргументацию невозможности создания сильного ИИ, опубликованную Хьюбертом Дрейфусом (Hubert Dreyfus) более полувека назад в работе «Алхимия и искусственный интеллект».

— Я считаю, что он принципиально невозможен. Что вообще такое искусственный интеллект? Это, например, когда вы запрограммировали робота играть в го, а он делает что-то другое — идет играть в футбол, допустим. То есть он действует не в заданной плоскости, а вообще ломает условия. Пока мы даже близко к такой возможности не подошли и, думаю, не подойдем. Но копаться в этом все равно надо. Мы ведь копаемся в космосе, хотя и знаем, что при нынешних технологиях до альфы Центавра нам не долететь. Но это надо исследовать, чтобы развивать голову.

Именно опыт общения с круглыми предметами подсказывает человеку образ идеального круга, необходимость считать овец или людей порождает понятие числа. Если бы человек не имел опыта обращения с очень маленькими камешками, ему бы не пришла в голову модель материальной точки, а без наблюдений за волнами не родилось бы и представление об электромагнитных колебаниях. Короче говоря, если бы у человека было другое тело и другие органы чувств, у него была бы и другая физика, и даже другая математика. Если бы, скажем, человеческий мозг принадлежал полипу, не имеющему ни средств передвижения, ни осязания, а воспринимающему мир лишь при помощи запахов, то у него не возникло бы представления ни о пространстве, ни о времени, ни о числе.

Г. Попытки строить ИИ лишь на основе корреляций, а не причинности – тупиковы. Причинность – важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определённой культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.

— Мы делали для МЧС квадрокоптер для облета линий электропередачи. А еще андроида, но это была наша хотелка. Многие, кстати, думают, что робототехника — это человекоподобные роботы. Романтично, но неверно. Робототехника на 97 % — это автоматизированные руки, манипуляторы. Сейчас все хотят автоматизацию — кафе, ресторанов, магазинов, теплиц, производственных линий. Потребность большая, а обратиться особо не к кому — в России всего три-четыре организации в состоянии сделать оригинальный прототип. Остальные сидят и ждут, когда им дадут готовую технологию, а это путь в никуда. Чтобы сделать творцов из людей, их нужно долго обучать. Знаний надо вложить массу. Да, долго и дорого, но иначе нет смысла. На вузовском этапе курса робототехники собирают роботов — нужны лазеры, фрезеры, 3D-принтеры. Станочный парк в Новосибирске, например, обошелся нам в 40 млн рублей. Ученики ошибаются, случается, что-то ломают. Но это развитие. У нас шутка есть: квалификация инженера прямо пропорциональна количеству испорченного им оборудования.

Но если бы у искусственного интеллекта всё-таки появилось сознание, привело бы это к конфликту с людьми или, наоборот, к сотрудничеству? К конфликтам, равно как и к сотрудничеству, приводит не наличие сознания, а наличие несовпадающих либо совпадающих интересов. Интересы же порождаются телом, а не интеллектом.

— В «Лиге роботов» обучение рассчитано на 10–15 лет. Наши выпускники работают, например, в «Яндексе», автоматизируют КамАЗы, создают свой бизнес. Девять лет назад мы, группа магистрантов НГТУ, искали инженеров для своего проекта и не нашли. Не было людей, способных автоматизировать форточку. Рассказать, как они это будут делать, — таких сколько угодно, а сделать никто не мог. И мы создали «Лигу роботов», чтобы готовить специалистов. Собственно, одна из причин популярности робототехники — падение уровня образования. Дошло до того, что дети не могут посчитать среднее арифметическое и не знают, почему зиму сменяет весна.

Впрочем, боль бывает не только физической, но и душевной. Наша психика тоже разделяет мягкое и твёрдое обращение, горячий и холодный приём, и если бы у нас не было тела, то не было бы и ни малейшей возможности понять, что общего между мягкой подушкой и мягким обращением, между тёплой ванной и тёплым приёмом. Практически все слова, означающие психические процессы и эксцессы, суть метафоры эксцессов физических: человек вскипел, взорвался, остыл…