Почему искусственный интеллект не похож на настоящий и когда станет

Искусственный интеллект, конечно, не совсем интеллект. По сути, это обычная программа, но с нечетко прописанным алгоритмом (хотя бывают и такие). При этом у нее есть определенная самостоятельность в принятии решений, а значит, и существует элемент случайности полученного результата. И это уже похоже на работу мозга человека. Расскажем, как человек позволяет нейросетям «думать» самим и что из этого выходит.

1. Проф. Фьелланд – знаменитый норвежский физик и философ, – не просто прокричал ещё раз «а король-то голый!» с высокой научной трибуны журнала Nature. Фьелланд на современном уровне переформулировал знаменитую аргументацию невозможности создания сильного ИИ, опубликованную Хьюбертом Дрейфусом (Hubert Dreyfus) более полувека назад в работе «Алхимия и искусственный интеллект».

Искусственный интеллект стоит на машинном обучении (МО). Иначе говоря, человек объясняет программе, как обрабатывать большие объемы данных, на что обращать внимание, а она делает на основе этого анализа выводы и потом использует их. В МО существуют разные педагогические подходы от контроля каждого шага до предоставления полной свободы действий. Как и в обычном образовании, педагог вправе вести ученика за руку или лишь обозначить направлен ие и дать тому заниматься самостоятельно. Здесь будет кстати и аналогия с изучением иностранного языка: кто-то годами постигает грамматику и зубрит слова, кто-то проходит поверхностный месячный курс, а есть и такие, которые приезжают в чужую страну и начинают методом проб и ошибок на ходу вникать во все с нуля.

В. Вера в обретение бессмертия путём создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру (см. также мой предыдущий пост). Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.

Г. Попытки строить ИИ лишь на основе корреляций, а не причинности – тупиковы. Причинность – важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определённой культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.

Сегодня искусственный интеллект — верный помощник человека. Но если завтра он станет умнее человека, что тогда? — вопрос, который сейчас бурно обсуждают во многих СМИ и ещё более бурно — в научной фантастике. Но что значит «быть умнее»? Ум измеряется многими параметрами, и по некоторым из них — объём памяти, быстродействие — компьютер с самого начала неизмеримо превосходит человека. Назначение ума — добывать новую информацию о мире и строить на её основании способствующие адаптации модели реальных явлений, а не только манипулировать уже добытой информацией по заданным человеком алгоритмам, что лишь и делают даже самые продвинутые вычислительные машины. Иными словами, всё, что может сделать машина, — записать по-новому уже известные знания. Прошу на этом сосредоточиться: всё, что может дать машина, — записать в явном виде то, что в ней содержалось с самого начала в скрытой форме. А добывать поистине новую информацию могут лишь какие-то органы чувств или измерительные приборы. Такие приборы уже давно подключаются к электронному мозгу, и он уже давно умеет на звуковые, световые и прочие сигналы реагировать «разумно», то есть так, как ему предписывает человеческий разум. А если такого предписания не поступит, компьютер не сможет даже отличить важную информацию от неважной.

Тем не менее некий «бунт машин» теоретически всё-таки возможен. Теоретически вполне возможно создать устройство, способное искать себе «пропитание» — источники энергии. И нет ничего невозможного в том, что такие устройства начнут успешно конкурировать с людьми в борьбе за такого рода ресурсы. Они могут и самих людей посчитать такими ресурсами. Но мне кажется, что люди уничтожат себя раньше, чем за них примутся машины.

Но что позволяет нам различать важное и неважное, значительное и незначительное? Прежде всего, наше тело: оно считает значительным всё, что причиняет ему страдание: голод, холод, боль; это и заставляет нас принимать всевозможные меры, чтобы ослабить или вовсе избежать боли и дискомфорта. Так возникают цели, желания, а наш интеллект — слуга желаний. Если бы у нас не было тела, интеллект не мог бы создать и науку. Он бы даже не мог классифицировать предметы на большие и маленькие, далёкие и близкие, мягкие и твёрдые, горячие и холодные, тяжёлые и лёгкие, красные и белые, кислые и сладкие, с чего и начинается наука.

Именно опыт общения с круглыми предметами подсказывает человеку образ идеального круга, необходимость считать овец или людей порождает понятие числа. Если бы человек не имел опыта обращения с очень маленькими камешками, ему бы не пришла в голову модель материальной точки, а без наблюдений за волнами не родилось бы и представление об электромагнитных колебаниях. Короче говоря, если бы у человека было другое тело и другие органы чувств, у него была бы и другая физика, и даже другая математика. Если бы, скажем, человеческий мозг принадлежал полипу, не имеющему ни средств передвижения, ни осязания, а воспринимающему мир лишь при помощи запахов, то у него не возникло бы представления ни о пространстве, ни о времени, ни о числе.

Решить эти проблемы, возможно, получится с помощью обучения с самоконтролем — это тип МО, при котором нейросети дают возможность самой определять релевантность результата, иначе говоря — что важно, а что нет. В этом случае человек создает пробелы в данных и просит ИИ заполнить их на «свое усмотрение » . Например, обучающий алгоритм дает программе несколько первых слов предложения и просит ее определить следующее по смыслу. Такой подход оказался чрезвычайно успешным в моделировании человеческого языка и распознавании изображений.

Но если бы у искусственного интеллекта всё-таки появилось сознание, привело бы это к конфликту с людьми или, наоборот, к сотрудничеству? К конфликтам, равно как и к сотрудничеству, приводит не наличие сознания, а наличие несовпадающих либо совпадающих интересов. Интересы же порождаются телом, а не интеллектом.

Ученые воодушевились и стали разрабатывать искусственный интеллект для распознавания звуков и даже запахов. Однако пыл их несколько угас, когда вскрылись серьезные ограничения работы ИИ. Во-первых, программу можно было легко обмануть. Во-вторых, у нее не получалось избежать ошибок при изменении типа входных данных. В-третьих, ей не хватало характерной для мозга гибкости.

Искусственному интеллекту, лишённому тела и психики, никогда не понять подобных выражений и не обрести желаний и целей, которые только и порождают всякую интеллектуальную деятельность. Поэтому опасаться того, что электронный мозг восстанет против человека, примерно то же самое, что опасаться, как бы трактор не восстал против тракториста. Разумеется, из-за ошибок в программе или из-за сбоев электронный мозг может направить ракету или автомобиль против «хозяев», но это будет обычная авария, а не восстание. Если угодно, восстание хаоса против порядка, но никак не восстание одного порядка против другого.

Так что можно придумывать искусственному интеллекту различные тела с различными органами чувств и различными потребностями и получать всё новые и новые модели мироздания, которые будут не лучше и не хуже друг друга. Обсуждать можно лишь то, какие из них будут лучше способствовать адаптации тела искусственного интеллекта.

С сильным ИИ получается, как с термоядерным синтезом. Его взрывной вид (самую мощную в мире бомбу) сделали почти 70 лет назад. Тогда же собрались освоить управляемый вид (построить термоядерные электростанции). Но не судьба. Спустя почти 70 лет ситуация, как и с сильным ИИ. Может, после 2045 года что-то появится. А может и нет.

Б. Важная часть человеческих знаний является неявными (невербализуемыми – tacit) знаниями («неявными знаниями» – ред.). Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, – ошибочны. В равной степени можно пытаться научить ребёнка кататься на велосипеде, не имея его, и лишь используя инструкцию.

Некоторые нейробиологи оценивают в 90 % схожесть того, как работают с информацией наш мозг и ИИ при обучении с самоконтролем. Мы способны предугадывать движение объекта или предсказывать следующее слово в предложении точно так же, как алгоритм обучения с самоконтролем заполняет пробел в тексте или изображении.

Философы размышляют и о том, что союз с искусственным интеллектом способен перевести человека на новую ступень эволюции. Но человек перейдёт на другую ступень эволюции лишь тогда, когда изменится его ДНК, чему искусственный интеллект вполне способен помочь. Без него уже и сегодня была бы невозможна расшифровка человеческого генома. А человек наверняка когда-нибудь захочет поуправлять своим наследственным веществом. Здесь есть о чём пофантазировать, однако и тут искусственный интеллект обслуживает человеческие прихоти. Но чтобы обрести собственные желания, ему необходимо тело, способное испытывать боль и бороться за выживание.

Таким образом, превосходство человека над искусственным интеллектом заключается в том, что тело человека непрестанно поставляет ему новую информацию из внешнего мира и подсказывает эвристические аналогии из мира физического. Интеллекту без тела было бы мыслить не о чем и незачем.

Воспринимать изображение примерно так же, как это делает мозг, ИИ научили в McGill University . Вместо одного пути обработки информации исследователи разделили алгоритм на две части — подобно тому, как зрительная система человека получает информацию через вентральный и дорсальный зрительные пути . Ученые обнаружили несомненное сходство в работе разработанного ими алгоритма и функционировании мозга мыше й.

А. Компьютерная мощь никогда не разовьётся в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие – способность принимать правильные решения в конкретных ситуациях, и мудрость – способность видеть целое.

Обучение с самоконтролем можно успешно использовать в области компьютерного зрения. Это доказала команда ученых из компании Facebook AI Research , которая в конце 2021 года представила новую модель автокодировщика. Он случайным образом маскировал изображения, скрывая почти три четверти каждого из них. Открытые части картинки переформатировались в математические описания, содержащие информацию об объекте. Алгоритм обучался достраивать снимок до тех пор, пока не стал делать это достаточно хорошо.

Именно последний вариант больше всего приближает работу компьютера к тому, как функционирует человеческий мозг. И хотя это самое непредсказуемое направление развития ИИ, здесь уже есть впечатляющие успехи. Так, 10 лет назад нейронную сеть AlexNet научили классифицировать не известные ей изображения. Благодаря этому нейробиологи разработали первые вычислительные модели зрительной системы приматов. При этом обнаружилось удивительное сходство в том, как реагируют на изображение нейроны в мозге обезьян и компьютерная нейросеть.