Необязательный интеллект: почему ИИ до сих пор глупый, и как его вообще можно использовать

Кратко о том, что произошло в стране и в мире за последние часы.

Глупость всегда увеличивает энтропию, то есть разрушение и ослабление мира. Интеллект, создание чего-то нового, производит, напротив, негэнтропию (негативная энтропия — способность систем подавлять энтропию через взаимодействие с внешней средой. — Ред.). Это обратный процесс, возможность оказать сопротивление энтропии и антропоцену (эпохе чрезмерного влияния человеческой активности на экосистему Земли. — Ред.). Эра антропоцена ставит под угрозу всю биосферу, так что вопрос глупости сегодня — это вопрос о космосе. Мы можем уничтожить нашей глупостью биосферу или спасти ее, если мы трансформируем свою глупость в мудрость, опыт и публичное обсуждение. Это очень сложные вопросы: например, невозможно отделить искусственный интеллект от экономического положения людей. Мы пытаемся как-то решать эти проблемы, и я считаю, что это возможно. В частности, в январе 2020 года мы отправим коллективное обращение в ООН с предложением запустить новую программу исследований и экспериментов, связанных с вызовами антропоцена: изменением климата, повышением уровня моря и так далее.

Три года назад я опубликовал книгу «Автоматическое общество», точнее, первую ее часть с подзаголовком «Будущее работы». Сейчас я работаю над второй, посвященной будущему знания. Ее темы — автоматизация, машины и гетерономия. Я пытаюсь ответить на вопрос, как превратить гетерономию во что-то, что производит локальную негэнтропию, которая сродни автономии. Это процесс, который я называю ноэтическим разнообразием.

Президент России Владимир Путин освободил Вадима Потомского от должности губернатора Орловской области. Временно исполняющим обязанности назначен депутат Мосгордумы Андрей Клычков, сообщает РИА Новости со ссылкой на пресс-службу Кремля.

За последние две недели в губернаторском корпусе произошел целый ряд перестановок. Путин освободил от должности главу Красноярского края Виктора Толоконского, губернатора Самарской области Николая Меркушкина, нижегородского губернатора Валерия Шанцева, главу Ненецкого автономного округа Игоря Кошина, главу Дагестана Рамазана Абдулатипова и губернатора Приморского края Владимира Миклушевского.

И это, кстати, ещё небольшая ошибка – скорее всего, «испытания» в Домодедове были «лабораторные». А вот на практике, например в Лондоне, полицейская система распознавания лиц ошибается то ли в 81% случаев, то ли даже в 98%. Высокие проценты ложных срабатываний в «боевых» условиях – одна из главных причин, почему пафосные новости о внедрении систем распознавания лиц через какое-то время сменяются новостями о том, как их отменяют или запрещают (как произошло во многих американских городах в последние два года).

— Вопрос в том, что мы называем экономикой. Существует много видов экономики. Один из них полностью подвластен вычислениям и находится под контролем глобальных рынков, которые работают со скоростью света. А, например, предыдущая организация экономики, основанная на идеях Кейнса о регулировании рынков, появилась после Великой депрессии в США. Она полностью отличалась от капиталистической экономики XIX века, которая была построена не на росте, а на индустриализации старой Европы. То есть вопрос не в экономике как таковой, а в ее разных формах.

— Сегодняшние процессы технизации, усиления человека посредством новых устройств, таких, как смартфоны, ноутбуки или любые другие «протезы», — это продолжение процессов, которые начались три миллиона лет назад. В этом отношении здесь действительно нет ничего нового. Новизна есть, во-первых, в ускорении этих процессов. Во-вторых, посредством этого ускорения происходит то, что сейчас называют разрывом. Разрыв означает, что социальные институты, отношения между людьми и знание больше не успевают за логикой эволюции технологий. В результате технологии развиваются в отсутствие необходимого знания о них и критической способности решать, делать выбор.

Вопрос здесь не в возвращении к «наивным» категориям автономии, а в понимании того, что автономия всегда связана с гетерономией (подчинением субъекта чуждым ему законам. — Ред.). Я начинал свои исследования с Жаком Деррида, который утверждал, что нет Логоса без письма, а письмо — это гетерономная технология. Вслед за Сократом он называл ее гипомнезией, то есть устройством, производящим фармакон (понятие из философии Деррида, которое подчеркивает двойственность явления — яда и лекарства в одном флаконе. — Ред.). Сегодня не существует никакой чистой автономии, можно иметь только относительную локальную специфичность негэнтропии.

Известный французский философ техники — о том, как нас мыслительно обедняют смартфоны и алгоритмы

Потому что мышление — это вовсе не вычисления, а производство бифуркаций через возможность того, что Ницше называл Волей. Поэтому, я думаю, нам не надо интериоризировать дискурс трансгуманизма. Утверждения, что сингулярность наступит в течение 20 лет, а вычисления заменят человеческий разум, — это абсолютные fake news. Это чистая идеология и маркетинг, через который Силиконовая долина пытается контролировать то, что американский математик, физикохимик и демограф Альфред Лотка называл процессом экзосоматизации. Люди постоянно эволюционируют, и экзосоматизация — это производство искусственных органов. Сейчас эта эволюция ускоряется, США, Россия и Китай борются за контроль над этим процессом. Настоящая ставка в том, чтобы поменять правила и условия игры. Потому что эта эволюция в том виде, в каком она организована в Силиконовой долине, ускоряет антропоцен, который в конечном счете уничтожит нас всех, даже саму Силиконовую долину.

Мы могли бы преобразовать то, что сейчас называется искусственным интеллектом, в реальный интеллект, во что-то, что было бы действительно разумным. Возьмем пример с интерпретацией медицинских диагнозов. Один мой друг из Калифорнии разработал стартап для кардиологов. Это система медицинских данных, которая производит очень много информации, но никогда не дает рекомендаций. Вместо этого она задает вопросы. Потом врачи в социальных сетях работают вместе, чтобы решить возникшие проблемы путем делиберации (совместного обсуждения. — Ред.). Используя эти алгоритмы, они не полностью оглупляются. А в медицине это очень важно. Вы, наверное, знаете про теорию черного лебедя: если для решения проблем использовать только усредненные данные, то однажды вы столкнетесь с черным лебедем, хотя видели до этого только белых, как это когда-то случилось в Австралии (долгое время считалось, что лебеди бывают только белыми, пока голландская экспедиция не обнаружила в Западной Австралии популяцию черных лебедей. — Ред.).

— Одна из центральных идей вашей философии состоит в том, что человек всегда был техническим существом. Техника — это не просто материальная надстройка к человеческой природе, а нечто фундаментальное, определяющее наш опыт пребывания в этом мире. Сегодня образ киборга, оснащенного различными техническими «протезами», широко распространен как в философии, так и в массовой культуре. Но мало кто использует его так же ретроспективно, по отношению ко всей человеческой истории, как это делаете вы. Не стирает ли такой подход все различия между первобытным человеком, создающим примитивные орудия труда, и современным «миллениалом», который проводит значительную часть жизни в интеракции с гаджетами?

Когда вы используете данные, вы работаете только с так называемыми онтологиями, усиливающими текущее состояние знания. Но одного знания недостаточно. Если вы применяете его автоматически, это всегда своего рода глупость. Именно это и происходит сегодня, и поэтому я думаю, что нам надо поменять организацию искусственного интеллекта. И я пытаюсь это делать в социальном эксперименте, которым я занимаюсь совместно с некоторыми крупными компаниями, включая Orange (французский телеком-оператор. — Ред.). Мы пытаемся создать такие же алгоритмы, но только не для докторов, а просто для жителей разных регионов, чтобы поднять перед ними вопрос локальностей, поскольку все негэнтропичное является всегда локальным. Негэнтропия невозможна на уровне Вселенной. Мы должны не уничтожать, а усиливать локальности, открывая их для кооперации друг с другом.

Ученые сравнили системы искусственного интеллекта, и выяснили, что у сервиса Google IQ находится на уровне 43,7 баллов. Далее следуют Baidu (33), Microsoft’s Bing (32) и, наконец, Siri (24). Отмечается, что, несмотря на лидерство Google среди этих систем, сервису еще придется проделать долгий путь, чтобы приблизиться к уровню человеческого интеллекта. Для сравнения — у среднестатистической 6-летней девочки IQ составляет 55,5 балла, согласно исследованию.

— Как вы сами заметили, сегодня техника, как никогда раньше, сцеплена с экономикой и с интересами капитала. Но вы часто говорите о технике так, как будто она в существенной степени обладает автономией. Техника у вас субъектна, она может подчинять себе другие объекты, в том числе социальные институты. Разве можно говорить о технике, игнорируя ее подчинение чисто экономическим интересам?

— Если современная техника не устраняет человека полностью, то, по крайней мере, делает его крайне зависимым, лишая некогда базовых для жизни знаний и навыков. Вы называете этот процесс пролетаризацией, но здесь отчуждению подвергается не только труд, но и все жизненные сферы.

Нам надо научиться иметь дело с машинами, сегодня это главный вызов. Если мы это сделаем, то сможем переизобрести понимание того, что такое работа. Например, вот как Микеланджело объяснял, что такое работа, на примере скульптуры: вы всегда сталкиваетесь с ограничениями в мраморе, орудиях и так далее. Это искусство, но в то же время и право, философия, наука.

К примеру, нам всем приходится адаптироваться к смартфонам. У моих детей есть смартфоны, как и у всех детей в их школе. И в некотором смысле смартфоны обходят меня в воспитании моих детей — через маркетинг, видеоигры, социальные сети и т.д. Происходит «короткое замыкание» общества, в частности, в отношениях между поколениями и в процессе передачи знаний, который замещается алгоритмами. При этом алгоритмы работают с вероятностями, как, например, цепь Маркова. Они усредняют поведение и стимулируют реактивные «стадные» действия. И ровно это нас оглупляет — не только, скажем, Дональда Трампа, но и меня самого. Мы все находимся в ситуации, когда мы вынуждены подстраиваться под поведение общественности в медиа. И это становится очень опасным.

На очереди — Бернар Стиглер, современный французский философ, известный своей оригинальной интерпретацией цифровых технологий и нетипичной для академического ученого биографией. В молодости Стиглер был осужден за вооруженное ограбление банка и провел несколько лет в тюрьме, где всерьез заинтересовался феноменологией. После выхода на свободу стал сотрудничать с легендарным французским философом Жаком Деррида, а в 1994 году опубликовал свою ключевую работу: первый том трактата «Техника и время». В этой книге Стиглер заявил, что человек, время, память и история возникают как таковые лишь с освоением первых технологий (камня, огня, письменности и далее по списку — вплоть до искусственного интеллекта и виртуальной реальности). Стиглер занимается не только теоретическим, но и практическим осмыслением влияния дигитализации на развитие общества. Он возглавляет Институт по исследованиям и инновациям парижского Центра Помпиду. Со Стиглером поговорили Арнольд Хачатуров и Сергей Машуков.

Согласно программе, сегодня состоится только пресс-конференция с участием председателя ПА НАТО Паоло Алли, генерального секретаря организации Дэвида Хоббса и главы румынской делегации в ПА НАТО Верджила Кицака.

Эти две сферы различаются, но полностью разделить их невозможно. Вопрос в том, чтобы переосмыслить либидинальную экономику по Фрейду и политэкономию по Марксу. Маркса надо критиковать и даже его превзойти. Потому что Маркс ничего не знал о современном капитализме и об обработке информации, как и Фрейд не знал ничего о влиянии смартфонов на наше бессознательное. Поэтому нам нужно и дальше развивать теории интенций, желания, принципа удовольствия, тяги к смерти и тяги к жизни. Я пытаюсь это делать в группах во Франции, где мы работаем с психоаналитиками, медиками и так далее.

— Вопрос в том, что именно представляет собой сегодняшняя глупость. Потому что, как говорил Хайдеггер, бывают эпохи знания, эпохи бытия и эпохи глупости. Глупость сегодня — совершенно не то же самое, чем она была в Древней Греции, в Древнем Риме или в Средневековье. Сегодня быть глупым означает быть пролетаризированным. Сейчас [в более широком масштабе] происходит то, что Маркс и Энгельс называли пролетаризацией рабочих, когда рабочие перестают быть ими и становятся пролетариями. Сегодня мы используем технику, которая сокращает наше знание о мире. Мы думаем, что используем смартфон, но в реальности это он использует нас. Мы служим смартфонам, мы становимся их слугами. Процесс оглупления, если можно так выразиться, осуществляется путем этой пролетаризации. Чтобы изменить ситуацию, надо найти другой подход к технике.

Так что нам надо реконституировать либидинальную экономику, но для этого надо осмыслять технологии через корпус психоаналитических идей. Сейчас психоаналитики только начинают открывать для себя эту проблему; я веду такие семинары в группе лаканианцев в Париже. Но для этого мы должно переопределить, что такое работа и каков ее статус в политэкономии капитализма.