Сильный ИИ – не хайп, а фейк. Почему его невозможно создать

2. Современная трактовка Фьелланда ещё более радикальная, чем аргументация Дрейфуса (равно как и автора этого поста). Фьелланд препарировал вопрос так, что показал принципиальную невозможность создания сильного ИИ, не просто в обозримом будущем, а вообще никогда.

В. Вера в обретение бессмертия путём создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру (см. также мой предыдущий пост). Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.

ИТОГО. Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире. Наш разум – основной механизм, позволяющий это. Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения. Раньше это был хайп, теперь – чистый фейк.

При этом всегда были и есть те, кто прогнозирует тотальную замену людей искусственным интеллектом и роботами. Но автоматическая замена человеческих ресурсов на машины невозможна по нескольким причинам. Возьмем рабочих, которые трудятся на заводе, выпускают холодильники. На выходе они производят товар, который продается за определенную сумму. Эти средства делятся на зарплату работникам и то, что уходит капиталисту, который не только берет деньги себе, но и оплачивает социальные взносы, амортизацию, налоги и прочие расходы. В этом случае может быть спор, кто должен получить больше. Зато в варианте «работодатель и машина» таких вопросов не возникает. Роботу невозможно не доплатить. Обновление оборудования и программ стоит денег, плюс к этому машины очень быстро морально устаревают, а если не вкладываться в «железо», то перестанет работать даже самый лучший софт.

Интересным мне кажется использование машин в области цифрового искусства. Мы экспериментировали с созданием синтетических личностей — поэта, музыканта, художника. За любым произведением искусства кроется огромный труд и чудовищное количество экспериментов, которые ИИ поможет проводить в относительно небольшой срок.

Но журналисты на долгосрочной основе внимания проекту не уделили, хотя, уверен, что обществу это было бы интересно. 12 лет назад на японской атомной станции Фукусима-1 произошла авария. Жители Приморья опасались, что радиация доберется и в край. И вот тогда один региональный интернет-портал в прямом эфире начал показывать дозиметр. Информация добавляла ресурсу огромное количество просмотров.

Причина в том, что роль капитала в средствах производства становится все больше, а сами они — дороже, в то время как труд оказывается дешевле и менее значим. То есть наш мегароботизированный завод потребует гигантских затрат. Роботов невозможно уволить или сократить, если «урезать зарплату», это приведет к остановке предприятия, а перезапустить его будет еще дороже. Машины нет смысла заставлять работать сверхурочно — рынку не требуется такое количество холодильников. Так что роботы намного менее управляемы, чем люди, и ждать повсеместной роботизации не стоит. Да и задача заменить живого человека на умную машину не стоит, хотя искусственный интеллект, безусловно, приведет к определенным метаморфозам в «ландшафте».

Соответственно, рынок изменился и продолжит меняться: конкурировать друг с другом будут не только издания, но и люди с машинами. Для человека, который всю жизнь переписывал пресс-релизы, подобное развитие ситуации может стать фатальным. Заменить его ИИ несложно уже сейчас.

На мой взгляд, медийщикам нужно искать новые пути: вести расследования, «вытаскивать» темы, которые волнуют общество. Это может быть, допустим, мониторинг цен или дорожного строительства, экология. В прошлом году, когда во Владивостоке разразился мусорный кризис, мы разработали и запустили в тестовом режиме устройство, позволяющее отслеживать траекторию движения бытовых отходов от бака до места предполагаемой утилизации. Процесс отражался на карте, доступ к которой мы предлагали всем желающим. Думали и над тем, чтобы создать аналогичную систему для отслеживания канализационных стоков.

Г. Попытки строить ИИ лишь на основе корреляций, а не причинности – тупиковы. Причинность – важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определённой культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.

Б. Важная часть человеческих знаний является неявными (невербализуемыми – tacit) знаниями («неявными знаниями» – ред.). Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, – ошибочны. В равной степени можно пытаться научить ребёнка кататься на велосипеде, не имея его, и лишь используя инструкцию.

Под угрозой отчасти медиасфера — виртуальные журналисты научились генерировать новости порой не хуже человека. Одно из самых востребованных направлений использования ИИ — формирование лидов (первых абзацев текстов, где собрана суть новости). Хорошо реализованные решения есть, например, у Яндекса. Но еще интереснее брать какие-то данные и генерировать из них новость. Так, мы учили машину из набора цифр — температура, скорость ветра, давления, возможность осадков — составлять связный текст о погоде. Сейчас переходим к работе над трансляцией спортивных матчей, хотим, чтобы искусственный интеллект мог оценивать ситуацию на поле и, исходя из нее, быстро создавать репортаж.

А. Компьютерная мощь никогда не разовьётся в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие – способность принимать правильные решения в конкретных ситуациях, и мудрость – способность видеть целое.

1. Проф. Фьелланд – знаменитый норвежский физик и философ, – не просто прокричал ещё раз «а король-то голый!» с высокой научной трибуны журнала Nature. Фьелланд на современном уровне переформулировал знаменитую аргументацию невозможности создания сильного ИИ, опубликованную Хьюбертом Дрейфусом (Hubert Dreyfus) более полувека назад в работе «Алхимия и искусственный интеллект».