Разбираемся в АІ-жаргоне: словарь, который понадобится каждому

Tokenization

Идея о создании сильного ИИ всегда считалась научной фантастикой, а на ее осуществление, казалось, потребуется не одно столетие. Несмотря на это, благодаря недавним прорывам, многие ключевые вехи, время достижения которых ученые еще недавно оценивали в десятилетия, уже пройдены. Теперь многие эксперты всерьез задумываются о возможности создания сверхразума в течение жизни современного поколения. Пока некоторые считают, что до создания равного человеку ИИ еще столетия, на конференции в Пуэрто Рико в 2015 году, большинство исследователей сошлись во мнении, что сверхразум появится до 2060 года. Поскольку создание протоколов безопасности может занять десятилетия, разумно начинать действовать уже сейчас.

Согласно одному из мифов, ученые уверены в появлении сверхразумного ИИ уже в этом столетии. На деле же, история пресыщена неоправданными технологическими надеждами. Где все термоядерные электростанции и летающие машины, на которых мы должны рассекать уже сегодня, если верить прогнозам прошлых лет? Возможности ИИ также были неоднократно преувеличены в прошлом, в том числе и первопроходцами в данной области исследований. Например, Джон Маккарти, автор термина «искусственный интеллект», Марвин Минский, Натаниэль Рочестер и Клод Шеннон написали чересчур оптимистичный прогноз о том, что может быть создано за два месяца с помощью прошловековых компьютеров: «Мы предлагаем летом 1956 на базе Дартмутского колледжа провести двухмесячное исследование искусственного интеллекта командой из 10 человек, […] в ходе которого будет предпринята попытка выяснить, как научить машину использовать язык, оперировать абстракциями и концептами, решать задачи, которые до этого были под силу только человеку и автоматически улучшать себя. Мы считаем, что значительный прогресс в одной или нескольких из этих задач может быть достигнут, если в течение лета тщательно отобранная группа ученых будет разрабатывать вопрос совместными усилиями». С другой стороны, существует популярный миф, полностью противоречащий первому: мы не сможем разработать сверхразумный ИИ в этом столетии. Исследователи обозначают широкий диапазон предположений о том, как далеки современные разработки от сверхразумного ИИ, но, учитывая длинный список ошибок в подобного рода скептических предсказаниях, мы все-таки не можем сказать с большой уверенностью, что вероятность прорыва в этом столетии стремится к нулю. Так, в 1933 году, менее, чем за 24 часа до того, как Сциллард совершил открытие цепной ядерной реакции, Эрнест Резерфорд, один из лучших физиков своего времени, сказал, что ядерная энергия это «выдумки». Аналогично, в 1956 году астроном Ричард Вулли называл межпланетные путешествия «полной чепухой». Наиболее же радикально миф отражен во мнении, что сверхразумный ИИ не появится никогда, поскольку это физически невозможно. Однако, ученые-физики знают, что мозг состоит из кварков и электронов, взаимодействующих друг с другом по тому же принципу, что и мощный компьютер ‒ и нет такого закона физики, которому бы противоречило создание еще более мощных сгустков кварков.

К примеру, техно-скептик, знакомый с позицией Билла Гейтса по публикациям в таблоидах, может ошибочно считать, что Гейтс твердо уверен в неизбежности создания сверхразумного ИИ. Таким же образом, кто-то из про-технологичного движения может быть совершенно не знаком с позицией Эндрю Ына в целом, но помнить цитату про перенаселенный Марс и считать, что Ын не озадачен проблемой безопасности искусственного интеллекта, однако это неправда. Суть в том, что прогнозы Эндрю Ына предполагают более поздний прорыв технологий искусственного интеллекта, и в приоритет он, как правило, ставит не долгосрочные задачи, связанные с ИИ, а краткосрочные.

Когда вы за рулем, вы переживаете собственные впечатления о цвете, звуках и окружающем вас пейзаже. Но может ли беспилотный автомобиль иметь собственные переживания? Ощущает ли вообще беспилотный автомобиль сам себя? Проблема осознанности и сознания как явления интересна сама по себе, однако для технологии ИИ она нерелевантна. Если вдруг вас собьет беспилотный автомобиль, вам будет не важно, обладает ли он самосознанием. Таким образом, человечеству придется взаимодействовать не с тем, что искусственный интеллект чувствует, но с тем, что делает.

Automation has significantly increased productivity in the manufacturing industry, streamlining processes and reducing manual labor — Автоматизация значительно повысила производительность в промышленности, упорядочив процессы и сократив количество ручного труда.

Наверняка вы не относите себя к истребителям муравьев, которые из удовольствия и азарта вытаптывают насекомых, но если перед вами стоит задача построить ГЭС, и в зоне ее затопления случайно окажется муравейник…что ж, тем хуже для муравьев. Ключевая цель исследований безопасности в области ИИ ‒ предупредить ситуацию, в которой человечество окажется на месте муравьев.

Large Language Model (LLM)

В процессе использования Chat GPT вы, наверное, поняли, что для получения лучшего результата искусственному интеллекту следует давать конкретные запросы, а еще лучше — на английском языке. Однако важно помнить и о терминологии, которая может улучшить ваше сотрудничество с AI.

Все эти примеры показывают, что основная сложность при применении систем сильного ИИ связана не со злым сверхразумом, но скорее с компетентностью разработчиков. Сверхразумный ИИ будет невероятно эффективен в решении поставленных задач, вот только если они разойдутся с реальной целью человека, возникнут проблемы.

Среди исследователей искусственного интеллекта было проведено множество опросов, с целью выяснить их прогнозы относительно того, как скоро, с вероятностью хотя бы в 50%, может появиться сверхразумный ИИ. Опросы показали, что ведущие эксперты всего мира расходятся во мнениях, поэтому мы просто не знаем ответа. Например, в одном из таких опросов исследователей искусственного интеллекта в 2015 году на конференции в Пуэрто Рико, посвященной ИИ, среднестатистический ответ был «к 2045 году», но при этом некоторые исследователи называли сроки в сотни лет или даже больше.

Заблуждение, касающееся наличия у машин самосознания, связано с мифом о том, что роботы не могут иметь собственных целей. Однако, в узком смысле, цель машин проявляется в том, что они ориентированы на выполнение какой-либо задачи. Так, поведение ракеты с тепловой головкой самонаведения проще всего описать как стремление попасть в цель. Если вы чувствуете угрозу со стороны машины, цели которой отличаются от ваших, то почти наверняка истинным источником беспокойства являются сами цели, а не то, обладает ли робот самосознанием или ощущениями. И если ракета преследует вас, вы вряд ли воскликнете: «У машин не может быть целей, так что волноваться не о чем!»

Возможность принести пользу обществу с помощью технологий искусственного интеллекта в краткосрочной перспективе движет разработчиками во многих сферах. Современные наработки используются для подтверждения экономических теорий, в законотворчестве, технических разработках в области верификации, актуализации данных, безопасности и контроля. Поэтому если взлом или сбой в системе работы персонального компьютера может остаться незамеченным, отклонения в работе ИИ, который управляет автомобилем, самолетом, кардиостимулятором, электросетью или, например, автоматизированной системой ведения торгов, могут привести к гораздо более масштабным и трагическим последствиям. Помимо этого, все более актуальной сегодня становится необходимость предотвращения разрушительной гонки вооружений в сфере автономного оружия.

Увлекательная дискуссия сопровождает будущее искусственного интеллекта и его значение для человечества. Мировые эксперты придерживаются диаметрально противоположных мнений по многим вопросам. Например, идут споры о влияния ИИ на рынок труда, о том приведет ли к экспоненциальному росту когнитивных мощностей создание ИИ по умственным параметрам не уступающего человеку (если таковой появится), и стоит ли приветствовать прогресс в этой области или все же его нужно опасаться. Но кроме дискуссии в научных кругах можно наблюдать и множество утомительных псевдо-обсуждений, в которых участвуют некомпетентные люди, неспособные найти общий язык. Для того, чтобы сфокусироваться на действительно интересных моментах и актуальных вопросах, а не на недоразумениях, давайте проясним некоторые наиболее распространенные заблуждения.