Искусственный интеллект — угроза или помощник для человечества

Что нас ждет в ближайшее время

Но кое-что Эмма сделала все же хуже журналистки. «Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, — признавался редактор FT. — А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры».

Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства — и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?

Поэтому лучше оставить терминологические споры философам и просто использовать « критерий утки »: если ИИ в качестве интеллектуального агента способен выглядеть в глазах людей человеком, выполнять любую интеллектуальную работу, как люди, и действовать в новых для него ситуациях так, как действовали бы на его месте люди, — будем считать, что этот ИИ является общим интеллектом (AGI)».

«Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи», — рассказывает Сергей Марков.

С моей точки зрения, самым правильным решением является «интеграция» AGI в человеческое мышление. Сделав AGI средством понимания человеком сложных элементов современного мира, а не заменой этого понимания. Так как «Чего человек не понимает, тем он не владеет…»».

«Суперинтеллект — это интеллект, который по своим возможностям значительно превосходит возможности мозга умнейших представителей человечества практически во всех областях, включая научное творчество, общую мудрость и социальные навыки. Это определение оставляет открытым вопрос о том, как будет реализован сверхразум: это может быть цифровой компьютер, совокупность компьютеров, объединённых в сеть, выращенная в лаборатории мозговая ткань или что-то ещё. Оно также не даёт ответа, будет ли суперинтеллект иметь сознание и субъективный опыт».

Тесты для проверки AGI

Именно они лежат в основе модели GPT-4 от компании OpenAI, с которой сегодня может поговорить любой желающий через чат-бот ChatGPT. Аналогичные разработки ведут и другие компании. Например, Google в прошлом году представил новый ML-алгоритм PaLM. Его предыдущая версия под названием LaMDA в 2022 году во время разговора с тестировщиком сумела убедить его в своей разумности.

Ожидается, что следующим этапом развития ИИ станет создание универсальной системы, которая сможет решать любые задачи, подвластные человеческому разуму. Нейросеть такого уровня будет относиться к классу общего (AGI, artificial general intelligence), или сильного ИИ (strong AI).

«В настоящее время мы всё ещё находимся на пути к созданию AGI. Тем не менее с выходом GPT-4 возникло понимание, что появление общего искусственного интеллекта — это лишь вопрос времени. И, вполне вероятно, что вопрос этого десятилетия. Если отталкиваться от опубликованного отчёта об исследовании GPT-4 специалистами Microsoft, то уже сейчас опытным путём в языковых моделях фиксируются зачатки разума и здравого смысла. На нашем веку происходят по-настоящему эпохальные процессы, и уже через 10–15 лет общество станет абсолютно неузнаваемым».

Однако, прогресс в области ИИ шёл медленнее, чем ожидалось. Многие учёные занялись исследованиями в области слабого искусственного интеллекта. Поэтому в дальнейшем под ИИ стали понимать программы, способные решать интеллектуальные задачи лишь в какой-то одной области.

Создание AGI даст нам прекрасного помощника для выполнения разнообразных повседневных дел. Некоего умного ассистента. AGI — это очень полезная штука, но она не избавит нас от необходимости самостоятельного принятия решений. Решений как в отношении собственной жизни, так и более глобальных.

Ответ бота получен неверным по своей сути образом — без размышлений о проблеме, а только лишь подбором наиболее вероятных в данном контексте токенов. Поэтому в ответе присутствует «выжимка» из научно-популярных книг, но нет размышлений о критериях экспериментов, в которых мы могли бы отличить эмуляцию, видимость правильного решения, от такого же решения, но полученного правильным способом.

Хотя большие языковые модели являются важным шагом вперёд в развитии искусственного интеллекта, они не являются единственным решением для достижения AGI. Необходимо совместное развитие и интеграция различных технологий и подходов для создания полноценного общего искусственного интеллекта. И конечно, LLM значительно ускорят этот прогресс. Да, пока это не AGI, но уже огромный скачок навстречу его созданию».

«С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов», — комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

Когда будет создан AGI

«Интересный взгляд на LLM — языковой пользовательский (и не только пользовательский) интерфейс, когда мы можем дать им некоторое задание, а они обратятся к экосистеме из разных инструментов или других моделей ИИ. Стоит присмотреться к проектам, наподобие LangChain (инструменты и агенты), а также Auto-GPT, BabyAGI, Generative Agents, GPTeam (мультиагентные взаимодействия). Кроме того, интересны направления по использованию LLM на пользовательском „железе“ (яркий пример — библиотека машинного обучения GGML), потому что они повышают доступность и снижают цену использования таких систем».

Сильный и общий ИИ очень похожи по своим возможностям, и обычно между ними ставят знак равенства. Но различия кроются в философии. AGI может работать без истинного понимания сути решаемых задач, в то время как сильный ИИ осознаёт их. Важно, что сознание во втором случае не обязательно будет идентично человеческому.

При этом необязательно заниматься полным копированием биологии или клонированием, подобным процессу из фильма «Аватар». Достаточно смоделировать в любом, даже механическом, теле основные особенности человеческого организма — несовершенство зрения, слуха, искажение восприятия, связанное с меняющимся уровнем гормонов и так далее».

Одним из удивительных результатов последних лет стало осознание того, что модели ИИ можно использовать для очень широкого спектра задач, для которых еще 20 лет назад считалось, что они не могут быть решены с помощью компьютера и способность к их решению является атрибутом высшей нервной деятельности. Например, ИИ способен рисовать картины, поддерживать беседу, управлять автомобилем и многое другое. Уже сейчас ИИ активно применяется в системах распознавания печатных и рукописных текстов, распознавании и синтезе речи, интернет-поиске, рекомендательных системах. Из последних достижений можно отметить решение задачи прогноза третичной структуры белков, которая являлась одной из сложнейших и важнейших задач в биологии и которая была решена специалистами компании DeepMind осенью 2020 г.

«AGI — это некий ИИ общего вида, который может давать экспертные (или хотя бы более-менее осмысленные) ответы на различные вопросы из широкого спектра областей знаний, относящихся к различному набору тематик. Таким образом, мы ожидаем от AGI, что с ним можно будет поговорить на любые темы.

«Можно предположить, что в течение следующих десяти лет системы ИИ значительно повысят уровень своих экспертных навыков в большинстве областей и смогут выполнять столь же продуктивную деятельность, какую сегодня выполняют крупнейшие корпорации. С точки зрения как потенциальных преимуществ, так и недостатков сверхразум будет более мощным, чем любые другие технологии, с которыми человечеству приходилось сталкиваться в прошлом.

По наблюдениям экспертов появление общего ИИ возможно в ходе дальнейшего совершенствования искусственных нейронных сетей. Впечатляющие результаты по обработке текстов показывают большие языковые модели ( LLM ), основанные на архитектуре искусственных нейронных сетей под названием Transformer .

«Последние версии ChatGPT/GPT-4 от компании OpenAI позволяют зафиксировать определённые технологические прорывы. Наконец-то „по-честному“ пройден Тест Тьюринга. Качество диалогов ChatGPT позволило ему всего за полгода выйти на аудиторию в 100 миллионов пользователей, большинство из которых находят ответы бота вполне „человеческими“. Более того, проведённое недавно испытание ChatGPT на IQ-тест в его текстовом варианте показало, что „интеллект“ бота в 155 Verbal IQ не просто существенно превышает средний уровень, но оказался выше, чем у 99,9% людей — участников тестовой группы в 2450 человек».