Ученые назвали искусственный интеллект иллюзией

Оглавление

В основе исследования лежит концепция истинного интеллекта, которая предполагает то, что человек и другие разумные существа способны к логическому анализу, в ходе которого разделяется важная и несущественная информация. Авторы работы отмечают, что понимание сути вопроса, умение игнорировать несущественные детали и фокусировать свое внимание на главном — ключевые характеристики интеллекта. Команда ученых предположила, что языковые модели, несмотря на их способность обрабатывать огромные массивы текстов, лишены такой способности.

Например, в рамках базового машинного обучения компьютер может научиться распознавать птиц на фотографиях. Обучаясь на фотографиях птиц и других животных или предметов, машина учится различать их, знакомясь с уникальными птичьими особенностями, такими как крылья и клювы.

Специалисты также отметили склонность LLM давать ответы, которые лишь выглядят правдоподобно, но в ходе более детального анализе оказываются неверными. Например, когда языковым моделям задают вопросы о том, что они «чувствуют», их ответы могут предполагать наличие сознания и чувств, хотя на самом деле они не обладают такими способностями. Это создает иллюзию осведомленности и разумности, хотя фактически речь идет лишь о статистической обработке текстов и выявлении шаблонов.

С чего же тогда началась история ИИ? Сама по себе идея роботов и автоматонов существовала еще во времена Древней Греции: созданная Зевсом искусственная женщина Пандора вполне попадает под определение ИИ. А вот реализовать эту идею люди впервые смогли не так уж давно — в XX в.

Хотя это не всегда очевидно, искусственный интеллект уже давно стал неотъемлемой частью повседневной жизни миллионов людей. Виртуальные помощники, такие как Siri и Alexa, являются яркими примерами того, как искусственный интеллект может поддерживать человека в самых разных сферах — хотя бы тем, что делает жизнь более удобной.

По своей сути искусственный интеллект — это способность машины или компьютерной системы выполнять задачи, для которых обычно требуется человеческий интеллект. Это включает в себя программирование систем для анализа данных, обучения на основе опыта и принятия разумных решений — под руководством человека. Наиболее известной формой ИИ являются виртуальные помощники, такие как Siri или Alexa, но существует множество разновидностей данной технологии.

С каждым годом мощь искусственного интеллекта лишь растет. Мы уже привыкли к тому, что поисковые сайты способны распознавать изображения и искать похожие, привыкли, что человек неспособен обыграть машину в шахматы. Нейросети научились рисовать, писать музыку. И хотя тексты машин пока еще не позволяют им пройти знаменитый «тест Тьюринга», кто знает, так ли много времени пройдет, прежде чем это случится?

Глубокое обучение позволяет сделать еще один шаг вперед. Продолжая пример с птицами, глубокое обучение может научиться распознавать не только основные черты птиц, но и такие сложные детали, как узоры на перьях, что сделает его намного более точным в идентификации птиц и даже позволит отделить орлов от голубей.

Что такое машинное обучение?

Все изменилось, когда в 1997 г. компьютер под названием Deep Blue одолел в шахматной битве чемпиона мира Гарри Каспарова* (*Настоящий материал (информация) произведен, распространен и (или) направлен иностранным агентом Каспаров Гарри Кимович либо касается деятельности иностранного агента Каспаров Гарри Кимович). Это пока еще не был полноценный обучаемый ИИ, компьютер просто перебирал ходы и выбирал наилучший. И все равно его победа была впечатляющей — с этого момента человек все сильнее начнет отставать от компьютеров в силе шахматного «гения».

Однако, когда на сцену вышел генеративный ИИ, такой как ChatGPT, его удивительная способность имитировать человеческие реакции и доступность для каждого, у кого есть компьютер, неожиданно вывели дискуссии о машинном обучении и соблюдении этических норм в публичную сферу. Такие понятия, как глубокое обучение, NLP и нейронные сети, просочились в повседневные профессиональные и даже личные разговоры.

Главное отличие ИИ от простого алгоритма, пример которого мы только что увидели, заключается в третьем пункте определения интеллекта — в «адаптивном поведении». Алгоритм обязан быть четким, точным, предсказуемым, состоять из конечного числа шагов для решения задачи. Интеллект же решает задачу непредсказуемо, меняясь в зависимости от разнообразных факторов.

Еще одна из ключевых этических проблем, связанных с ИИ, — это конфиденциальность. Поскольку системы искусственного интеллекта собирают огромные объемы данных из баз данных по всему миру, необходимо обеспечить защиту личной информации и ответственное ее использование. Например, технология распознавания лиц, часто используемая в системах безопасности или на платформах социальных сетей, вызывает вопросы о получении предварительного согласия и возможном неправомерном использовании.

По своей сути машинное обучение — это способность компьютерной системы обучаться на основе данных, не будучи явно запрограммированной. Одним из примеров является фильтрация спама в электронной почте. Обнаруживая схожие закономерности в спам-сообщениях, почтовые платформы могут узнать, какие письма полезны, а какие следует держать подальше от папки «Входящие».

Для тех, кто не знаком с компьютерными науками, попытка разобраться в многочисленных аспектах искусственного интеллекта и их последствиях может оказаться непосильной задачей. Здесь мы расскажем, что такое искусственный интеллект, как он работает, в чем разница между машинным обучением, глубоким обучением, обработкой естественного языка и многим другим. Давайте приступим.

Что такое нейронные сети и как они работают?

Глубокое обучение — это разновидность машинного обучения. Тем не менее, глубокое обучение может анализировать больше типов информации и выполнять более сложные операции. Процесс глубокого обучения вдохновлен структурой и функциями человеческого мозга — в частности, тем, как нейроны связаны между собой и работают вместе для обработки информации. Благодаря этому, глубокое обучение позволяет делать более тонкие и глубокие прогнозы на основе предоставленных данных.

Например, при обучении на непроверенных данных искусственный интеллект может копировать негативные предрассудки о расе, религии, воспитании и других характеристиках человека. Такие случаи могут стать потенциально опасными, если искусственный интеллект будет использоваться в здравоохранении, подборе персонала, юриспруденции и других сферах, ориентированных на человека.

Этим процессом «глубокого обучения» мы обязаны профессору Торонтского университета Джеффри Хинтону и его нейросети AlexNet, победительнице соревнования ImageNet по распознаванию изображений. В 2012 г. ей удалось определить содержимое тысяч изображений с ошибкой в 15% — немыслимый по тем временам показатель.

Система управления ИИ — это своего рода «мозг», на котором строится работа организации с проектами ИИ. Речь идет об установлении правил и методов, обеспечивающих ответственное и эффективное использование ИИ. Такая система помогает управлять всем — от оценки рисков до ответственного применения ИИ.

Искусственный интеллект, способный синтезировать, анализировать и действовать на основе огромных объемов данных за считанные секунды, является чрезвычайно мощным. Как и в случае с любой другой мощной технологией, очень важно ответственно подходить к ее внедрению, чтобы максимально использовать ее потенциал и при этом минимизировать негативные последствия.

Обеспечение ответственного подхода к разработке ИИ имеет решающее значение для его безопасного, надежного и этичного развития. Но как можно решить вопросы прозрачности и объяснимости в контексте ответственного использования ИИ? Подробно данные понятия рассмотрены в нашей статье о создании ответственного искусственного интеллекта.

Следующим шагом на пути развития ИИ стал перцептрон. В конце 1950-х гг. психолог-исследователь Фрэнк Розенблатт создает, по сути, первую нейросеть. Сетка светочувствительных элементов, соединенных проводами с банками узлов, содержала электромоторы и поворотные резисторы. Розенблатт разработал «перцептронный алгоритм», управлявший сетью, которая постепенно подстраивала силу входных сигналов так, чтобы в итоге правильно идентифицировать объекты, — она обучалась, то есть была самым настоящим ИИ.

Международные стандарты в области искусственного интеллекта представляют собой основу для ответственного и этичного использования технологий ИИ. Они охватывают такие области, как конфиденциальность, предвзятость, прозрачность и подотчетность. Придерживаясь подобных стандартов, организации могут обеспечить справедливость, прозрачность и соблюдение этических принципов в своих системах ИИ.