Нейросети без цензуры: какие LLM ответят на любые вопросы

Похожие темы научных работ по СМИ (медиа) и массовым коммуникациям , автор научной работы —

И если раньше каждый из людей/сообществ мог самостоятельно определить для себя, какие из новомодных тенденций принимать, а какие — игнорировать, то в связи с трансфером общения и коммуникаций в единые цифровые среды (соцсети и пр.) появилась возможность масштабной цензуры. По решению десятка крупнейших компаний допустимо «отправить в бан» (жестко цензуриро-вать) любые нежелательные идеи и темы для обсуждений. То есть пространство, в котором мы можем договариваться и находить общий язык (а это почти всегда именно текстовое пространство), оказывается кастрировано и отформатировано под видение узкой группы лиц, принимающих решения в отношении остальных людей. Нежелательные по тем или иным причинам темы «стираются» полностью из цифрового пространства, иногда вместе с самими цифровыми субъектами (удаление аккаунтов). Причем нужно понимать, что подобной цензуре могут подвергаться не только текстовые публичные высказывания, но и любые изображения (например, в Facebook регулярно под запретом оказываются произведения искусства, касающиеся эротики и смерти), аудио-и видеоматериалы (не только публичные, но и в рамках частной переписки). О подобных инструментах контроля за идеями могли только мечтать авторитарные правители прошлого.

Первая проблема состоит в том, что существующие определения из философии, компьютерных и когнитивных наук, как правило, предельно абстрактны — и одновременно расплывчаты. Они связывают ИИ с проектом по воспроизведению и улучшению того, как мыслит и решает задачи человек, притом, что современная наука не очень хорошо (скажем мягко) понимает, как это происходит. Данный подход к определению фиксирует цель и идеологию разработок в области ИИ,

2. Что определяет развитие цифровых технологий и ИИ для государства, бизнеса, повседневных практик? Нам представляется, что, несмотря на все «прелести» и преимущества цифровой трансформации и интернет-технологий (в первую очередь, улучшение условий жизни людей), ключевую роль в организации трендов развития ИИ будет играть управление и принятие стратегических решений.

Да, безусловно. Новый виток «цифровизации» общества (digital transformation) предполагает и даже требует использования технологий искусственного интеллекта. С одной стороны, все больше агентов ИИ действует онлайн: в виде ботов, в виде сортирующих и направляющих алгоритмов, опосредующих сетевые взаимодействия; c другой стороны, все больше технологий ИИ для эффективной работы нуждается в доступе к данным, накопленным в онлайн-среде.

Подтверждение данному тезису мы находим в данных опросов россиян за 2019 год. На вопрос «Слышали ли Вы ранее или сейчас впервые слышите о технологиях искусственного интеллекта? Если слышали, то как бы Вы объяснили, что это?» всего 25 % россиян ответили, что впервые о них слышат, однако объяснить, что такое ИИ, решились лишь 29 % респондентов. На тот же вопрос отвечали предприниматели, и уже 77 % из них могли объяснить, что они понимают под

Если Матрица представляется как некая демоническая кибер или гиперреальность, продуцирующая разные формы «неподлинного бытия», симулякров и симуляций, нечто искусственное, сотворенное, то возникает вопрос о ее генезисе и месте дислокации. Самым наивным ответом может стать интерпретация Матрицы как продукта чьей-то злонамеренной воли, индивидуальной или коллективной, и это прямая дорога к объяснениям в духе теорий заговора (миром посредством Матрицы правят кукловоды, влиятельная закулиса, те или иные элитные группы). Этот ответ не только наивен, но и условно оптимистичен, поскольку предполагает возможность победы над «злыми» силами через их устранение силами «добра» (типичный сюжет для фантастических фильмов с хэппиэндом). Сложнее обстоит дело, если предположить депер-сонифицированный характер Матрицы, анонимность ее власти: она везде и нигде конкретно. Даже если она и создана кем-то и когда-то, она работает в машинной логике, в соответствии с принципами абстрактной, инструментальной рациональности.

Говоря о трендах цифровизации, развития технологий ИИ и — особенно — их влияния на общество, крайне важно сделать акцент на одном из аспектов, который часто упускается из поля внимания. Поток информации, который создается и становится доступным для отдельного человека, уже не просто кратно, а на порядки превышает его способность к осознанному восприятию. Вследствие этого практически 100 % информации, которую мы потребляем в цифровой среде (будь то соцсети, поисковик Google или

1. В ближайшей и среднесрочной перспективе (до 15 лет) «цифра будет править бал», но — и это самое главное, — «бал этот будет человеческим», то есть не алгоритм, не роботы, но люди будут играть на балу первую скрипку. Суть дела в том, что цифровые технологии ускоряют, увеличивают, усиливают, но не заменяют человека. Современные компьютерные приложения и перспективные разработки технологий ИИ обеспечивают быстроту и точность. Решения пока остаются в руках человека.

Что такое ИИ-модель без цензуры

Чрезмерная настройка модели может негативно сказаться на ее возможностях. Это явление называется alignment tax. Когда модель проходит несколько эталонных тестов с участием людей, которые пытаются сделать модель максимально согласованной и политически корректной, она теряет значительную часть своей производительности. Во многом это происходит из-за обучения с подкреплением и человеческой обратной связью (RLHF).

способ, которым ваша организация будет стремиться отличаться от конкурентов в следующие пять лет?», почти 45 % респондентов так или иначе использовали в своих ответах неуловимый термин «клиентский опыт», или CX. И только 28 % ответили, что это будет «качество продукта или услуги». Данный тренд начал проявляться пять-семь лет назад, и сегодня только усиливается. Если тогда внимание было привлечено к тем, кто обеспечивал удовлетворение и дизайн «опыта потребителя» («user experience» («UX»)), то сегодня этого недостаточно: для успешного продвижения на рынке компании активно привлекают именно CX-аналитиков/дизайнеров14.

Сегодня активно обсуждается возможность использования личной информации для медицинских целей. Например, ученые из Университета Восточной Англии (University of East Anglia — UEA) разработали приложение для смартфона, которое позволяет узнать, как долго человек может прожить и в каком возрасте умрет. Приложение было протестировано на выборке более 100 тыс. человек старше 60 лет и учитывает более 600 параметров8. Пользователь, доверяя свою сугубо личную информацию машине, может посчитать, сколько ему осталось. Принципиальным является указание на то, что «любая вводимая вами информа-

Цифровизация и (как один из ее элементов) технологии искусственного интеллекта активно развиваются в бизнесе, и прогнозируется еще большее их развитие в среднесрочной перспективе. В пятилетней перспективе в каждой четвертой российской компании планируется внедрение прогнозного анализа, 34 % будут использовать анализ изображений, столько же компаний планируют использовать виртуальных помощников и обработку запросов на естественном языке. Взрывной рост ожидается в двух областях: самоуправляемые механизмы, например, беспилотный транспорт (с 9 % до 24 %) и робототехника (с 8 % до 17 %)4. Последние активно проявили себя в период пандемии, в ситуации необходимости минимизации физических контактов, когда дроны доставляли продукты и лекарства в больницы Китая, а роботы-помощники помогали соблюсти регламенты чистоты в итальянских больницах. На самом деле не только предприятия, но каждый житель России уже почти ежедневно сталкивается с подобными технологиями, просто не акцентирует внимание на природе алгоритмов: использование навигатора для оптимизации маршрута, рекомендательные сервисы по подбору книг и других покупок в онлайн-магазинах, аналитика систем лояльности брендов. Все это приводит нас к более широкому и массовому применению различных технологий искусственного интеллекта, к росту интереса со стороны пользователей, но не ведет к массовому их внедрению.

Общественные науки, как в нашей стране, так и за рубежом, пока находятся на дальних подступах к определению концептуального аппарата, теоретико-методологических оснований, механики эмпирического изучения и измерения цифровизации и искусственного интеллекта. Обратим внимание, что наряду с точечной активностью индивидуальных авторов в России постепенно оформляются институциональные лидеры, которые вкладывают интеллектуальные, организационные и финансовые усилия в выработку систем координат изучения искусственного интеллекта и цифровизации. В академической среде это, например, Высшая школа экономики, журнал ВЦИОМ «Мониторинг общественного мнения: экономические и социальные перемены» (МОМ), СПбГУ (Лаборатория когнитивных исследований).

Возможности данных и социального анализа традиционно считались отдельными объектами и управлялись соответствующим образом. Мы полагаем, что именно развитие ИИ с необходимостью ведет к усилению сотрудничества между исторически разделенными ролями данных/информации и социального анализа. Накопление данных само по себе вещь важная, безусловно, необходимая, но без анализа накопление данных будет оставаться «неполной процедурой» в системе социальных наук, анализирующих процессы цифровой трансформации и развития технологий искусственного интеллекта.