Содержание статьи
Чем опасен для человечества искусственный интеллект
Италия запретила доступ к ChatGPT
Такое будущее уже не выглядит сюжетом фантастического рассказа. Во всяком случае, ведущие страны делают ставку на нейросети, заявляя: кто будет лидером в этой сфере, тот будет править миром. Поэтому принимаются национальные программы, выделяются огромные деньги в надежде, что нейросети помогут решать задачи развития государства, которые уже настолько сложны, что мозговые штурмы не могут найти оптимальные ответы. Словом, сейчас ИИ наше все.
С другой стороны, очень важный навык — это уметь сформулировать задачу и разложить ее на составляющие. Мы уже говорили об этом. Чтобы сформулировать задачу, нужно ее понять и передать вашему помощнику так, чтобы он тоже понял, что вы от него хотите. Это очень важная задача. Она в принципе нужна по жизни.
Проектно-учебная лаборатория экономической журналистики НИУ ВШЭ проводит серию интервью, посвященных тому, как технологии машинного обучения и анализа данных применяются в современных экономических исследованиях, развитии науки, финансовых институтов и подготовке специалистов для разных отраслей экономики.
— Некоторые задачи, особенно когда у вас большие массивы данных, человеку обработать вручную очень сложно. Нужно использовать машинные методы и алгоритмы — не только из-за времени, но в том числе и из-за масштабов исследований. Исследователи, которые прибегают к помощи машин, конечно, имеют преимущество, потому что они приобретают разные возможности, которые позволяют им решить задачу проще и быстрее.
— Конечно же, есть вызовы, которые нас немного сдерживают в применении этих методов. Почему, например, мы хотим параллельно использовать альтернативные методы исследований? Потому что те же нейросети — это черный ящик для нас. Часто исследователи используют уже готовые алгоритмы, мы не всегда понимаем, как они работают и насколько достоверный дают результат. Это очень хорошо прослеживается на текущих примерах чатов вроде ChatGPT, GigaChat Сбера или Yandex GPT: когда мы делаем какие-то запросы в них, информация, которая выдается, часто может быть неправдоподобной — в зависимости от словарей, на которых нейросеть обучается. Программисты называют это рисками галлюцинаций. Наша задача в том числе — уметь различить, где искусственный интеллект нагло врет, а где говорит правду.
С появлением нейросетей искусственный интеллект стал неотъемлемой частью нашей жизни, в том числе профессиональной. У исследователей появилось больше данных и больше возможностей их изучать, передав часть рутинных функций искусственному интеллекту. О том, как ИИ и машинное обучение повлияли на экономические исследования и студентов-экономистов, рассказала профессор НИУ ВШЭ, академический руководитель образовательной программы «Экономический анализ» Елена Вакуленко.
Сформулировать задачу и разложить ее на составляющие
— В своих последних работах мы использовали машинное обучение для анализа и прогнозирования миграции с помощью цифрового следа в сети «Интернет» на основании статистики поисковых запросов, то есть того, что люди запрашивают в интернете относительно разных тематик. Есть уже агрегированная статистика — в нашем случае это Google Trend Index и «Вордстат» (статистика «Яндекса». — Ред.), которые представляют индексы по ключевым словам или по тематикам за определенный промежуток времени и показывают соответствующую динамику запросов. На основании этих динамик можно пытаться прогнозировать миграцию.
Еще одной причиной ограничения стало то, что формально ChatGPT предназначен для пользователей старше 13 лет, но на практике бот не фильтрует их по возрасту. У ChatGPT есть 20 дней, чтобы ответить на претензии и провести работу над ошибками. Иначе создателям будет грозить штраф до 20 млн евро, или до 4 процентов от годового оборота во всем мире.
Теперь это наша реальность. Мы понимаем, что искусственный интеллект активно внедряется в образовательный процесс. Наши студенты им активно пользуются при выполнении своих домашних заданий, при написании эссе, при решении задач, при написании кодов. Современные чаты — Yandex GPT и Giga Chat от Сбербанка — уже могут в том числе писать программные коды. И это для нас тоже некоторый вызов: ребята вроде как не сами что-то делают, а за них кто-то выполняет работу. Мне кажется, здесь совет студентам такой: используйте сервисы искусственного интеллекта все-таки как средства для перепроверки, чтобы посмотреть, как он размышляет на эту тему. Но всегда стоит попробовать самостоятельно разобраться в проблеме, иначе вам просто будет сложно контролировать процесс.
— В области искусственного интеллекта должна быть очень серьезно прописана законодательная база. Во-первых, важно учесть, что наиболее активно он развивается в сфере «оборонки». Вторая серьезная задача связана с фреймворками (открытыми базами данных), куда разработчик «складывает» свои программные опции, которые можно использовать для нейронных сетей.
Факультеты экономических и компьютерных наук ВШЭ реализуют образовательную программу бакалавриата «Экономика и анализ данных» с целью подготовки высококлассных специалистов в области математики, программирования и анализа данных, которые имеют при этом фундаментальные знания в сфере экономики и финансов.
Итальянское управление по защите персональных данных первым в мире ввело временное ограничение на использование чат-бота ChatGPT на территории страны. Регулятор обвинил разработчика в нарушении законодательства о персональных данных после произошедшей утечки. В результате массового сбоя ряд пользователей смогли увидеть сообщения людей, общавшихся с чат-ботом, а также их имена, фамилии, электронные адреса и платежную информацию платных подписчиков сервиса, включая последние четыре цифры и сроки действия кредитных карт.
— В современных экономических моделях применяются всевозможные и всеразличные методы анализа данных — все зависит от той задачи, которую вы решаете. Так, например, очень успешно показала себя эконометрика, которая применяется в тех случаях, когда нам нужно оценить эффекты воздействия, раскрыть причинно-следственную связь между переменными и понять, какая из переменных есть причина, а какая — следствие. В случаях же, когда мы говорим о задачах прогнозирования, очень хорошие результаты показывают уже методы машинного обучения. И здесь, в зависимости от задачи, могут быть разные подходы.
И этот призыв авторов письма в первую очередь не к политикам, а к коллегам, разработчикам ИИ. Нельзя продолжать эту сумасшедшую бесконтрольную гонку в никуда. Давайте сделаем паузу, чтобы те блестящие умы, которые создают такие мощные интеллекты, остановились и договорились о новых правилах игры. Цель — сделать ИИ, который будет работать только на пользу, а не во вред человеку.