Как изменится жизнь человека в эпоху искусственного интеллекта

Искусственный интеллект в сфере финансов

Оценивая актуальное состояние российских разработок в области искусственного интеллекта, руководитель службы компьютерного зрения и технологий искусственного интеллекта «Яндекса» Александр Крайнов отметил, что уровень лучших нейросетевых моделей российских компаний отстает от разработок мирового лидера, компании Open AI, не более, чем на 7-8 месяцев.

Сегодня для обучения больших языковых моделей требуются колоссальные вычислительные ресурсы. Поэтому настоящим вызовом для российской ИИ-индустрии в условиях санкционного режима стала потребность в новых вычислительных мощностях. Директор по аналитике АНО «Цифровая экономика» Карен Казарян считает, что в 2022 году российские компании с решением этой задачи успешно справились, причем во многом за счет параллельного импорта. По данным Российской ассоциации электронных коммуникаций (РАЭК) в прошлом году рынок облачной вычислительной инфраструктуры (IaaS, PaaS), той самой, которая необходима для обучения нейросетевых моделей, вырос на 52% по сравнению с 2021 годом и составил 258,9 млрд рублей. При этом, по словам Казаряна, скоро ожидается ввод в строй новых, уже строящихся, дата-центров.

«Черный вторник» наглядно продемонстрировал важность того, что в информатике принято называть валидацией: если при тестировании задается вопрос: «Правильно ли построена система?», то при валидации вопрос ставится так: «Правильная ли система построена?». Например, не строилась ли система исходя из предпосылок, которые не всегда могут быть действительными? Если это так, то каким образом можно улучшить ситуацию с неопределенностью?

«фаб-лабах» — материализуют свои идеи. Но чем больше роботов нас окружает, тем важнее, чтобы их программное обеспечение подвергалось всесторонней проверке — тестированию и валидации. Первым человеком, которого, как известно, убил робот, был Роберт Уильямс, рабочий на заводе «Форд» в городе Флэт-Рок штата Мичиган. В 1979 году вышел из строя робот, который должен был доставлять запчасти со склада, и Роберт Уильямс отправился за запчастями сам. Внезапно робот бесшумно заработал и разбил ему голову, и продолжал бить его об стену в течение 30 минут, пока другие рабочие не узнали о происшедшем. Следующая жертва робота — Кэндзи Урада, инженер-эксплуатационник с завода «Кавасаки» в японском городе Акаси. В 1981 году, занимаясь сломанным роботом, он случайно задел выключатель и был насмерть раздавлен гидравлической рукой робота. В 2015 году 22-летний подрядчик на одном из заводов «Фольксваген» в немецком Баунтале собирал робота, способного подбирать автомобильные запчасти и устанавливать их на место. Но что-то случилось, и робот схватил его самого и раздавил насмерть об металлическую плиту.

В издательстве Corpus выходит книга шведско-американского физика и космолога, профессора Массачусетского технологического института Макса Тегмарка «Жизнь 3.0» на русском языке. В ней автор рассуждает о переменах, которые принесет в жизнь людей появление на Земле сверхразумного искусственного интеллекта, и рассматривает его возможные преимущества и недостатки — от появления большого количества новых технологий до самых непредсказуемых последствий. Публикуем одну из глав.

Тестирование исключительно важно и для финансового программного обеспечения, в чем американская фирма «Knight Capital» могла убедиться на своем горьком опыте 1 августа 2012 года, потеряв 440 миллионов долларов за 45 минут после установки непротестированного продажного «софта». Знаменитый триллиондолларовый обвал 6 мая 2010 года, известный как «Черный вторник» или «Flash Crash», заслуживает особого внимания по другой причине. Хотя в этот день на протяжении получаса шли массовые компьютерные сбои, во время которых цены на акции некоторых крупных компаний, вроде «Procter & Gamble», колебались от пенни до 100000 долларов США, проблема была вызвана не «глюками» в программах и не ошибками в работе компьютеров, которые можно было бы выявить с помощью тестирования. Причина заключалась в обманутых ожиданиях: автоматизированные продажные программы многих компаний должны были работать в непредвиденной ситуации, когда предпосылки их работы оказались неверны — например, неверной оказалась предпосылка о том, что, если фондовый компьютер сообщает цену акции в один цент, то это означает, что цена акции действительно один цент.

Нейросети и чат-боты окажут колоссальное влияние на мировую экономику, общественную жизнь, рынок труда и улучшат качество жизни большинства населения Земли. Вывод, к которому пришли эксперты в области искусственного интеллекта на российском интернет-форуме (РИФ 2023), отличается от прогнозов большинства футурологов, публицистов и писателей в жанре научной фантастики.

Одной из главных проблем мирового развития ИИ-отрасли на РИФ 2023 назвали механизм разработки законодательства и регулирования ИИ, которым, как правило, занимаются люди, плохо представляющие себе, что такое нейросети, как они работают, что могут и что не могут.

Искусственный интеллект для космических исследований

Первые b2b-решения на базе ИИ сегодня уже частично заменяют рабочие функции младших-специалистов, что вызывает опасения некоторых HR-экспертов. По их мнению, это может нарушить привычную цепочку карьерного роста: младший — средний — старший специалист — руководитель. С таким мнением не согласился директор по развитию платформы «Авито Работа» Дмитрий Пучков: «В рабочих процессах скорее всего не поменяется ничего, кроме того, что младшим специалистом станет считаться тот, кто сегодня работает на средней позиции. Просто повысится базовый уровень требований к вакансиям. Никаких драматических изменений не произойдет. Такие процессы происходили уже не раз. Например, 25 лет назад бухгалтер, владеющий ПК и умеющий работать с офисными и бухгалтерскими программами, считался весьма серьезным специалистом, а сегодня это базовый навык, без которого невозможно устроиться ни на одну позицию в бухгалтерии».

Нет необходимости говорить, что искусственный интеллект открывает большие возможности для улучшения производства, управляя роботами, использование которых повышает эффективность и точность. Неустанные в своем совершенствовании 3D-принтеры могут теперь создавать прототипы всего чего угодно, от офисных зданий до микромеханических устройств размером с крупицу соли. В то время как огромные промышленные роботы строят автомобили и самолеты, компактные и недорогие фрезерные станки с компьютерным управлением и другие подобные им устройства благодаря их доступности попадают не только на крупные заводы, но их могут себе позволить и тысячи частных энтузиастов, «мейкеров», по всему миру, которые в своих маленьких коммунальных мастерских —

Хотя каждое подобное событие — трагедия, важно отметить, что они составляют ничтожно малую часть всех несчастных случаев на производстве. Более того, общее их число сократилось с развитием технологий, а не выросло: в США их количество составило 14000 смертей в 1970 году и 4821 в 2014 году. Все три вышеупомянутых трагедии показывают, что добавление интеллекта неразумным машинам должно способствовать дальнейшему росту промышленной безопасности, если научить роботов осторожнее вести себя по отношению к людям. Всех трех аварий можно было бы избежать, если бы была использована валидация: роботы причинили вред не из-за «глюков» и не по причине своей злобы, а просто потому, что предпосылки их работы оказались не валидны: что людей тут нет или что люди — это разновидность запчасти.

С результатами этого исследования категорически не согласился ни один российский эксперт, принявший участие в обсуждении этой проблемы. Все они пришли к прямо противоположному выводу. По их мнению, массовое использование ChatGPT и аналогичных чатботов лишь увеличит потребность в разнообразных специалистах, как увеличило их в свое время появление станков, железных дорог, конвейерных роботизированных линий сборки, интернета и мобильной связи. При этом, они согласились с тем, что ИИ-продукты изменят рынок труда и принципы найма сотрудников, особенно тех специалистов, которые работают в постоянно изменяющейся среде, например, в IT-отрасли или в креативных профессиях, где требуется постоянное переобучение, а старые знания и навыки быстро устаревают. Арт-директор студии Артемия Лебедева и нейросети «Николай Иронов» Сергей Кулинкович, считает, что в будущем одним из основных требований при найме новых сотрудников станут скорость мышления и способность быстро осваивать новые и инструменты технологии.

Урок, который мы можем извлечь из всех этих историй, — о важности того, что принято называть тестированием, или проверкой программного обеспечения, задача которого заключается в том, чтобы установленный «софт» полностью отвечал всем необходимым требованием. Чем больше жизней и ресурсов поставлено на карту, тем выше должна быть наша уверенность в том, что программное обеспечение будет работать как надо. К счастью, искусственный интеллект может помочь автоматизировать и улучшить процесс тестирования. Например, ядро универсальной операционной системы seL4 недавно было подвергнуто всесторонней математической проверке, чтобы дать надежную гарантию от обрушений системы и выполнения команд, угрожающих безопасности. И хотя у нее еще нет таких же бантиков, как у MS Windows или у MacOS, работая с ней, вы можете быть уверены, что не увидите ни «синего экрана смерти», ни «радужного колеса судьбы». Агентство перспективных исследований министерства обороны США (DARPA) профинансировало разработку серии высоконадежных программных средств для кибер-военных систем с открытым источником (HACMS), каждое из которых проверяемо надежно. Чтобы ввести такие средства в широкое обращение, надо сделать их достаточно мощными и простыми в использовании. Еще одна сложность заключается в том, что тестирование программного обеспечения должно будет проводиться при переносе его в роботов или какие-то другие новые среды, а само традиционное программное обеспечение будет заменяться системами с искусственным интеллектом, которые способны учиться, а следовательно, изменять свое поведение, как говорилось в главе 2.

Финансы — это еще одна область, которая была преобразована информационной технологией, позволяющей эффективно перераспределять ресурсы по всему миру со скоростью света и обеспечивать доступное финансирование для всего на свете — от ипотечных компаний до стартапов. Прогресс в развитии систем с искусственным интеллектом, вероятно, предоставит в будущем еще большие возможности для получения прибылей в финансовых сделках: большинство решений о продаже/покупке акций на фондовых рынках сейчас принимаются компьютерами автоматически, и моих выпускников из MIT каждый год искушают астрономическими стартовыми окладами, предлагая поработать над улучшением продажных алгоритмов.

«Конкурентное преимущество России в ИИ-разработке может заключаться в создании экспериментальных правовых режимов для использования искусственного интеллекта. Важно не пытаться регулировать сферу использования ИИ еще того, как его начали использовать. Как только начинается жесткая регуляторика, инициированная популизмом, такая как в некоторых европейских странах — это прямой путь к проигрышу в конкуренции на рынке ИИ», — говорит Крайнов.

Примером такого непонимания служит одно из самых тиражируемых утверждений, что искусственный интеллект оставит без работы миллионы людей. Согласно исследованию банка Goldman Sachs дальнейшее развитие моделей уровня GPT-4 приведет к сокращению на 25% потребностей в рабочей силе в США и Европе, а также к полной автоматизации 300 млн. текущих рабочих мест во всем мире.