Искусственный интеллект уже к 2027 году может превзойти людей

Сегодня рынок искусственного интеллекта является самым быстрорастущим в мире. Согласно прогнозам исследовательской компании Statista, c 2024 по 2030 год мировой рынок ИИ будет расти со скоростью 28,46% в год. А по мнению заместителя председателя правительства РФ Дмитрия Чернышенко, экономический эффект от внедрения искусственного интеллекта увеличит ВВП России к 2030 году на 11 трлн руб. Главным вызовом для большинства исследователей и разработчиков ИИ стал вопрос создания AGI (Artificial general intelligence) — так называемого общего искусственного интеллекта. Точное определение AGI еще не сложилось, но большинство экспертов определяет его как ИИ, который соответствует или превосходит человеческие возможности в широком спектре когнитивных задач. Именно это, по мнению директора управления экспериментальных систем машинного обучения SberDevices Сергея Маркова, отличает AGI от существующих сегодня нейросетевых моделей. «Пчела найдет оптимальный маршрут в улей быстрее и лучше, чем это сделал бы человек, хотя в ее нервной системе несколько сотен тысяч нейронов, а у человека восемьдесят шесть миллиардов. Уже сегодня мы можем взять почти любую простую задачу и сделать систему, которая решит ее лучше человека. А вот AGI, или общий искусственный интеллект, — это универсальная система, которая сможет решать неизвестные ей ранее задачи. И к созданию таких систем мы сейчас только приближаемся», — отмечает Марков. Эксперты из института Epoch AI проанализировали все прогнозы профессиональных исследователей относительно того, когда человечество создаст AGI. Вероятность создания общего искусственного интеллекта к 2030 году оценивается ими в среднем в 25%, к 2050 году — в 57%, к 2100 году — в 88%. При этом руководитель научных исследований обработки естественного языка в лаборатории T-Bank AI Research Даниил Гаврилов считает, что общий ИИ может появиться раньше. Он отмечает, что и аналитики, и разработчики, делая прогноз в 2021 году о качестве нейросетевых моделей к 2022 году, ошиблись более чем в два раза в меньшую сторону. «Нам очень тяжело думать об экспоненциальном росте, а именно так сейчас развиваются большие языковые модели. Такая скорость тяжело укладывается в голове, поэтому те предсказания, которые мы слышали, оказались более пессимистичны, чем реальность. Если экстраполировать текущую скорость развития ИИ, то уже к 2027 году мы получим если не полноценный AGI, то что-то качественно иное относительно того, что мы имеем сейчас», — считает Гаврилов. Согласно данным Epoch AI, сегодня существуют несколько разнонаправленных трендов, которые будут влиять на скорость развития ИИ в ближайшие годы. Так, производительность «железа», которое требуется для обучения и работы нейросетей, удваивается каждые 2-3 года. А переход на новые тензорные ядра в графических процессорах NVIDIA привел к одномоментному 10-кратному росту производительности. Среди негативных факторов, тормозящих развитие ИИ, эксперты Epoch AI выделяют дефицит данных для обучения ИИ. Согласно их прогнозам языковые модели полностью израсходуют запас публичных данных, размещенных в интернете, между 2025 и 2032 годами. Для дальнейшего обучения нейросетевых моделей потребуется использовать синтетические данные, то есть сгенерированные ИИ. Таким образом, искусственный интеллект начнет обучать себя сам. А вот к каким последствиям это приведет, сегодня не может предсказать ни один эксперт.

При этом системы управления оружием, обладающие ИИ, широко применяются в комплексах противоракетной (ПРО) и противовоздушной обороны (ПВО) для ускорения обработки данных, поступающих от средств контроля воздушно-космической обстановки и предупреждения о ракетном нападении, а также в автоматическом управлении средствами обороны. После создания гиперзвуковых средств, когда время для принятия решения существенно сокращается, вопрос об использовании ИИ для ускорения анализа информации стоит еще более остро.

В декабре 2023 г., на сайте The Guardian была опубликована информация о том, что армия обороны Израиля ЦАХАЛ подтвердила использование системы искусственного интеллекта «Евангелие» («Хабсора», The Gospel) для выбора целей при нанесении ударов по ХАМАС в секторе Газа в ходе текущих военных действий. [3]

Отсутствие отлаженного международного механизма отслеживания, управления и контроля в отношении технологий ИИ может привести к возникновению новых очагов конфликта по всему миру. Поэтому тема создания на базе ООН органа, который мог бы разработать глобальные стандарты по регулированию сферы ИИ, стала одной из важнейших в 2023 г. С призывом создать такую структуру на первом в истории заседании Совета Безопасности ООН по теме искусственного интеллекта 18 июля 2023 г. выступил Генеральный секретарь ООН Антониу Гутерриш. [1] По его словам, это может быть специализированное учреждение, такое как Международное агентство по атомной энергии, Международная организация гражданской авиации или Межправительственная группа экспертов по изменению климата. Исходя из того, что новые угрозы от технологий ИИ уже напрямую связаны с проблемами войны и мира, логично, что лидирующую роль в вопросах регулирования применения ИИ должен играть Совет Безопасности ООН.

Наряду с несомненными позитивными возможностями ИИ лавинообразно растут риски и угрозы, связанные с его применением. При этом и военные, и невоенные методы применения ИИ в целях совершения террористических актов, преступлений и кибератак, в том числе проводимых государственными акторами, могут привести к серьезным вызовам глобальному миру и безопасности.

Тема искусственного интеллекта (ИИ) стала одной из главных в международной повестке дня 2023 г. ИИ стремительно завоевывает рынок и пользуется все большей популярностью во многих сферах жизни людей, а также может оказывать существенное влияние на текущие геополитические процессы.

По разным источникам ИИ генерирует от 100 до 500 целей в день. Далее они проверяются дежурным командиром подразделения ЦАХАЛ, который принимает окончательное решение о нанесении ударов. Однако возможность человека качественно проанализировать такое большое количество целей и при этом адекватно оценить риск для мирного населения, вызывает сомнения.

Это очень большие массивы данных, которые ИИ обрабатывает в тысячи раз быстрее человека и генерирует намного больше целей. В начале ноября в ЦАХАЛ рассказали, что было выявлено более 12 тыс. мишеней для ударов в секторе Газа. Можно предположить, что сегодня их вдвое больше.

Исходя из необходимости эффективного управления ИИ на глобальном уровне, 26 октября 2023 г. Генеральный секретарь ООН Антониу Гутерриш официально объявил о создании Консультативного органа по искусственному интеллекту, главной задачей которого будет поддержка усилий международного сообщества по управлению ИИ и, в частности, анализ связанных с его использованием рисков и возможностей. «ИИ может помочь преодолеть препятствия на пути к достижению ключевых целей развития, но это зависит от того, будут ли технологии ИИ использоваться ответственно и всеми, включая развивающиеся страны, которым необходимо срочно ускорить устойчивое развитие». [4] Новая инициатива будет способствовать формированию инклюзивного подхода, опираясь на объединяющую роль ООН как универсального глобального форума. В состав Консультативного органа по ИИ войдут представители более 30 стран мира из государственных структур, частного и неправительственного секторов, научно-исследовательской сферы. Таким образом, роль научно-исследовательского сообщества из различных научных областей в процессе разработки, изучения, анализа и прогноза развития и влияния технологий ИИ на проблемы мира и войны существенно повышается.

При этом ИИ уже входит в перечень технологий, навсегда меняющих облик войны и мира, и способен придать абсолютно новое содержание военно-экономической мощи государства, так как активно используется в самых передовых областях: космической отрасли, практически во всех военных сферах, в том числе в системах управления.

По открытым данным, армия Израиля уже давно внедряет технологии ИИ в свою работу. Подразделение цифровой трансформации ЦАХАЛ использует несколько моделей ИИ для расчета боекомплекта при нанесении ударов, составления графика ударов, а также для выбора целей для авиа- и ракетных ударов.

Искусственный интеллект (ИИ), базирующийся на больших языковых моделях (Large Language Model) и машинном обучении, в публичном поле появился всего два с половиной года назад. Но за короткое время он успел стать технологией, оказывающей заметное влияние на развитие экономики и формирование новых рынков.

Однако существует опасность того, что ИИ будет поставлен на службу при принятии любых стратегических военных решений. Эти технологии могут усугубить возникающие проблемы стратегической стабильности уже в ближайшие годы, даже если предположить, что темпы технического прогресса будут достаточно скромными. Поэтому большинство исследователей во всех ядерных державах исключают полное доверие системам с ИИ в вопросах применения ядерного оружия.

Однако факты доказывают обратное: по данным министерства здравоохранения Палестины, подконтрольного ХАМАС, с 7 октября в секторе Газа погибло уже более 20 тыс. мирных жителей, а более 50 тыс. человек получили ранения. Кроме того, речь идет о масштабных физических разрушениях в Газе, огромные территории просто сравняли с землей. По данным организаций по защите прав человека, на сектор Газа было сброшено более 25 тыс. тонн взрывчатки. Поэтому многие эксперты сомневаются в эффективности системы. При этом Израиль многократно заявлял, что его главной целью является полное уничтожение ХАМАС. Если предположить, что именно эта основная цель была заложена в программу ИИ, тогда, может быть, с точки зрения армии Израиля, система эффективна. Все зависит от того, какие исходные данные, направленные на сохранение гражданского населения, были заложены разработчиками системы ИИ. Кроме того, надо помнить, что ИИ не является на данном этапе абсолютно идеальной системой. Неизбежно очень большое количество ошибок.