Что искусственный интеллект сделает с человечеством

Почему технологии ИИ стали так популярны?

Каждый рассказ строится вокруг проблем, которые возникают при взаимодействии человека и робота, причем в некоторых случаях эти проблемы вызваны именно тремя безупречными законами. И тем не менее совместное будущее машин и человека у Айзека Азимова получается довольно благополучным.

За громким названием «Алгоритм судного дня» прячется подробный рассказ об истории вычислительных машин, современных разработках, связанных с искусственным интеллектом, а также жутковатый и реалистичный прогноз до 2069 года. Вы узнаете о программе, способной генерировать и обучать дочерние нейросети, и разобщенных племенах ИИ из Китая и Северной Америки, каждое из которых развивается по своим правилам, а также представите, что будет, когда заработает цифровая кастовая система.

Человечество как вид уничтожено пятнадцать лет назад, мир поделен между двумя Едиными Мировыми Разумами, которые продолжают вести между собой войну за ресурсы. Роботу Неженке удалось сохранить независимость от главенствующих систем. Она, как и другие изгои, разыскивает на гигантском кладбище вышедших из строя машин, которое называется Море ржавчины, целые запчасти. Их она использует для торговли с другими одиночками. Но деталей мало, и в какой-то момент Неженка сталкивается с выбором: расстаться с собственной свободой или жизнью.

«Наделенная искусственным интеллектом система „Оценки и обучения в познавательных пространствах“ (Assessment and Lеarning in Knowledge Spaces) использует адаптивные вопросы, позволяющие быстро и точно определить, что именно знает и чего не знает ученик по программе курса. Далее ALEKS объясняет ученику темы, к восприятию которых он или она готовы в большей степени. По мере прохождения курса ALEKS проводит переоценку, обеспечивая надежное усвоение материала. Все это выливается в более гибкое обучение один на один со студентом и обеспечивает ученику заметный рост успеваемости. Что касается учителя, то ему ALEKS помогает преодолеть рутинную — и, давайте признаем, скучную — часть работы и по-настоящему сосредоточиться на работе с учениками», — приводят пример авторы.

Нон-фикшн генерального директора и старшего аналитика ведущей международной организации по прогнозированию и стратегическому планированию Future Today читается как технотриллер. Тем более что она предлагает сразу несколько вариантов будущего, некоторые из которых заканчиваются истреблением человечества.

Для реализации поставленных перед ними задач разработчикам нужны не только технические навыки, но и математические знания, логическое мышление, творческий подход, интуиция и коммуникативные способности – так называемые soft skills. Разработчикам также необходимо постоянно обучаться новым технологиям и тенденциям в области ИИ, так как она быстро меняется и развивается.

Сценарий 4. Искусственный интеллект станет человечным

Всего одна мелочь, но дальше события этой ироничной истории начинают двигаться в непредсказуемом направлении. А во второй части и вовсе доходят до последней стадии абсурда. Но самое удивительное, что люди, по сути лишенные выбора и свободы, не особо переживают по этому поводу и чувствуют себя счастливыми в своих информационных пузырях.

К научно-космической экспедиции, которая отправляется к одной из далеких планет, приставлен охранник-андроид Киллербот, запрограммированный на защиту экипажа и убийство врагов. Этот искусственный интеллект втайне от хозяев взломал свой модуль контроля и обрел независимость от людей. Теперь он абсолютно свободен, чтобы. нет, не убивать, а спокойно смотреть сериалы и кино.

По мнению авторов книги «Что делать, когда машины начнут делать все», новые возможности вычислительных систем и нейросетей не повод для тревоги. Это просто очередная индустриальная революция, к которой первыми адаптируются те, кто учится взаимодействовать с компьютерами и применять новые технологии в своих повседневных задачах. А что касается рабочих мест, то грамотных специалистов машины не заменят, но станут их верными помощниками.

Тем не менее, основной аргумент имеет смысл. Разумно разрабатывать рекомендации и меры безопасности для мощных ИИ-технологий. Если этого не сделать, фильмы «Матрица» и «Терминатор» могут когда-нибудь стать реальностью. В области ИИ необходима четкая стандартизация для повышения качества, безопасности, эффективности и совместимости ИИ-продуктов и услуг, а также укрепления доверия к ним со стороны пользователей и общества. Стандартизация в области ИИ также поможет решать этические, юридические и социальные вопросы, связанные с применением ИИ, такие как защита прав человека, приватности, справедливости и ответственности.

Как будет выглядеть конец света, если мир захватит искусственный интеллект, не раз показывали в фантастических фильмах. На самом деле роботы с оружием, как в «Терминаторе», — лишь один из возможных вариантов, а реальное истребление человечества может произойти по-разному.

В своей статье в журнале Time специалист по созданию дружественного ИИ Элиезер Юдковский, известный также как автор романа «Гарри Поттер и методы рационального мышления», подчеркнул, что ученые и исследователи могут даже сами не заметить, когда точка невозврата будет пройдена, а нейросети выйдут из-под контроля, и призвал отложить дальнейшие исследования на неопределенный срок.

Инженер и большой поклонник «Звездного пути» Боб Йоханссон мечтал своими глазами увидеть далекое будущее. Для этого он заключил договор с криокомпанией, чтобы та сохранила его мозг после смерти. Вот только за 117 лет, что его разум находился в заморозке, эта компания обанкротилась, а ее «клиенты» были проданы на аукционе. Бобу с его инженерным прошлым повезло: его оцифрованную личность, не имеющую тела, загружают в межзвездный корабль. И впереди у него — космос, невероятные приключения и неожиданные проблемы.

На примере Amazon, Google, Apple и Facebook* автор разбирает, как мечты о свободе и свободном выражении собственного мнения обернулись появлением навязанных привычек и стандартизацией мышления. Интернет, говорит Франклин Фоер, меняет человеческое сознание уже сейчас. Например, алгоритмы Facebook* и Instagram* управляют нашими эмоциями, подкидывая в ленту посты определенного содержания.