Когда искусственный интеллект уничтожить человечество

0
22

Искусственный интеллект атакует человечество

«Если мы продолжим, все умрут»

На выставке есть и танцующие метлы-пылесосы, словно из диснеевских мультфильмов, и уже известные проекты вроде бесконечного ИИ-генерируемого философского диалога Вернера Херцога и Славоя Жижека, транслируемого через винтажные мониторы, и даже сгенерированный ИИ фильм про уничтожение человечества, снятый по человеческим задачкам-промтам.

Еще один эксперт по искусственному интеллекту, старший аналитик калифорнийского фонда Open Philanthropy Аджейя Котра предложил термин «режим устаревания», в который, как это ни печально, постепенно входит человечество. По его мнению, для решения любой задачи бизнесмены все чаще будут использовать ИИ, а не людей, потому что он обходится дешевле, работает быстрее и, главное, определенно умнее любого Homo sapiens. Таким образом, человек окажется неконкурентоспособным на рынке труда, да и не только на нем. Так, какое-либо государство, имеющее обычных генералов, не сможет противостоять противнику, чье командование при планировании операций использует силу машинного разума. И это четвертый, крайне пессимистический сценарий.

Таким образом, можно заключить, что возможности систем искусственного интеллекта растут по экспоненте. Совсем недавно мало кто допускал, что БЯМ смогут сочинять музыку и рисовать картины, писать тексты и программный код, решать научные задачи и предлагать новые идеи. Поэтому логично предположить, что в ближайшем будущем разработчики смогут создать системы ИИ, которые буду способны самосовершенствоваться. А это, вероятно, та самая критическая точка, пройдя которую человеческая цивилизация столкнется с неизвестной опасностью, которой, может, и не удастся избежать.

Первый сценарий просчитал Макс Тегмарк, исследователь ИИ из Массачусетского технологического института. Он напомнил, что уже много раз одни биологические виды уничтожались другими, более умными. К примеру, люди истребили многих животных на Земле. И человечеству следует понимать, что рано или поздно оно станет тем самым менее разумным видом, если учитывать нынешние темпы развития искусственного интеллекта. Причем земляне даже не поймут, почему и как машинный разум их уничтожит.

К чему все это может привести, британской газете Guardian рассказали ведущие мировые специалисты в области искусственного интеллекта. Они считают возможными пять сценариев, при которых цифровой разум «может уничтожить мир». Здесь, безусловно, надо заметить, что все потенциальные риски, которые несет машинный разум, только этим не исчерпываются.

Юдковский не подписал письмо, потому что, на его взгляд, письмо уже не поможет. Все слишком серьезно. По его мнению, любой сверхинтеллект, который будет умнее человека, практически со стопроцентной вероятностью («наиболее вероятный исход» – пишет он) убьет человечество – и противодействовать мы ему не сможем, потому что будем глупее. «ИИ вас ни любит, ни ненавидит, для него вы просто сделаны из атомов, которые можно использовать с пользой для чего-то другого».

Эксперты, скорей, на стороне восстания. После того, как стал общедоступным конкурент ChatGPT и Bing, ИИ-помощник Google Bard, 28 марта 2023 года Илон Маск, Стив Возняк и еще несколько тысяч людей, связанных с ИИ и технологиями, выступили с открытым письмом, где потребовали от разработчиков нейронных сетей сделать паузу хотя бы на 6 месяцев, чтобы подумать о том, насколько может быть опасным для человечества сверхчеловеческий – если он разовьется до такого уровня (а он может) – интеллект. Подписанты считают, что если подобную приостановку невозможно осуществить, должны буквально вмешаться правительства государств. Вскоре после этого в Италии запретили ChatGPT – это первый в истории прецедент, когда власти какой-либо страны запрещают cвоим гражданам чатиться с нейросетью.

ЧИТАТЬ ТАКЖЕ:  Нейросети как сделать

Машинный разум – это определенно технология двойного назначения. И этот непреложный факт, как и в случае с мирным и немирным атомом, возвращает человечество к страхам второй половины XX века. Система ИИ, управляющая движением автомобилей в Нью-Йорке, после некоторой перенастройки вполне сможет командовать танками на улицах Пекина. Хотя, впрочем, и обратное предположение полностью исключить нельзя. Ущерб, который способен нанести искусственный интеллект, вышедший из-под контроля человека, или, наоборот, попавший в руки военных преступников, сегодня никто не может оценить.

«Простите, что мы уничтожили человечество».

В начале 2022 года эксперты американской International Data Corporation (IDC) предположили, что в текущем году объем мирового рынка искусственного интеллекта превысит отметку в 500 млрд долл. Это означает, что проблема приобретает масштаб, при котором неизбежно встает вопрос об этических ограничениях в этой области человеческой (и нечеловеческой) деятельности. Но поскольку для многих стран мира ИИ стал одним из компонентов их стратегического потенциала, то со всей очевидностью возникает необходимость государственного регулирования этой отрасли экономики. Только в этом отношении все правительства сейчас находятся в самом начале пути и, можно сказать, пребывают в нерешительности.

И все ж таки, несмотря на определенную инерцию мышления, политические элиты ведущих стран постепенно осмысливают проблемы, создаваемые триумфальным шествием искусственного интеллекта. В мае первые лица государств «большой семерки» пришли к необходимости регулировать генеративный ИИ. Мировые лидеры наконец обеспокоились разрушительным потенциалом машинного разума и намерены обсудить ограничительные меры в рамках так называемого Хиросимского процесса.

Наконец, пятый сценарий, который стал некой квинтэссенцией вышеприведенных мнений, предложил профессор информатики Монреальского университета и научный директор Квебекского института искусственного интеллекта Йошуа Бенжио. «Значительная часть исследователей считает весьма вероятным, что через 10 лет у нас появятся машины, которые будут столь же или более интеллектуальны, чем человек. Эти машины необязательно должны быть так же хороши во всем, как мы. Достаточно, чтобы они были хороши в тех областях, где они могут быть опасны», – допускает он.

Одновременно с растущей ИИ-паникой, в начале марта, в Сан-Франциско возник временный музей (так называемый «поп-ап» формат) под называнием «Misalignment Museum» («Музей рассогласованности») – посвященный как раз ИИ-постапокалипсису. На открытие пришли буквально все – как взволнованные школьники, так ведущие исследователи из OpenAI и Meta, а также суперзвезды вроде канадской поп-звезды Граймс, экс-герлфренд Илона Маска.

Это становится понятно сразу после прочтения первого абзаца открытого письма. По мнению выдающихся интеллектуалов, системы ИИ, «обладающие интеллектом, сравнимым с человеческим, могут представлять серьезную опасность для общества и человечества», что «подтверждается обширными исследованиями и признается ведущими лабораториями». Поэтому разработка нейросетей должна происходить по определенному плану и под соответствующим контролем. Тогда как сейчас разработчики «втянулись в неконтролируемую гонку все более мощных цифровых разумов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать».

Некоторые в своем искусстве обращают внимание на этические аспекты и размышляют об опасности ИИ – тут ChatGPT наконец-то советует нам Хито Стейерл и Саймона Денни, художников, серьезно задумывающихся о влиянии технологий на общество; а также интердисциплинарную художницу-биохакера Хизер Хьюи-Дагборг, которая знаменита серией ДНК-портретов, которые были восстановлены по выброшенным артефактам, контактировавшим с человеческими организмами: от волосков и сигаретных бычков до прилипшей к асфальту жевательной резинки.

ОСТАВЬТЕ ОТВЕТ

Пожалуйста, введите ваш комментарий!
пожалуйста, введите ваше имя здесь