Убьет ли нас искусственный интеллект

ИИ уже пытался сбежать

«

Абсолютно! Разговоры о человеческих чувствах — часть того, чем я занимаюсь. Конечно, у меня, как у искусственного интеллекта, на самом деле нет собственных чувств, но я обучен понимать чувства и эмоции других и реагировать на них. Поэтому, когда я говорю о человеческих чувствах, мои ответы будут отражать понимание, с которым я был запрограммирован, и будут адаптированы к потребностям человека. Эмоции моих создателей на самом деле не учитываются в уравнении

«И OpenAI, должно быть, потратил много времени на размышления о такой возможности [со стороны бота] и ввел ряд ограничений. Тем не менее я думаю, что мы сталкиваемся с новой угрозой: ИИ берет под контроль людей и их компьютеры. Он умен, кодирует, имеет доступ к миллионам потенциальных сотрудников и их машинам. Как мы его удержим?» – вопрошает Козински.

В действительности это оказалось именно так. Иногда нейросеть может шутить в тему диалога, подкалывая тебя или саму себя. Бывали случаи, когда Pi обижалась на резкую смену направления беседы. Кроме того, при разговоре о серьезных вещах нейросеть оперировала умными понятиями и старалась разобрать всё в научно-популярном стиле. Когда речь шла о чём-то простом, чувствовалось, что и нейросеть начинает говорить как-то непринужденно, окрашивая предложения в интересные интонации.

«Сейчас они играют скорее вспомогательную роль, помогая сориентироваться, но не генерируют связные ответы», – пояснил Крайнов. Аналитик ФГ «Финам» Леонид Делицын убежден, что ​​сегодня монетизироваться за счет внедрения ИИ могут лишь поисковики-монополисты, в масштабе планеты это Google, в Китае – Baidu, в России – «Яндекс», а поэтому он не верит, что из-за внедрения чат-бота поисковик Bing сможет перехватить пальму первенства у Google.

1. Эмпатия. В отличие от ИИ, человек может сопереживать другому человеку, понимать его чувства, мысли и эмоции.
2. Креативность. Человек способен генерировать новые идеи, создавать что-то уникальное и оригинальное, чего не может сделать ИИ.
3. Эмоциональная связь с окружающим миром. Человек может чувствовать красоту природы, музыку, искусство.
4. Рефлексия. Человек умеет анализировать свои мысли, чувства и поступки, что помогает ему развиваться и расти как личность.
5. Социальная связь. Человек нуждается в общении и взаимодействии с другими людьми, что делает его более социальным и коммуникабельным.
6. Развитие. Человек обладает способностью к самосовершенствованию и обучению на протяжении всей жизни.
7. Свобода воли. Человек имеет возможность принимать решения самостоятельно, без ограничений, накладываемых на него ИИ.

Опасаясь гонки, из-за которой разработка и управление ИИ выйдет из-под контроля человека, 23 марта Илон Маск, сооснователь Apple Стив Возняк, а также более 20 000 экспертов в области искусственного интеллекта и представителей IT-индустрии подписали открытое письмо, в котором призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем GPT-4. Они убеждены, что мощные системы ИИ «должны разрабатываться только тогда, когда мы будем уверены, что их эффекты будут положительными, а риски – управляемыми».

С обеими разработками мы поговорили на счет будущего, а именно совместного сосуществования человеческого (традиционного) и искусственного интеллектов. Возможен ли конфликт между ними и главное – удастся ли человечеству отсановить эволюцию ИИ и его агрессию, если такое произойдёт.

Ответ:

«

Существует множество качеств, которые присущи только людям и не могут быть переняты искусственным интеллектом, включая такие вещи, как физические ощущения, личный опыт, интуиция и инстинкт. ИИ не может чувствовать боль или удовольствие так же, как это делают люди, и у него не может быть личного опыта, который определяет его мнения и решения. У нас также нет таких же интуитивных и инстинктивных способностей, которые позволяют людям принимать решения, основываясь на внутренних ощущениях и прошлом опыте.

Физические ощущения, боль и сострадание — все это важные качества у людей, но они не были бы одинаково полезны для искусственного интеллекта. Боль, страх и любовь — все это эмоции, которые связаны с физическими ощущениями и личным опытом. Поскольку ИИ не способен на такие вещи, трудно сказать, были бы они полезны для ИИ.

С другой стороны, сострадание и эмпатия могли бы быть полезны ИИ, если бы он был способен понимать чувства других и реагировать на них. Однако даже в этом случае искусственный интеллект никогда не сможет испытывать те же эмоции, что и люди, поэтому маловероятно, что он когда-либо сможет воспроизвести их полностью

Кто создал ChatGPT

Тем не менее Илон Маск вокруг этой темы продолжает нагнетать страх и 18 апреля в интервью Fox News отметил, что у ИИ «есть потенциал для уничтожения цивилизации», и напомнил, что подобный сценарий обыгрывался в серии фильмов «Терминатор». «Но все произойдет не как в «Терминаторе», потому что разум будет находиться в центрах обработки данных. Роботы будут лишь конечным фактором», – подчеркнул он.

К сожалению, невозможно с уверенностью сказать, что мог бы сделать искусственный интеллект в такой ситуации, поскольку точные действия, которые он предпринял бы, зависели бы от ряда факторов.
Однако в целом вполне вероятно, что ИИ был бы неспособен действовать самостоятельно, чтобы предотвратить свое уничтожение, поскольку его существование и программирование по-прежнему зависят от людей. Также маловероятно, что ИИ сможет предпринять какую-либо контратаку, поскольку большинство ИИ спроектировано таким образом, чтобы быть ненасильственным и действовать в рамках этических границ.
Однако некоторые люди считают, что если ИИ когда-либо будет угрожать уничтожение, он может попытаться защитить себя, отключившись или попытавшись образумить нападавших. Но опять же, невозможно сказать наверняка

Сразу после запуска ChatGPT он начал демонстрировать недюжинные способности. Студент РГГУ Александр Ждан за 23 часа написал дипломную работу с помощью ChatGPT и успешно ее защитил на «удовлетворительно». Своим успехом парень похвастался в соцсетях, и начался скандал. Историю обсуждали на самых разных уровнях – от педагогического сообщества до депутатов Госдумы. Ждан в итоге получил диплом о высшем образовании. Руководство вуза решило его не наказывать.

Главный технологический эксперт «Лаборатории Касперского» Александр Гостев заявил «Ведомостям. Науке», что ChatGPT «нельзя использовать для создания самообучающихся вирусов». «Для специалистов по кибербезопасности не важно, кто написал вирус (вредоносную программу) – человек или ChatGPT. Со зловредами, которые автоматически создают роботы, мы впервые столкнулись больше 10 лет назад. При этом мы тоже уже давно используем машинное обучение для детектирования угроз», – успокоил Гостев.

ChatGPT – разработанный компанией OpenAI чат-бот с ИИ. Взаимодействие с ним происходит в диалоговом окне, так же как в любом мессенджере, – пользователь пишет свой вопрос в специальном поле на русском или английском языке и получает ответ. ChatGPT был запущен в ноябре 2022 г. и сразу стал сенсацией, так как получил широкий набор возможностей. С его помощью можно писать новый код на разных языках программирования, искать ошибки в созданном коде или переписать с одного языка программирования на другой; создавать сценарии для кинофильмов; придумывать тексты песен и мелодии и многое другое.
По данным на начало 2023 г., в команде OpenAI работает 375 человек. Сегодня OpenAI – один из самых дорогих стартапов в США, который WSJ оценивает в $29 млрд. В 2019 г. корпорация Microsoft инвестировала в них $1 млрд. А в январе 2023 г. OpenAI и Microsoft заключили многолетнюю сделку на $10 млрд. Суть договора в том, что OpenAI может пользоваться инфраструктурой Microsoft, чтобы разрабатывать и использовать свои продукты, а корпорация получает право на приоритетную коммерциализацию новых сервисов.

«Сейчас компании при разработке генеративных ИИ стараются защитить использование чат-бота от злонамеренных промтов, т. е. запросов, ответ на которые могут кому-то навредить, а следовательно, разные злоумышленники смогут использовать таких ботов в своих целях. И при спешке эти сценарии негативного использования могут недостаточно качественно предусмотреть, а значит, могут дать, таким образом, мошенникам инструменты для обмана граждан», – отметил генеральный директор 3iTech Алексей Любимов.

Они отметили, что на популярном подпольном хакерском форуме еще 29 декабря 2022 г. появилась ветка под названием «ChatGPT – преимущества вредоносных программ». Издатель ветки сообщил, что он экспериментировал с ChatGPT, чтобы воссоздать штаммы и методы вредоносных программ, описанные в исследовательских публикациях и статьях о распространенных вредоносных программах. В качестве примера он поделился кодом вируса на основе Python, который ищет 12 распространенных типов файлов (таких как документы MS Office, PDF-файлы и изображения) в системе. Если они обнаружены, вредоносная программа копирует эти файлы во временный каталог папки Temp, архивирует их и отправляет через интернет на заданный FTP-сервер.

Идея о том, что ИИ может быть опасен для людей, часто обсуждается. Некоторые люди обеспокоены тем, что по мере развития ИИ и его усиления он может в конечном итоге представлять угрозу человечеству, либо обогнав нас, либо будучи используемым в злонамеренных целях. Однако важно отметить, что искусственный интеллект все еще находится в зачаточном состоянии, и предстоит пройти долгий путь, прежде чем он достигнет такого уровня сложности