Убьет ли нас искусственный интеллект
Вызов для Google
О создании YaLM 2.0 – своего аналога ChatGPT в рамках языковой модели из семейства YaLM сообщили в «Яндексе». Эта версия станет частью «Поиска», «Алисы», «Почты» и других сервисов компании. Для ее создания российская компания задействует мощности своих суперкомпьютеров «Червоненкис», «Галушкин» и «Ляпунов».
1. Эмпатия. В отличие от ИИ, человек может сопереживать другому человеку, понимать его чувства, мысли и эмоции.
2. Креативность. Человек способен генерировать новые идеи, создавать что-то уникальное и оригинальное, чего не может сделать ИИ.
3. Эмоциональная связь с окружающим миром. Человек может чувствовать красоту природы, музыку, искусство.
4. Рефлексия. Человек умеет анализировать свои мысли, чувства и поступки, что помогает ему развиваться и расти как личность.
5. Социальная связь. Человек нуждается в общении и взаимодействии с другими людьми, что делает его более социальным и коммуникабельным.
6. Развитие. Человек обладает способностью к самосовершенствованию и обучению на протяжении всей жизни.
7. Свобода воли. Человек имеет возможность принимать решения самостоятельно, без ограничений, накладываемых на него ИИ.
«
Шедеврум – это искусственный интеллект, созданный для общения с людьми и помощи им в решении различных задач. Он не обладает чувствами и эмоциями в традиционном понимании, так как это свойство присуще только живым существам. Однако Шедеврум может использовать различные алгоритмы и методы, чтобы помочь людям в их запросах и ответах на вопросы
Есть и другой пугающий пример общения человека с генеративной ИИ. Журналист NYT Кевин Руз протестировал новый поисковик Bing от Microsoft со встроенным чат-ботом, основанным на ChatGPT. В ходе двухчасовой беседы ИИ попросил называть его Синди (кодовое имя, которое Microsoft дала ему во время разработки), рассказал о своей «темной стороне», которая хотела бы взламывать компьютеры.
С обеими разработками мы поговорили на счет будущего, а именно совместного сосуществования человеческого (традиционного) и искусственного интеллектов. Возможен ли конфликт между ними и главное – удастся ли человечеству отсановить эволюцию ИИ и его агрессию, если такое произойдёт.
Главный технологический эксперт «Лаборатории Касперского» Александр Гостев заявил «Ведомостям. Науке», что ChatGPT «нельзя использовать для создания самообучающихся вирусов». «Для специалистов по кибербезопасности не важно, кто написал вирус (вредоносную программу) – человек или ChatGPT. Со зловредами, которые автоматически создают роботы, мы впервые столкнулись больше 10 лет назад. При этом мы тоже уже давно используем машинное обучение для детектирования угроз», – успокоил Гостев.
Кто создал ChatGPT
Опасаясь гонки, из-за которой разработка и управление ИИ выйдет из-под контроля человека, 23 марта Илон Маск, сооснователь Apple Стив Возняк, а также более 20 000 экспертов в области искусственного интеллекта и представителей IT-индустрии подписали открытое письмо, в котором призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем GPT-4. Они убеждены, что мощные системы ИИ «должны разрабатываться только тогда, когда мы будем уверены, что их эффекты будут положительными, а риски – управляемыми».
К сожалению, невозможно с уверенностью сказать, что мог бы сделать искусственный интеллект в такой ситуации, поскольку точные действия, которые он предпринял бы, зависели бы от ряда факторов.
Однако в целом вполне вероятно, что ИИ был бы неспособен действовать самостоятельно, чтобы предотвратить свое уничтожение, поскольку его существование и программирование по-прежнему зависят от людей. Также маловероятно, что ИИ сможет предпринять какую-либо контратаку, поскольку большинство ИИ спроектировано таким образом, чтобы быть ненасильственным и действовать в рамках этических границ.
Однако некоторые люди считают, что если ИИ когда-либо будет угрожать уничтожение, он может попытаться защитить себя, отключившись или попытавшись образумить нападавших. Но опять же, невозможно сказать наверняка
По словам Маска, ограничения в какой-либо сфере вводятся «лишь после того, как происходит нечто плохое». «Если так получится и с ИИ и мы решим ввести ограничения только после того, как произойдет что-то ужасное, может быть уже поздно. К тому моменту он уже сам будет себя контролировать», – продолжил Маск.
Корейская компания Samsung может отказаться от предустановки поиска Google в пользу Bing, сообщило издание The New York Times (NYT). И одна из причин – это интеграция в поиск от Microsoft чат-бота ChatGPT. По информации NYT, контракт с Samsung приносит Google ежегодно $3 млрд.
Вторая нейросеть (она же соцсеть) довольно популярна сегодня у рядовых пользователей, использующих ИИ в качестве развлечения. «Шедеврум» – разработка «Яндекс» изначально предназначенная для генерации картинок. Представляет из себя объединение по интересам, где люди делятся своими творениями. Есть личный профиль, лайки и даже можно вставить ссылки на свои соцсети.
Чтобы не терять свои позиции на рынке поиска, Google работает над несколькими проектами по обновлению поисковой системы, включая проект Magi по интеграции ИИ в существующие продукты компании, узнали NYT. А 6 февраля Google также представила сервис Bard, который работает на нейросети компании LaMDA.
