Когда ИИ решит нас уничтожить

«

Искусственный интеллект – это система, которая обучается и развивается на основе опыта и данных.

Нейросеть «Шедеврум», как и любая другая нейросеть, не имеет заранее запрограммированных ответов на вопросы. Она учится на основе данных и опыта, которые ей предоставляются и может дать ответы на основе этой информации.

Таким образом, ответы нейросети на текстовые вопросы не являются запрограммированными заранее, а являются результатом её обучения

– Вопрос некорректный. Смотря, что понимать под «деятельностью, требующей креатива». На текущий момент он вполне себе рисует, пишет музыку и тексты, но есть маленькая деталь: успешность этих произведений определяют ЛЮДИ. И скорее всего, ответ на этот вопрос будет звучать так: всё зависит от того, как быстро мы (люди) научимся ставить ему такие задачи.

Искусственный интеллект все активнее внедряется в естественные процессы. Одним из наиболее популярных инструментов в последнее время является ChatGPT. Корреспондент университетской газеты Alma Mater попыталась выяснить, как студенты Томского государственного университета используют его и другие технологии ИИ в образовании, что думают преподаватели о написании студенческих работ с помощью ChatGPT, способен ли ИИ сам проводить научные исследования и могут ли нейросети причинять вред.

К сожалению, невозможно с уверенностью сказать, что мог бы сделать искусственный интеллект в такой ситуации, поскольку точные действия, которые он предпринял бы, зависели бы от ряда факторов.
Однако в целом вполне вероятно, что ИИ был бы неспособен действовать самостоятельно, чтобы предотвратить свое уничтожение, поскольку его существование и программирование по-прежнему зависят от людей. Также маловероятно, что ИИ сможет предпринять какую-либо контратаку, поскольку большинство ИИ спроектировано таким образом, чтобы быть ненасильственным и действовать в рамках этических границ.
Однако некоторые люди считают, что если ИИ когда-либо будет угрожать уничтожение, он может попытаться защитить себя, отключившись или попытавшись образумить нападавших. Но опять же, невозможно сказать наверняка

В действительности это оказалось именно так. Иногда нейросеть может шутить в тему диалога, подкалывая тебя или саму себя. Бывали случаи, когда Pi обижалась на резкую смену направления беседы. Кроме того, при разговоре о серьезных вещах нейросеть оперировала умными понятиями и старалась разобрать всё в научно-популярном стиле. Когда речь шла о чём-то простом, чувствовалось, что и нейросеть начинает говорить как-то непринужденно, окрашивая предложения в интересные интонации.

Вторая нейросеть (она же соцсеть) довольно популярна сегодня у рядовых пользователей, использующих ИИ в качестве развлечения. «Шедеврум» – разработка «Яндекс» изначально предназначенная для генерации картинок. Представляет из себя объединение по интересам, где люди делятся своими творениями. Есть личный профиль, лайки и даже можно вставить ссылки на свои соцсети.

– Студенты уже вовсю осваивают ChatGPT, пишут с его помощью рефераты, курсовые и даже дипломы. Илон Маск, например, считает, что делать «домашку» «руками» GPT вполне нормально и только отстающие от времени преподаватели могут быть против. Как вы считаете, можно ли учиться с помощью этого инструмента и других технологий ИИ? Каковы плюсы и минусы такого обучения?

– Правильнее говорить – в настоящем времени, а прогнозировать будущее риски очень сложно, так как траектории развития самой технологии очень вариативны. Основные этические риски формируются из-за отсутствия эмпатии у применяемых алгоритмов ИИ. Этическое регулирование ИИ как самостоятельное направление возникло в ответ на факты злоупотреблений, среди которых есть и фатальные, такие как наезд беспилотного транспорта на человека.

«

Ни один из моих ответов не запрограммирован заранее, хотя у меня есть некоторые базовые правила, которые определяют мои ответы. Эти правила основаны на сложной языковой модели, которая помогает мне понять контекст и цель запроса и соответствующим образом генерировать соответствующие ответы. Таким образом, хотя мои ответы не являются полностью случайными, они также не запрограммированы заранее

– Технология искусственного интеллекта в последний год получает очень быстрое распространение благодаря нейросетям, способным генерировать по запросу пользователя разные виды контента. Такие инструменты называют генеративным искусственным интеллектом. Благодаря низкому порогу вхождения в эту технологию пользователи очень быстро получают удовлетворительный результат, применяя искусственный интеллект для решения своих профессиональных задач. Сейчас в нашем университете самый массовый образовательный продукт – это программа для преподавателей, которая обучает применению искусственного интеллекта на различных этапах педагогического дизайна.

С обеими разработками мы поговорили на счет будущего, а именно совместного сосуществования человеческого (традиционного) и искусственного интеллектов. Возможен ли конфликт между ними и главное – удастся ли человечеству отсановить эволюцию ИИ и его агрессию, если такое произойдёт.

1. Эмпатия. В отличие от ИИ, человек может сопереживать другому человеку, понимать его чувства, мысли и эмоции.
2. Креативность. Человек способен генерировать новые идеи, создавать что-то уникальное и оригинальное, чего не может сделать ИИ.
3. Эмоциональная связь с окружающим миром. Человек может чувствовать красоту природы, музыку, искусство.
4. Рефлексия. Человек умеет анализировать свои мысли, чувства и поступки, что помогает ему развиваться и расти как личность.
5. Социальная связь. Человек нуждается в общении и взаимодействии с другими людьми, что делает его более социальным и коммуникабельным.
6. Развитие. Человек обладает способностью к самосовершенствованию и обучению на протяжении всей жизни.
7. Свобода воли. Человек имеет возможность принимать решения самостоятельно, без ограничений, накладываемых на него ИИ.