Что искусственный интеллект сделает с человечеством

Что делать, когда машины начнут делать все. Малькольм Фрэнк, Пол Рериг, Бен Принг

«Огромное население Китая — 1,4 млрд человек — означает, что в его распоряжении находится самый богатый и, возможно, самый важный природный ресурс эпохи ИИ: данные о людях. Чтобы добиться высокой точности от алгоритма распознавания образов, требуются огромные объемы данных, и поэтому китайские системы распознавания лиц, например Megvil или SenseTime, так привлекательны для инвесторов. Все данные, которые китайские граждане генерируют, когда звонят друг другу, делают покупки онлайн или публикуют фото в социальных сетях, помогают Baidu, Alibaba и Tencent создавать лучшие в своем классе системы ИИ. Важное преимущество Китая — отсутствие ограничений, связанных с неприкосновенностью частной жизни и безопасностью, которые отчасти могут тормозить прогресс в Соединенных Штатах», — пишет Эми Уэбб в книге «Алгоритм судного дня».

С помощью алгоритма за пару секунд можно написать большой энциклопедический текст про несуществующую породу собак и засорить такими текстами весь интернет. И непонятно, как люди будут узнавать, существуют ли такие собаки в природе или нет. Может, они живут на другом континенте, в другой стране? Проверять такие факты крайне нетривиально, это большая работа. Интернет и так славится тем, что в нем много неправды, а сейчас генерировать ложь становится еще проще, чем раньше. Поэтому в эпоху развития искусственного интеллекта крайне важно развивать критическое мышление, учиться самим и учить студентов обращать внимание на то, что они читают, с чем они знакомятся: если мы не будем критически относиться к информации, которую получаем, с большой вероятностью мы просто запутаемся в этом мире.

Более того, мы же требуем от студентов не сам текст, мы требуем результат — что-то новое, нетривиальную идею, которая раньше никому не приходила в голову или которую никто не мог осмыслить до конца. ИИ на такое не способен. Во всяком случае, пока неизвестны случаи, чтобы языковая модель смогла сделать что-то новое в науке. А если студент справится с тем, чтобы вытащить из языковой модели что-то новое, пусть получает высшую оценку — он первый придумал, как это делать, и мы будем только рады. Пусть только объяснит, как он это сделал.

«„Вселенная Боба“ предлагает достаточно необычный взгляд на тему искусственного интеллекта. Дело не в том, что именно ИИ выступает тут протагонистом — это как раз не редкость, — а в том, что некогда тот был обычным человеком. Автор весьма любопытно показывает, как человек, чье сознание было оцифровано, перерождается уже в новом качестве, свыкается с новой ролью, какие проблемы перед ним встают и какие открываются возможности. А еще Боб ставит перед собой философские вопросы, главный из которых — „та же я личность, что был при жизни?“», — рассказывает Дмитрий Злотницкий, бренд-менеджер fanzon.

Если ради интереса спросить у ChatGPT о его интересах и предпочтениях, он ответит, что нейросети лишены эмоций и понятие «нравится — не нравится» ему недоступно. Но что, если с дальнейшим развитием у искусственного интеллекта появятся свои мысли и чувства? Что он будет делать тогда? Возможно, как и человек, впадать в депрессию (привет, Дуглас Адамс), увиливать от работы и много шутить. Такой вариант развития событий оказывается не самым плохим.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Сценарий 4. Искусственный интеллект станет человечным

После громкой истории со студентом, который написал диплом с помощью ChatGPT, в обществе не утихают споры по поводу опасности искусственного интеллекта (ИИ) для образования и жизни в целом. Руководитель департамента больших данных и информационного поиска факультета компьютерных наук НИУ ВШЭ Евгений Соколов рассказывает, как работает ИИ и чего действительно стоит опасаться в работе с ним.

К научно-космической экспедиции, которая отправляется к одной из далеких планет, приставлен охранник-андроид Киллербот, запрограммированный на защиту экипажа и убийство врагов. Этот искусственный интеллект втайне от хозяев взломал свой модуль контроля и обрел независимость от людей. Теперь он абсолютно свободен, чтобы. нет, не убивать, а спокойно смотреть сериалы и кино.

Модели вроде ChatGPT крайне хороши в создании текстов. Они могут сгенерировать официальное письмо на основе краткого неформального описания от нас. Сделать красивое рекомендательное письмо. Подготовить ответ на жалобу, которую вам надо обработать. «Причесать» текст, «налить воды» — или, наоборот, сократить, сделать краткую выжимку. Тот же ChatGPT мы можем использовать в качестве помощника.

Сегодня многие говорят об опасности создания сильного искусственного интеллекта, о неких рисках и возможностях. По-моему, риск совсем не в том, что ИИ захватит человечество, да и потенциальные плюсы вовсе не в том, что мы вот-вот получим некий искусственный интеллект, который сможет заменить естественный.

Безусловно, это лишь некоторая основа, поверх которой нужно построить много всего, чтобы оно работало. Но если совсем поверхностно, то ChatGPT и другие языковые модели работают именно так. Они могут поддержать диалог, могут выдать краткое объяснение той или иной темы, могут решать математические задачи. И обратите внимание — в них не закладывали эти навыки каким-то специальным образом, их просто учили продолжать текст слово за словом.

Каждый рассказ строится вокруг проблем, которые возникают при взаимодействии человека и робота, причем в некоторых случаях эти проблемы вызваны именно тремя безупречными законами. И тем не менее совместное будущее машин и человека у Айзека Азимова получается довольно благополучным.