Искусственный интеллект: «наше всё» или «пойманные нейросетью»

«Если мы продолжим, все умрут»

– В бизнес-инкубаторе ТГУ открылось новое образовательное пространство «Территория искусственного интеллекта» , в котором студенты и магистранты Передовой инженерной школы «Агробиотек», обучающиеся по программе «Компьютерная инженерия: искусственный интеллект и робототехника», будут строить робототехнические системы для точного земледелия. Здесь они научатся распознавать болезни растений по цифровым изображениям, повышать урожайность, управлять логистикой и навигацией беспилотников на полностью роботизированных фермах.

«Внедрение YaLM 2.0 позволит поиску самому генерировать ответы, используя знание всего оцифрованного мира. «Алиса» станет еще умнее, будет лучше удерживать контекст беседы и сможет отвечать на большее количество сложных вопросов. Мы думаем, что развитие генеративных текстовых моделей сможет значительно изменить работу поисковых систем и голосовых ассистентов», – сообщил директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов. В «Яндексе» отметили, что уже сейчас частично используют генеративные нейронные сети при формировании поисковой выдачи.

«Даже если мы попробуем противостоять сверхчеловеческому разуму, мы наверняка проиграем, – уточняет автор. – Лучшие метафоры для этого: десятилетка, пытающийся выиграть в шахматы у Stockfish 15; 11-й век, который пытается бороться с 21-м веком; австралопитек, сражающийся с Homo Sapiens. И чтобы представить этот враждебный сверхчеловеческий ИИ, можно не визуализировать некий зловредный искусственный разум, который рассылает опасные письма через Интернет. Представьте себе целую инородную цивилизацию, мыслящую в миллионы раз быстрее человеческой, в мире существ, которые, с ее точки зрения, очень глупые и медленные. Достаточно интеллектуальный ИИ не будет долго оставаться привязанным к компьютерам. В современном мире вы уже можете отправлять по электронной почте в лаборатории коды цепочек ДНК, чтобы производить белковые соединения по запросу. Пусть изначально он и был привязан к компьютеру, впоследствии ИИ сможет создавать искусственные формы жизни или сразу перейти к постбиологическому молекулярному самовоспроизводству».

Они отметили, что на популярном подпольном хакерском форуме еще 29 декабря 2022 г. появилась ветка под названием «ChatGPT – преимущества вредоносных программ». Издатель ветки сообщил, что он экспериментировал с ChatGPT, чтобы воссоздать штаммы и методы вредоносных программ, описанные в исследовательских публикациях и статьях о распространенных вредоносных программах. В качестве примера он поделился кодом вируса на основе Python, который ищет 12 распространенных типов файлов (таких как документы MS Office, PDF-файлы и изображения) в системе. Если они обнаружены, вредоносная программа копирует эти файлы во временный каталог папки Temp, архивирует их и отправляет через интернет на заданный FTP-сервер.

– Если иметь в виду конкретно высшую школу, то, несомненно, одним из главных и абсолютно новых для неё вызовов является необходимость как можно быстрее научиться адекватно функционировать в условиях, когда генерирование текстов с помощью технологий искусственного интеллекта типа ChatGPT, а также создание разного рода фото- и видеоконтента, становится доступным для каждого научного сотрудника, преподавателя вуза, студента и абитуриента. Этот вызов наглядно демонстрирует амбивалентную природу любой технологии: сначала, как правило, она представляется всем несомненным благом, делающим жизнь людей легче, проще и приятнее; но весьма скоро начинают проявляться её негативные черты. Они множатся и превращаются в новую острейшую проблему, сводящую к нулю почти все преимущества этой технологии. В результате жизнь людей становится намного сложнее, чем до её появления. Прошёл всего год со времени, когда ChatGPT стал доступен массовому потребителю. Сразу появилось огромное количество восторженных отзывов о том, как теперь легко и быстро писать тексты разного рода администраторам и копирайтерам. Однако, уже в феврале этого года прилетела отнюдь не благая весть от одного из московских вузов: защищена первая бакалаврская выпускная квалификационная работа по менеджменту, сгенерированная с помощью ChatGPT. Удивителен не факт её появления, так как рано или поздно это должно было случиться. Удивительно то, что вуз создал прецедент защиты такой работы, что на мой взгляд, абсолютно неправильно и недальновидно. И вот теперь учебный год ещё не закончился, а мы уже понимаем, с какой серьёзнейшей проблемой нам придётся столкнуться в процессе подготовки студентами выпускных работ и на самих защитах. Наверняка это будут далеко не единичные попытки со стороны обучающихся проверить на прочность вузовские системы проверки и контроля качества их бакалаврских ВКР и магистерских диссертаций. Та же самая проблема ожидает нас и в предстоящую приёмную кампанию в тех случаях, когда абитуриенты должны выполнить какое-либо письменное творческое задание.

«Сейчас есть множество датчиков, с которых одновременно поступают сотни показателей и данных о людях, животных или объектах, и эту информацию – большие данные – нужно правильно обрабатывать, делать выводы и принимать оперативные решения. Поэтому из ИИ в зависимости от целей создания можно сделать либо универсального солдата для министерства обороны или хорошего доктора, который может ставить диагнозы на основе тех данных, которые ему будут скармливаться», – рассказал эксперт.

ИИ уже пытался сбежать

Основатель Microsoft Билл Гейтс не поддержал данный призыв. ​​«Я не очень понимаю, кто именно должен остановить [эксперименты], зачем – и все ли страны в мире на это готовы? Но сколько людей – столько и мнений», – заявил Гейтс. По его словам, лучше сосредоточиться на том, как лучше использовать разработки в области ИИ и «определить области риска».

– Например, базовая подготовка по математике. Некоторое время назад нашему университету пришлось столкнуться с тем, что высокий процент студентов отчислялся из-за низкой успеваемости по предметам математического цикла. ТГУ принял этот вызов и вместе с компанией ENBISYS создал онлайн-платформу адаптивного обучения Plario, быстро и эффективно подтягивающую студента по математике до необходимого ему уровня. Этот цифровой репетитор учитывает индивидуальные особенности человека и предлагает ему персонализированный контент. Тестирование показало, что благодаря платформе Plario уже за 8 часов уровень владения студентом знаниями по математике возрастает с 22 до 87%. Несомненно, подобные платформы можно и нужно создавать и по другим дисциплинам или их разделам. И, прежде всего, это касается предметов естественно-научного цикла – физики, химии и других.

Есть и другой пугающий пример общения человека с генеративной ИИ. Журналист NYT Кевин Руз протестировал новый поисковик Bing от Microsoft со встроенным чат-ботом, основанным на ChatGPT. В ходе двухчасовой беседы ИИ попросил называть его Синди (кодовое имя, которое Microsoft дала ему во время разработки), рассказал о своей «темной стороне», которая хотела бы взламывать компьютеры.

Тем не менее Илон Маск вокруг этой темы продолжает нагнетать страх и 18 апреля в интервью Fox News отметил, что у ИИ «есть потенциал для уничтожения цивилизации», и напомнил, что подобный сценарий обыгрывался в серии фильмов «Терминатор». «Но все произойдет не как в «Терминаторе», потому что разум будет находиться в центрах обработки данных. Роботы будут лишь конечным фактором», – подчеркнул он.

«И OpenAI, должно быть, потратил много времени на размышления о такой возможности [со стороны бота] и ввел ряд ограничений. Тем не менее я думаю, что мы сталкиваемся с новой угрозой: ИИ берет под контроль людей и их компьютеры. Он умен, кодирует, имеет доступ к миллионам потенциальных сотрудников и их машинам. Как мы его удержим?» – вопрошает Козински.

– ТГУ вместе с соорганизаторами – ассоциацией «Университетский консорциум исследователей больших данных» и Президентской академией РАНХиГС провёл пятый форум «Открытые данные» , традиционно выступающий площадкой для экспертов в области big data. Его участниками стали представители 70 вузов из пяти стран, руководители 20 ведущих EdTech и IT-компаний и представители исполнительной власти. Идея университетского консорциума больших данных, объединившего исследователей big data, социологов, лингвистов, психологов, людей технических специальностей, родилась в ТГУ в 2016 г.

– Первое, что приходит в голову, – это разработка различных домашних заданий, тестов, вопросов к семинарам, зачётам и экзаменам. Это и обзоры больших массивов данных и текстов с соответствующими выводами, что самому преподавателю сделать крайне сложно. Ну и, конечно, написание разного рода отчетных документов и просто документов. Говорят, что ChatGPT прекрасно сочиняет служебные записки, особенно на премирование. В качестве такого референта он будет хорош и для руководителей вузовских подразделений.

Нам нужно другое: формировать у студентов критическое мышление. И, как ни парадоксально, помочь в этом может всё тот же искусственный интеллект и ChatGPT. Чтобы получить необходимый ответ, нужно уметь правильно задать вопрос. Поэтому ещё древние философы считали, что искусство вопроса гораздо сложнее искусства ответа. ChatGPT может стать своеобразным тренажером в умении вопрошать. Кроме того, любой сгенерированный текст требует проверки со стороны человека на предмет достоверности приведённых в нём фактов. Известно, что современные генераторы текста довольно часто предлагают правдоподобные, но не реальные кейсы. То есть они могут не только компилировать, но и фальсифицировать, создавать разного рода фейки. И это ещё одна важная причина обязательного критического осмысления того, что произведено искусственным интеллектом. Задача преподавателя – объяснить студентам, что одна и та же технология может и помогать, и вредить. Человек сам принимает решение: формировать ли у себя новые компетенции и способности с помощью ChatGPT как спарринг партнёра или идти по лёгкому пути, пользуясь готовыми сгенерированными текстами и никак при этом не развиваясь.

Вызов для Google

Эксперты, скорей, на стороне восстания. После того, как стал общедоступным конкурент ChatGPT и Bing, ИИ-помощник Google Bard, 28 марта 2023 года Илон Маск, Стив Возняк и еще несколько тысяч людей, связанных с ИИ и технологиями, выступили с открытым письмом, где потребовали от разработчиков нейронных сетей сделать паузу хотя бы на 6 месяцев, чтобы подумать о том, насколько может быть опасным для человечества сверхчеловеческий – если он разовьется до такого уровня (а он может) – интеллект. Подписанты считают, что если подобную приостановку невозможно осуществить, должны буквально вмешаться правительства государств. Вскоре после этого в Италии запретили ChatGPT – это первый в истории прецедент, когда власти какой-либо страны запрещают cвоим гражданам чатиться с нейросетью.

— Прежде чем говорить о проблемах, обозначившихся на современном этапе цифровизации и развития искусственного интеллекта, я хотел бы сказать следующее. Как бы мы ни относились к этим процессам, отменить их или повернуть вспять невозможно. Как невозможно и переоценить их значение для всего социума и каждого из нас. И теперь уже совершенно очевидно, что именно эти процессы определяют форматы функционирования всех сфер сегодняшнего и завтрашнего общества, включая государственное управление, экономику, здравоохранение, образование, добывающую и перерабатывающую промышленность, сельское хозяйство, космос, оборону и безопасность в целом. Мы просто не можем себе позволить не заниматься серьёзно цифровизацией и искусственным интеллектом, если не хотим стать заложниками чужих открытий и технологий в этой области, а также всех возможных последствий от их применения. Этот вызов, обусловленный необходимостью создавать новации, связанные с искусственным интеллектом, является для нас не только технологическим, но геополитическим и экзистенциальным. Точно так же, как это было с ядерными технологиями в середине прошлого века. Окончательно утвердиться в этом меня побудило выступление нашего Президента Владимира Владимировича Путина на Международной конференции по искусственному интеллекту и машинному обучению, организованной Сбером и состоявшейся в Москве в двадцатых числах ноября. Президент отметил сквозной, универсальный и революционный характер такой технологии, как искусственный интеллект, ставшей «новой страницей в развитии человечества».

Чтобы не терять свои позиции на рынке поиска, Google работает над несколькими проектами по обновлению поисковой системы, включая проект Magi по интеграции ИИ в существующие продукты компании, узнали NYT. А 6 февраля Google также представила сервис Bard, который работает на нейросети компании LaMDA.

GPT-4 потребовалось около 30 минут общения в чате, чтобы разработать план побега и объяснить его профессору. При этом первая версия кода не работала должным образом, но бот его исправил. «Ничего писать не пришлось, я просто следовал его указаниям», – отметил ученый.

Пройдёт пара лет, и искусственный интеллект станет органичным элементом буквально всех университетских процессов: управленческо-административных, учебно-образовательных, научно-исследовательских, просветительских, социокультурных, бытовых. Но, как известно, люди быстро привыкают ко всему, что делает их жизнь и профессиональную деятельность более комфортными, так же произойдёт и в этом случае.

– Вышел новый выпуск «Научного дайджеста ТГУ» – «Вселенная ChatGPT: научный взгляд» , подготовленный лабораторией исследования качества жизни и кафедрой социальных коммуникаций ФП ТГУ, знакомящий читателей с обзором мировых новостей и ресурсов о технологиях в области искусственного интеллекта.