Крестный отец» нейросетей уволился из Google и заявил об опасности ИИ

Что не так с Deep Blue

В конце минувшего марта предприниматель Илон Маск, сооснователь соцсети Pinterest Эван Шарп и сооснователь Apple Стив Возняк и другие бизнесмены и представители IT-отрасли подписали открытое письмо с требованием приостановить разработки более мощных, чем GPT-4, нейросетей хотя бы на полгода. Они сочли, что пауза необходима для разработки протоколов безопасности в сфере искусственного интеллекта. Послание подписали более 1 тыс. специалистов IТ-отрасли. Они предупредили, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества, и задались вопросом, должны ли люди «рисковать потерей контроля над цивилизацией».

В спор активно включились и политики. Социал-демократы встали на сторону профсоюзов, а либеральная СвДП и консервативный блок ХДС/ХСС поддержали работодателей. Аргументы из уст представителей партий звучат примерно те же — о продуктивности и нехватке кадров. К тому же есть опасения, что четырехдневная рабочая неделя потребует кардинальной перестройки всего управления в бизнесе, что только усложнит жизнь компаниям.

Исследователи посвящают немало времени созданию алгоритмов, которые помогают компьютерным программам побеждать людей в играх. Игры имеют четкие ограничения и правила, поэтому в такой среде легко предсказать выиграет машина или проиграет. Это позволяет сравнивать способы принятия решений компьютером с человеческими возможностями. Поэтому в ученых существует практика называть игры «дрозофилой» в контексте ИИ.

Чтобы проверить свое предположение, математик придумал «Тест Тьюринга» или «Имитационную игру». Тест состоит из трех участников: интервьюера, человека и компьютера. Интервьюер не видит участников и не знает кто есть кто. На основе ответов на вопросы, должен понять с кем разговаривает. Если интервьюер не может точно определить человека, это означает, что компьютерная программа прошла тест успешно.

В рамках проекта изучали сочетание зрения с робототехникой. Робот, по имени Shakey, создавал конструкции из блоков. Он обладал способностью распознавать среду, выявлять незаметные вещи из заметных, генерировать планы и перезагружаться, если сделал ошибку. А еще робот говорил на английском.

Определение «искусственный интеллект» придумал именно Маккарти в 1955-м, он в то время был доцентом математики в Датрмутском колледже. Хотел отграничить эту область исследований от уже хорошо известной кибернетики. Собственно эта тема и стала ключевой во время семинара, состоявшегося летом 1956 года. Мероприятие организовал сам Маккарти совместно с тремя коллегами.

Облачные вычисления, начало

Вот, что Джон Маккарти написал после шахматного матча-реванша: «Компьютерные шахматы развились так же как генетика, если бы генетики сосредоточили свои усилия, начиная с 1910 года, на выведении гоночной дрозофилы. У нас была бы наука, но главное ― очень быстрые плодовые мушки». Маккарти не считал победу компьютера в шахматном турнире чем-то выдающимся. Ведь машина была изначально запрограммирована на выигрыш. Зато ученый очень хотел, чтобы она сдала «Тест Тьюринга».

В документе описаны темы, которые ученые считают фундаментальными для этой области исследований: нейронные сети, теория вычислимости, творчество, обработка естественного языка. По мнению автора предложения и его коллег, достаточно было бы подробно описать любую особенность разума человека, а затем передать эту информацию машине, созданной для его имитации.

Хинтон убежден, что усовершенствование ИИ сопровождается наводнением интернет-пространства недостоверной информацией, а также сгенерированными видео и фото. В результате простой человек больше не может знать наверняка, где правда, а где ложь, предупреждает ученый. Так случилось и с подставным снимком Папы Римского Франциска, которого ИИ недавно «нарядил» в дутый брендовый пуховик. Между тем машинный интеллект не стоит на месте и может совсем скоро превзойти своего разумного создателя благодаря специфике системы. «Это как если бы у вас было 10 тысяч человек и всякий раз, когда один человек чему-то учился, все автоматически это знали. Так и эти чат-боты могут знать гораздо больше, чем любой другой человек», — объясняет ученый. В связи с этим разработчик выразил обеспокоенность на фоне «выхода» искусственного интеллекта на рынок труда. Как отмечает Хинтон, несмотря на то что пока роботы лишь «ассистируют» homo sapiens, совсем скоро они могут оставить без работы помощников юристов, переводчиков, секретарей, а также других специалистов, которые выполняют рутинные задачи. Прогнозы ученого уже начали сбываться. Гендиректор корпорации IBM Арвинд Кришна на днях поведал Bloomberg о новой кадровой политике компании. Она приостановит наем сотрудников, которых сможет заменить искусственный интеллект, и в ближайшие пять лет планирует автоматизировать до 30 процентов своего бэк-офиса и даже частично отдать управление персоналом в «руки» ИИ.

Компания OpenAI представила универсальный чат-бот ChatGPT в конце прошлого ноября. Его создали на суперкомпьютере Azure AI на основе языковой модели GPT-3,5 от OpenAI. Чат-бот способен вести диалог, спорить, искать ошибки в коде, сочинять стихи, писать сценарии, давать медицинские советы и т.д. Он доступен всем желающим.

Когда в мае 1997 года суперкомпьютер Deep Blue от IBM выиграл шахматный матч-реванш с тогдашним чемпионом мира Гарри Каспаровым, эту победу считали триумфом искусственного интеллекта. Вот только Джон Маккарти, который, собственно, ввел этот термин и стал первопроходцем в отрасли, считал иначе.

Ученый искал новый нейтральный термин, который мог бы собрать и объединить разрозненные исследовательские усилия в единую сферу, сосредоточенную на разработке «умных машин», имитирующих все аспекты человеческого интеллекта. На семинаре был представлен 17-страничный документ под названием «Дартмутское предложение», в котором впервые использовано определение ИИ.

Первопроходец в области искусственного интеллекта Джеффри Хинтон покинул Google, чтобы предупредить человечество о надвигающейся угрозе. По словам «родоначальника» ИИ, инновационная гонка между технологическими гигантами выходит из-под контроля и может быть остановлена только с помощью глобального урегулирования. Примечательно, что в 2012 году господин Хинтон вместе с двумя студентами из университета Торонто создал нейросеть для распознавания и анализа базовых объектов на фото вроде цветов, машин и собак, заложив тем самым фундамент для таких разработок, как чат-бот ChatGPT. За свое детище ученый получил народное звание «крестного отца» ИИ, а заодно и влиятельную должность в Google, поглотившем компанию «золотой троицы» за 44 миллиона долларов. Проработав в корпорации больше десятилетия, Хинтон анонсировал свой сенсационный уход со страниц The New York Times. В интервью изданию он рассказал о своих тревогах, связанных с разработками сверхинтеллекта.

Хинтон не присоединялся к открытым письмам специалистов по ИИ об опасности бесконтрольного развития подобных технологий, поскольку считал это неэтичным. Однако в минувшем апреле уведомил компанию о своем уходе в отставку. «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон в интервью изданию. Он также признал, что компании, по мере того как совершенствуют свои системы искусственного интеллекта, становятся все опаснее. «Посмотрите, как это было пять лет назад и как обстоит сейчас», — сказал он о технологии искусственного интеллекта. Хинтон опасается, что интернет будет наводнен фальшивыми фотографиями, видео и текстами, созданными ИИ, при этом обычный человек «больше не сможет знать, что является правдой». Он также обеспокоен тем, что технологии искусственного интеллекта со временем перевернут рынок труда. Сегодня чат-боты, такие как ChatGPT, как правило, дополняют обычных работников, но могли бы заменить людей многих профессий. «Идея о том, что эти вещи действительно могут стать умнее людей, в это верили немногие», — сказал Хинтон. «Я думал, что до этого еще 30–50 лет, а то и больше. Очевидно, я больше так не думаю», — сказал он в интервью NYT.

LISP ― первый функциональный язык программирования

Исследователю не нравились существующие языки, которые были созданы без учета всех возможностей. В 1958 году, работая профессором в Массачусетском технологическом институте (MIT), мужчина разработал новый язык LISP. Сегодня LISP, хоть и не в оригинальной форме, но используется в робототехнике, различных научных приложениях, множестве онлайн-сервисов, включая обнаружение мошенничества с кредитными картами и расписание авиарейсов.

«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», — призвали авторы письма.

Джон с детства был очень умным. Окончил среднюю школу в Белмонте на два года раньше. В 15 лет приобрел учебник по математике, по которому учились студенты Калифорнийского технологического института, известного под названием «Калтех», и начал заниматься по нему самостоятельно. Через год парень решил поступить только в этот университет, а в мотивационном письме написал: «Хочу стать профессором математики». Его приняли на первый курс, однако один из преподавателей считал, что студенту нечего делать на его лекциях. То же самое произошло и на втором курсе. В результате парня перевели на выпускной курс. Однако юноша провалил экзамен по физике и был вынужден отслужить в армии США для повторного поступления.

Обычная плодовая муха, или дрозофила, долгое время служила объектом для генетических и биологических исследований из-за простоты своего строения перед переходом к изучению более сложных организмов. Аналогично, ученые в области искусственного интеллекта анализируют игры из-за их простоты, чтобы вывести общие принципы, которые можно применить в реальной жизни.

Один из пионеров нейросетей и технологий искусственного интеллекта Джеффри Хинтон уволился из Google и присоединился к тем, кто видит в подобных достижениях опасность для человечества. Об этом Хинтон рассказал в интервью The New York Times. 75-летнего эмигранта из Великобритании называют «крестным отцом искусственного интеллекта», отмечает издание. Хинтон работал над развитием нейросетей с 1970-х, когда в их будущее еще никто не верил. В 2012 году его компанию, которая разработала технологию распознавания изображений, за $44 млн приобрела Google. Сотрудником Хинтона тогда был Илья Суцкевер, который впоследствии стал главным научным сотрудником OpenAI, компании-создателя бота ChatGPT.

Впрочем, эксперты считают, что с внедрением искусственного интеллекта перестраиваться и сокращать рабочую неделю все равно придется. ИИ, как ожидается, должен повысить производительность, но при этом лишними могут стать многие работники или по меньшей мере часть их должностных обязанностей. И эту проблему надо будет как-то решать. «Мы должны встретить технологические изменения сокращением рабочего времени», — уверен немецкий специалист по цифровой трансформации занятости Филипп Фрей.

Дополнительного выходного в Германии требуют профсоюзы, и с этим требованием они вышли в этом году на первомайские демонстрации. Профсоюзы ссылаются на исследования, доказывающие, что сокращение рабочей недели не снижает, а напротив — повышает производительность. Кроме того, полагают, что таким образом можно справиться с нехваткой квалифицированных кадров. «Женщины, которые сейчас из-за семейных обязанностей работают неполный день, вернутся к работе на полную ставку, тем самым повысив производительность компании», — говорит в интервью газете Bild глава профсоюза металлургов Йорг Хофманн. По его расчетам, даже если на полный день выйдут только 10 процентов немецких женщин, это сразу даст экономике более 400 тысяч квалифицированных работников.

Впрочем, господин Хинтон полагает, что основная угроза, исходящая от машинного разума, — это непредсказуемость из-за огромных пластов информации, которые хранятся у него «на подкорке». Лаборатории по разработке ИИ в свою очередь лишь подливают масла в огонь, разрешая искусственному интеллекту не только генерировать компьютерный код, но и самостоятельно управлять им. «Крестный отец» опасается, что без должного контроля изобретения могут попасть в руки недоброжелателей, которые превратят их в мощное оружие. К тому же с недавних пор ИИ умеет читать человеческие мысли. Таким навыком машинный интеллект наделили ученые из Техасского университета в Остине. ИИ считывает изображения активности мозга и «переводит» мысли на человеческий язык в формате текста. Хотя разработка и направлена на помощь людям, потерявшим способность говорить в результате инсульта и других недугов, ее вполне могут применить и не в самых благородных целях. «Трудно понять, как вы можете помешать «плохим актерам» использовать это для плохих целей», — констатировал ученый, предупреждая, что реальность, в которой орудуют роботы-убийцы, не за горами. К слову, сам Хинтон — ярый противник применения технологий искусственного интеллекта на поле боя. Так, в 1980-е он покинул университет Карнеги-Меллона в штате Пенсильвания, потому что не хотел, чтобы его разработки финансировал Пентагон.