Искусственный разум: чего ждать людям от умного железа

Что есть ум

Этот процесс не остановить никакими запретами и действиями – слишком большие преимущества появляются как у отдельной личности (SHS), так и у тех, кто владеет ГИИ. У них появляется возможность формировать своих адептов, подчиненных прямому воздействию ГИИ. Вот здесь наличие множества ГИИ государственного и частного характера может сыграть трагическую роль в судьбе человечества.

В ходе дискуссии «Great AI Debate» Илон Маск отметил, что потенциал ИИ стоит того риска, о котором все говорят, даже если эта технология может выступить против человечества. Он так оценил ситуацию: «Я думаю, что есть некоторый шанс, что искусственный интеллект положит конец человечеству… Это 10–20% или около того». Таким образом, даже не представляя точно, как это может произойти, многие оценивают ситуацию как потенциально опасную, приписывая ГИИ возможность злого умысла против человечества.

Может показаться, что нет ничего страшного от создания систем генеративного искусственного интеллекта, конкурирующих друг с другом. Но это не так. Уже появилась технология, несущая не только решение трудных ситуаций у людей, но и явную, и реальную угрозу человечеству.

Некоторые мыслители не без основания предсказывают, что искусственный разум оставит нас совсем без работы. Роботизация уже сделала ненужной массу профессий, к примеру типографского наборщика или штурмана, и обесценит еще многие. Но как показывает практика, механизация труда порождает новые профессии, в которых интеллектуальные и творческие способности людей раскрываются с новой силой. Чем больше задач мы будем отдавать на откуп нашим виртуальным двойникам, тем больше времени оставим себе, чтобы заниматься действительно важными и сложными вещами. Например, прогнозировать поломки на крупных энергопроизводящих станциях, в том числе атомных.

Можно заметить, что существуют коллективные формы разума, как, например, поведение той же биоты или человеческих сообществ. Объединяя все живое таким образом, все разнообразие флоры и фауны можно отнести к разумным формам материи. Однако в Природе мы наблюдаем намного более сложные действия, выходящие за рамки этих двух основных функций живого организма. Это позволяет все разнообразие этих действий отнести к проявлениям интеллекта, и чем сложнее функционирование за рамками размножения и поддержания жизни объекта Природы, тем выше интеллект этого объекта.

Компания Open AI отказалась от своей некоммерческой сущности, а Маск, вышедший из учредителей этой компании, закрыл им доступ к данным своей сети Х (Twitter). Очевидно, что этот процесс вскоре затронет все государства и частные организации, развивающие собственные системы ГИИ. К этому надо быть готовым, создавая свои социальные информационные сети и, главное, научные базы данных, вступая в кооперацию с дружественными странами по этим вопросам, развивая свои технологии и исследования во всех областях, связанных с созданием ГИИ.

«Создаваемая нами на основе нейросетей интеллектуальная система сможет предсказать, когда совокупность определенных факторов приведет к поломке того или иного крупного агрегата станции. Дело в том, что различные участки крупных механизмов редко выходят из строя поодиночке. Чаще всего аварию вызывает одновременное, например, изнашивание деталей. Человек просто не способен провести расчет и анализ такого объема данных, чтобы понять, когда возникнет неисправность и что станет ее катализатором», — рассказывает Валентин Климов, заместитель директора Института интеллектуальных кибернетических НИЯУ МИФИ.

Таким образом, интеллект играет важнейшую роль в развитии и существовании живой материи. Однако основные функции – движение для поддержания своего существования и размножение – остаются определяющими характеристиками, разделяющими материю на разумную и костную формы. Значение живой материи состоит в том, как писал Вернадский, что «живое вещество является носителем и создателем свободной энергии. Эта свободная энергия – биогеохимическая энергия – охватывает всю биосферу и определяет ее историю. Она меняет миграцию химических элементов, строящих биосферу, и определяет ее геологическое значение».

Критика искусственного разума

Но не только процессоры являются полем для конкуренции. Еще более серьезным является доступ к данным информационных, научных и социальных сетей, которые, собственно, и определяют эффективность ГИИ. Последнее обстоятельство важно тем, что, как показала эксплуатация существующих систем генеративного искусственного интеллекта, их эффективность повышается с увеличением количества используемых источников информации, доходящих до сотен миллиардов и стремящихся к триллионам. Следовательно, в стремлении выиграть гонку ГИИ государственные и частные источники информации будут либо ограничивать доступ к своим сетям, либо переводить их на коммерческую основу. Это уже и происходит.

Очевидно, что ИИ – это магистральный путь человечества, так как потенциально открывает совершенно новые возможности развития. Но до создания единого мощного и адекватного ИИ предстоит долгий путь конкурентной борьбы. Как писал В.И. Вернадский: «Разум есть преходящее проявление высших форм жизни… Им не может явиться человеческий мозг. Человек не есть венец творения… Homo sapiens не является обладателем совершенного мыслительного аппарата».

Движение для существования и размножение – основные условия для того, чтобы отнести объект к живой материи. Действительно, например, электроавтомобиль, оснащенный ИИ, узнает водителя, слушает команду и движется автономно по маршруту, может ответить на вопрос, доставить до места, встать на подзарядку… Но при всех интеллектуальных функциях у него нет главного – способности к размножению, к созданию себе подобных, что сразу переводит его в разряд неживой материи. С другой стороны, человек с тяжелым поражением головного мозга, может выполнять действия по поддержанию основных жизненных функций, размножаться, но не осознавать окружающую обстановку из-за отсутствия интеллекта. Относясь полностью к разумной форме материи, пример такого человека показывает, что интеллект играет ключевую роль для Homo sapiens.

Темпы развития искусственного интеллекта и радуют, и пугают, приближая время, когда нам придется отвечать на этические вопросы. Считать ли каждую умную программу отдельной личностью, какими правами и обязанностями ее наделять, регламентировать ли ее труд? Научный прогресс остановить сложно, а значит, нам придется делить с искусственным разумом жизненное пространство, и хочется верить, что мы станем друзьями.

Если вдуматься, то ведь и у человека мозг – это неподвижный орган, управляющий движениями тела, мыслями и действиями, и именно он ответственен за последствия этих действий, потребляя, кстати, при этом больше всего энергии. В момент, когда будет решена проблема автономного коммуникативного взаимодействия мозга человека и ГИИ, можно будет говорить, о появлении SHS и вступления Природы на новый уровень развития.

В свою очередь, академик Никита Моисеев в книге «Экология человечества глазами математика» отмечал: «Разуму свойственны свои законы. Он обладает волей, он способен к целенаправленной деятельности, не только к сохранению самого себя. Но и к саморазвитию… Разум способен формулировать свои законы, точнее – свои правила поведения, которые суть следствие его целенаправленных усилий».