Кто против искусственного интеллекта

О каких рисках идет речь

Нужно ясно понимать: когда искусственный интеллект генерирует контент, он не создает ничего нового — не будет новой поэмы Пушкина или новых философских концепций Канта или Аристотеля. Максимум, что сейчас можно получить, — это «салат» из всех поэм Пушкина, сделанный по типовому рецепту.

Искусственный интеллект, который разрабатывает принадлежащая Google компания DeepMind, вызывает большие опасения, заявил гендиректор Tesla Илон Маск в интервью The New York Times. Маск — давний сторонник контроля за разработкой компьютерного мышления, и, по словам миллиардера, DeepMind на данный момент беспокоит его больше всего.

Работа над искусственным интеллектом для автомобилей Tesla показала миллиардеру, что человечество уже приближается к ситуации, когда искусственный интеллект будет существенно умнее, чем люди. «Я думаю, что до этого меньше пяти лет. Это не значит, что все пойдет к чертям через пять лет. Просто ситуация станет нестабильной или странной», — прогнозирует Маск. По его словам, многие умные люди недооценивают искусственный интеллект, потому что даже не думают, что компьютер может быть столь же умным, как человек. «Это гордыня и очевидная ошибка», — категоричен бизнесмен.

Авторы письма, опубликованного спустя всего две недели после того, как американская исследовательская лаборатория OpenAI раскрыла подробности нового, самого продвинутого на сегодняшний день чат-бота GPT-4, предлагают ввести полугодовой мораторий на обучение систем, более мощных чем чат-бот GPT-4. Свой собственный чат-бот Bard также отрыла для тестирования компания Google.

Принадлежащий Google стартап DeepMind разрабатывает искусственный интеллект, который на данный момент является самым опасным для человечества, считает Илон Маск. Он допускает, что уже через пять лет компьютерное мышление превзойдет человека

В промышленности внедрение технологий ИИ также приобретает все больший размах, например при прогнозировании выхода из строя оборудования — оптимизация расходов на газонасосное оборудование может крупной нефтяной компании сэкономить миллиарды рублей в год, а также предотвратит техногенные катастрофы.

Искусственный интеллект сегодня – это революционное средство для решения множества задач или всего лишь хайп, вводящий в заблуждение относительно практического применения этих технологий? В издательстве “Открытые системы” вышла статья “Искусственный интеллект: за и против”, в которой представлены два противоположных мнения на эту тему. Свою точку зрения в статье высказывают главный конструктор Luxms BI Дмитрий Дорофеев и директор по развитию бизнеса Александр Тютюнник.

Плохое качество входных данных
Один из самых значительных барьеров на пути к эффективному использованию машинного обучения — это низкое качество данных, поступающих на вход моделей. Данные часто бывают неполными или ошибочными, что снижает точность, надежность и достоверность предсказаний модели.

Искусственный интеллект на пике популярности
Искусственный интеллект стал центральной темой благодаря достижениям в машинном обучении и появлению таких инструментов, как ChatGPT, — образовалась уникальная точка в пространстве и времени, в которой начинают переплетаться множество инициатив различных организаций и сфер деятельности, создавая единое тематическое поле. Это, в частности, связано с государственной поддержкой ИИ.

Решение подобных задач в комплексе включает в себя не только предсказание вероятности выхода из строя оборудования в течение определенного времени, но и построение предиктивной модели складского учета и закупки оборудования. Это позволит более эффективно решать актуальную сегодня для многих предприятий задачу обеспечения непрерывности производства.

Где реально выстрелил ИИ?
Если говорить о массовом практическом применении искусственного интеллекта в различных секторах экономики, то его пока не наблюдается. Зато машинное обучение, наряду с другими сложными математическими методами, активно используется. Например, модель расходов и оптимизации операционной деятельности одного из отечественных нефтедобывающих предприятий учитывает более 8 тыс. параметров — на математическом уровне подобные задачи решаются достаточно просто и без методов машинного обучения. Однако даже относительно простая математика на таком объеме показателей становится достаточно медленной, особенно при интеграции с десятками корпоративных систем.

Схожая ситуация наблюдается и с методами машинного обучения, когда возникает задача по неструктурированным данным распознать паттерны поведения выборки и научиться прогнозировать. Статистические и математические методы в этом случае не применимы — как правило, не существует линейных функций и четких корреляционных зависимостей, а область исследования предполагает учет множества параметров.

Банковский сектор также активно использует методы машинного обучения, например, еще недавно считалось, что скоринг, выполненный человеком, — самый точный, но сейчас, когда решение по заемщику нужно принимать за 10–20 секунд, скоринговые модели, обученные с помощью машинного обучения (например, градиентный бустинг), становятся незаменимыми, став уже фактическим стандартом у ведущих банков.

Бессилие ИИ
Несмотря на то, что в ряде прогрессивных организаций подразделения, занимающиеся искусственным интеллектом и машинным обучением, уже выделены в отдельные бизнес-единицы и рассматриваются как ключевые структурные элементы — все же это движение не стало массовым. Прогнозирование инфекционных заболеваний, оптимизация логистики, скоринг заемщиков — все эти достижения впечатляют, но напоминают о ситуации, когда 10–15 лет назад в каждой компании был аналитик, который по заказу различных подразделений создавал аналитические записки. Эти действия рассматривались отдельно от основных бизнес-процессов. Например, если возникала необходимость разобраться в эффективности воронки продаж, аналитик начинал работу по запросу, предоставляя информацию руководству. Однако это не означало, что аналитика была полностью интегрирована в операционную или производственную деятельность компании. Массового перехода к более интегрированному подходу пока нет — даже самые современные решения, разработанные с использованием искусственного интеллекта, воспринимаются как отдельные проекты, а их интеграция в повседневные бизнес-процессы оставляет желать лучшего.

В экспертном сообществе можно сегодня встретить как минимум два противоположных взгляда на перспективы использования искусственного интеллекта. Первое, оптимистичное, мнение — у ИИ имеется огромный потенциал использования и соответствующие технологии уже сейчас приносят значительные результаты и еще больше принесут в будущем. Второе, скептическое, мнение — нынешняя популярность ИИ это не более чем хайп и через несколько лет генеративные нейросети займут свое «достойное» место по генерации мусорного контента в промышленных масштабах.

Нейросеть, обучаемая на собственных результатах, рано или поздно схлопнется, перестанет выдавать даже относительно приемлемый контент, который с каждым разом будет становиться все более однородным. И это также отсылает нас к первому недостатку машинного обучения — качеству входных данных.

Технологии машинного обучения нашли широкое применение и в здравоохранении. Например, платформа Luxms BI используется для мониторинга работы больниц и стационаров Москвы — в Департаменте здравоохранения города строятся прогнозные модели по инфекционным заболеваниям и различным нозологиям (причинам и условиям возникновения болезней), а также именно с помощью искусственного интеллекта решаются задачи, связанные с распознаванием болезней по снимкам МРТ. Таким образом, несмотря на скептицизм по поводу искусственного интеллекта, технологии ИИ продуктивно используются.

Нейросети — это всего лишь аппроксимация графиков
Задачи классификации и распознавания объектов действительно хорошо решаются с помощью нейронных сетей. Особенно стоит отметить успехи ChatGPT и мультимодальных нейронных сетей в генерации контента, идентичного натуральному, здесь даже скептики должны согласиться. Однако, как известно, работа нейросети сводится к аппроксимации графиков функций — удивляет, что такой простой математический аппарат, как аппроксимация графиков, удалось применить к решению большого числа проблем, в том числе и к прогнозированию. Тот факт, что стала возможной генерация контента, включая фото и видео, поражает.

Такое положение дел приводит к тому, что пока нельзя говорить о синергетическом эффекте от внедрения ИИ — соответствующие технологии позволяют решать отдельные конкретные задачи, но их влияние на всю цепочку бизнес-процессов не всегда очевидно и измеримо.

Продолжительный процесс обучения
Современные модели машинного обучения требуют значительных вычислительных ресурсов: оборудования, электричества, времени для обучения, что делает процесс крайне ресурсоемким и сдерживает широкое применение машинного обучения.