С чем не справится искусственный интеллект

Как используют ИИ в бизнесе

Нейросеть — это алгоритм машинного обучения, который имитирует работу нейронов в человеческом мозге. С помощью нейросетей компьютер решает задачи, которые раньше считались прерогативой человека: пересказывать и сочинять тексты, писать программы, создавать цифровые картины, управлять автомобилем. Чтобы учиться, нейросетям нужны большие объемы данных. Из них компьютер извлекает закономерности и учится, прямо как человек. В последние годы появились мощные процессоры, а также большое количество данных, которые генерируют интернет-пользователи, например, в соцсетях. Так тренировать разные нейронки стало проще. Но пока нейросети несовершенны. Какие бывают проблемы использования искусственного интеллекта, рассказываем в статье.

Битрикс24 провели исследование о проблемах применения искусственного интеллекта и выяснили, что 47,5% опрошенных представителей российских компаний готовы платить больше сотрудникам за умение пользоваться ИИ-инструментами в работе. Но ожидают, что так сотрудники повысят производительность труда и будут тратить освободившееся время на то, чтобы приносить прибыль бизнесу.

А вот нейросети в этом плане ограничены. Если нейросеть умеет генерировать изображения, это не значит, что она способна создать красивый слайд для презентации. Хотя OpenAI (создатели ChatGPT), «Яндекс» и «Cбер» сегодня работают над нейронками, которые умеют сразу все: писать тексты и код, создавать изображения и быть компаньоном-собеседником.

Исследование в области нейронных сетей началось более полувека назад, однако прорыв произошел только недавно. В последние годы ИНС эксплуатируются в различных областях, например для диагностирования заболеваний с помощью определения классов медицинских снимков, целевого маркетинга, исследования поведенческих данных, прогноза электрической нагрузки, проверки качества, определения химических соединений и т.д.

Ещё одним недостатком нейросети является то, что она – аппроксиматор, при настройке которого не вычисляется целевая функция, а осуществляется подбор функций, складывающихся и за счет этого дающих результат в виде набора значений, похожего на исходный. Вследствие этого, выходные данные ИНС, фактически, всегда будут с ошибкой, значение которой заранее не известно, но есть возможность её уменьшить до рационального уровня во время обучения.

Пользователи нейросетей делятся с ними своими данными. Например, когда просят составить текст договора для трудоустройства с использованием своей личной информации. Хакеры взламывают серверы таких систем, чтобы украсть данные пользователей. Так, например, мошенники получили доступ к конфиденциальным данным Samsung из-за того, что один из сотрудников ввел информацию в ChatGPT. Нейросети защитить сложно — это большие и сложные системы, которыми пользуются миллионы людей.

В реальном мире часто возникают задачи, которые сложно решить математическими методами. Представьте, что вы создаете самопилотируемый автомобиль. Вам нужно указать в алгоритме, как машина должна действовать, если человек внезапно выбежал на дорогу. Должен ли автомобиль резко свернуть на обочину, рискуя жизнью людей в салоне? Или продолжить двигаться вперед, ведь по правилам человека там быть не должно? Люди принимают такие решения за доли секунды не задумываясь. Но выразить их в коде гораздо сложнее.

Когда человек узнает новую информацию, он сразу может ее использовать, когда принимает решения. Среди недостатков нейросетей: им требуется время. Например, чтобы научиться играть в стрелялку, нейросети нужно попробовать сотню раз, чтобы разобраться, куда можно и нельзя ходить. Человеку это понятно интуитивно, а ИИ учится методом проб и ошибок. При этом если препятствия или враги появляются неожиданно, нейросеть будет действовать неадекватно, полагаясь на историю своих игр, а не на реальную ситуацию.

Проблемы использования нейросетей

Главная проблема нейросетей ― у ИИ нет здравого смысла, как у человека. Например, нейросеть распознает объекты на изображении, но не всегда понимает, что происходит. Она знает, что «мяч» и «окно» — это объекты, но не знает, что если бросить мяч в окно, стекло разобьется. Для человека это очевидно, а для нейросети — нет. Из-за этого на предсказания нейросети нельзя полагаться на сто процентов.

Нейросети позволяют создавать значения из большого количества неточных или сложных значений, а также аппроксимировать, классифицировать и распознавать более точно и быстро в сравнении с классическими алгоритмами. Хотя во многих задачах человеческий мозг превосходит возможности существующих на сегодня ИНС, их преимущества нельзя игнорировать, поэтому они имеют широкое применение. Их достоинства:

Нейросети, как и люди, бывают предвзятыми. Например, в дискриминации обвинили программу, которая несколько лет помогала отделу кадров в Amazon отбирать резюме разработчиков. Алгоритм обучили выбирать соискателей, чьи резюме были похожи на резюме сотрудников, которые уже работают в компании. А мужчин в IT-индустрии — больше 90%. Алгоритм видел резюме преимущественно от мужчин и, соответственно, среди кандидатов выбирал именно их. После того, как проблема ИИ с дискриминацией женщин вскрылась, компания перестала использовать программу.

Этого опасаются копирайтеры, редакторы и сценаристы — все чаще их задачи дают нейросетям. Разработчики нейросетей и сами подогревают эти опасения: на сайте компании OpenAI говорится, что ИИ повлияет на 80% рабочих мест, особенно на те, которые требуют изучения большого объема данных.

Хотя работа искусственных нейронных сетей имеет довольно много преимуществ, но имеются и некоторые недостатки. Например, проблема насыщения сети: чем больше значения сигналов, тем ближе к нулю градиенты активационной функции, что мешает подбору наилучших коэффициентов. Кроме того, большинство вариантов проектирования искусственных нейронных сетей – эвристические, а значит, не дают единственно верных решений. Также требуется много времени и усилий для многоцикловой настройки элементов модели и их связей и последующего построения непосредственно модели.

Вы можете почувствовать себя на месте инженеров, которые решают основные проблемы искусственного интеллекта, с помощью сайта Moral Machine. Он предлагает пользователям выбрать, какому пешеходу или водителю они бы сохранили жизнь, ― оказывается, что сделать это сознательно невероятно трудно.