Преодоление рисков искусственного интеллекта: анализ и рассеивание опасений, угрожающих дальнейшему развитию ИИ

В последнее время большое внимание уделяется рискам и негативным последствиям использования искусственного интеллекта.

85% опрошенных заявляют о важности рисков, связанных с доверительностью искусственному интеллекту. Данные опасения наиболее тесно связаны с качеством продуктов и услуг, которые предоставляет компания, и таким образом оказывают влияние на репутацию компании.

В Deloitte отмечают стремительное развитие технологий искусственного интеллекта во всех отраслях. В 2020 году наблюдается значительное увеличение инвестиций в сферу ИИ. Использование искусственного интеллекта влечет за собой ряд преимуществ для организации: повышение эффективности бизнес-процессов, более эффективное принятие решений, повышение производительности труда, улучшение продуктов и услуг.

Крайне важен качественный механизм управления и коммуникаций. Общественное мнение и мнение сотрудников часто не имеют ничего общего с тем, насколько хорошо работает ИИ. В ближайшие годы искусственный интеллект, вероятно, изменит многие организационные роли. Примером является компания Humana, которая заменила часть операторов колл-центра на ИИ, освобождая перегруженных сотрудников от необходимости предоставления базовой информации. Необходима качественная работа с командами по коммуникациям и маркетингу, чтобы убедиться, что и сотрудники, и клиенты адекватно понимают и видят ценность в использовании ИИ. Кроме того, важно предвидеть и оперативно адаптировать бизнес-процессы к появляющимся нормативно-правовым нововведениям.

Степень обеспокоенности компаний вопросами качества использования ИИ зависит от развитости самой компании. Крупные, развитые, успешные компании менее обеспокоены рисками от использования искусственного интеллекта, так как обладают большими ресурсами для повышения его качества.

Для обеспечения понятности и прозрачности процесса принятия решений ИИ необходимо формирование так называемого «объяснимого искусственного интеллекта» — это развивающаяся область компьютерных наук, формирующая модели ИИ, которые лучше объясняют себя. В настоящее время «объяснимый искусственный интеллект» может предоставить общую информацию о том, как программа принимает решение, раскрывает сильные и слабые стороны программы, критерии принятия решения. Последние рекомендации Министерства торговли США предлагают четыре принципа оценки объяснимости ИИ: предоставление доказательств и обоснований по каждому результату; предоставление понятных для пользователей объяснений; корректность системных объяснений; работа системы только в тех условиях, для которых она была разработана.

Более 90% опрошенных руководителей технологических компаний согласны с тем, что ИИ будет лежать в основе следующей технологической революции и что он возьмет на себя рутинные задачи, позволяя людям иметь больше свободы для творческой реализации. Потенциальная ценность искусственного интеллекта для нашего мира может быть слишком высока, чтобы руководители бизнеса уклонились от нее из-за чрезмерных предостережений. Использование ИИ в процессах производства товаров и оказания услуг уже сейчас обеспечивает компании конкурентное преимущество по сравнению с другими.

Искусственный интеллект обладает огромным преобразующим потенциалом.

Ключевыми факторами, вызывающими обеспокоенность темпами внедрения искусственного интеллекта, являются доверительность в процессе принятия решений ИИ, вопросы этики и использования данных, а также неопределенность на рынке. Доверительность в данном вопросе означает признание компанией надежности использования инструмента искусственного интеллекта, безопасность системы, а также способность понять, обосновать или объяснить процесс принятия решений ИИ. Этическая составляющая рассматривает, является ли использование искусственного интеллекта полезным для общества, а также вопросы конфиденциальности данных, справедливости, предвзятости и потенциальной потери рабочих мест. Неопределенность на рынке — это независящие от компаний факторы, такие как изменение нормативно-правовой базы, мнение общественности и сотрудников. Эти факторы не связаны с качеством ИИ, но они влияют на возможности его использования. На изображении ниже отражена степень важности данных факторов (по мнению участников опроса).

Эксперты Deloitte провели опрос 2737 руководителей ИТ- и бизнес-подразделений из девяти стран в период с октября по декабрь 2019 года. Все участвующие компании внедрили технологии искусственного интеллекта и поделились своим опытом, преимуществами и недостатками использования ИИ в работе.

СУБЪЕКТЫ ПРАВА / ЦИФРОВЫЕ ТЕХНОЛОГИИ / ЦИФРОВЫЕ ПРАВА / РИСКИ И УГРОЗЫ / ИНТЕЛЛЕКТУАЛЬНАЯ СОБСТВЕННОСТЬ / ИНТЕЛЛЕКТУАЛЬНЫЕ ПРАВА / РИСК-МЕНЕДЖМЕНТ / SUBJECTS OF LAW / DIGITAL TECHNOLOGIES / DIGITAL RIGHTS / RISKS AND THREATS / INTELLECTUAL PROPERTY / INTELLECTUAL RIGHTS / RISK MANAGEMENT

55% респондентов указали на важность факторов неопределенности на рынке и вытекающие отсюда вопросы целесообразности инвестиций. Данная категория включает в себя широкий круг вопросов: от общественного мнения до неоднозначной нормативной базы. Обеспокоенность вызывают новые правила и нормы, касающиеся защиты данных, распознавания лиц и прозрачности решений. Компании, применяющие искусственный интеллект, обеспокоены реакцией общественности на ошибки ИИ, а также отношением сотрудников к использованию ИИ.

Только четверо из десяти респондентов заявили о полной готовности использовать ИИ в своем бизнесе. Чтобы повысить доверие к искусственному интеллекту, организациям следует обеспечить прозрачность, надежность и безопасность своих инструментов и решений и наличие системы подотчетности.

Управление неопределенностями на рынке требует иных подходов. Изменение нормативных требований и колебания общественного мнения и мнения сотрудников всегда являются характерной чертой новых и революционных технологических преобразований. Хотя компании не всегда могут полностью их контролировать, руководители могут предпринять шаги для более успешного управления ими.