Искусственный интеллект: защитить и защититься

Риски и опасения, связанные с ИИ

Конкретные алгоритмы или даже решения – не самое главное в успехе ИИ в медицине. Примеры успешных идей публикуются открыто, а программное обеспечение уже сейчас доступно по модели СПО. Например, DeepLearning4j (DL4J) — https://deeplearning4j.org/, Theano — http://deeplearning.net/software/theano/ , Torch — http://torch.ch/ , Caffe — http://caffe.berkeleyvision.org/ и ряд других.

Согласно данным IDC, объём рынка когнитивных систем и технологий ИИ в 2016 году в денежном выражении составил приблизительно 7,9 млрд. долл. Аналитики полагают, что до конца текущего десятилетия среднегодовой темп роста (CAGR) окажется на уровне 54%. В результате, в 2020 г. объём отрасли превысит 46 млрд. долл. Наибольшую долю этого рынка составят когнитивные приложения, которые автоматически изучают данные и составляют различные оценки, рекомендации или прогнозы. Инвестиции в программные платформы ИИ, которые предоставляют инструменты, технологии и сервисы на основе структурированной и неструктурированной информации, будут измеряться 2,5 млрд. долл. в год. Рынок искусственного интеллекта в области здравоохранения и наук о жизни, по оценкам Frost & Sullivan, также будет расти на 40% в год, достигнув в 2021 г. уровня 6,6 млрд. долл..

В январе 2017 г. программа Libratus, разработанная в Университете Карнеги — Меллона победила в 20-дневном покерном турнире «Brains Vs. Artificial Intelligence: Upping the Ante», выиграв на сумму более 1,7 млн. долл. Следующая победа была одержана улучшенной версией ИИ под названием Lengpudashi, против выступал участник Мировой серии покера (WSOP) Алан Дю, а также ряд ученых и инженеров. Причем особенность этой ситуации состояла в том, что игрок планировал одержать победу над ИИ, используя его слабые стороны. Тем не менее, стратегия не сработала, и продвинутая версия Libratus вновь одержала победу. Как сообщает Blomberg, один из разработчиков Libratus Ноам Браун сказал, что человек недооценивает искусственный интеллект: «Люди думают, что блеф характерен для людей, но это не так. Компьютер может понять, что если блефуешь, то выигрыш может быть больше».

В-третьих, необходимо решать проблемы надежности. Сценарии приложений с высокой производительностью в реальном времени (например, автономное вождение) требуют, чтобы модель алгоритма была доступна в любое время. Если данные подвергаются направленным помехам перед входом в основной модуль искусственного интеллекта, это может привести к немедленному ошибочному суждению.

Опасения экспертов заключаются в том, что, хотя искусственный интеллект и принесет радикальное повышение эффективности в различных отраслях, для простых людей это приведет к безработице и неопределенностям в карьере, поскольку их «человеческие» рабочие места заменяются машинами.

Недавно разработчики IBM совместно с Американской кардиологической ассоциацией приняли решение расширить возможности Watson, предложив помощь системы и кардиологам. По задумке авторов проекта, когнитивная облачная платформа в рамках этого проекта будет анализировать огромное количество медицинских данных, имеющих отношение к тому либо иному пациенту. В число этих данных входят изображения с УЗИ, рентгеновские снимки и все прочая графическая информация, позволяющая уточнить диагноз человека. В самом начале возможности Watson будут использоваться для поиска признаков стеноза аортального сердечного клапана. При стенозе отверстие аорты сужается за счет сращивания створок её клапана, что препятствует нормальному току крови из левого желудочка в аорту. Проблема в том, что выявить стеноз клапана не так и просто, несмотря на то, что это очень распространённый порок сердца у взрослых (70-85 % случаев среди всех пороков). Watson попытается определить, что он «видит» на медицинских изображениях: стеноз, опухоль, очаг инфекции или просто анатомическую аномалию – дать соответствующую оценку лечащему врачу, чтобы ускорить и повысит качество его работы.

Стандарты безопасности и этики ИИ включают стандарты безопасности, относящиеся к самому ИИ и его платформам, технологиям, продуктам и приложениям, а также спецификации, связанные с этикой и защитой конфиденциальности. В настоящее время стандарты безопасности и этики искусственного интеллекта — это в основном стандарты безопасности для некоторых приложений в таких областях, как распознавание биометрических характеристик и автоматическое вождение, а также вспомогательные типы стандартов безопасности, такие как безопасность больших данных, защита конфиденциальности и прочих.

В дополнение к SC 42 подкомитет ISO/IEC JTC 1/SC 27 по информационной безопасности, кибербезопасности и защите частной жизни в рамках своей собственной рабочей группы WG 5 по управлению идентификацией и технологиям конфиденциальности учредил исследовательский проект «Влияние ИИ на конфиденциальность». Подкомитет ISO/IEC JTC 1/SC 7 по разработке программного обеспечения и системной инженерии также разрабатывает ISO/IEC/IEEE 29119-11 по разработке программного обеспечения и системной инженерии «Тестирование программного обеспечения», целью которого является стандартизация тестирования систем искусственного интеллекта.

Атрибуты безопасности ИИ

Центр хранения данных телематической безопасности и вычислительный центр могут вычислять и анализировать огромные объемы телематических данных. Что касается возможностей обработки данных, с одной стороны, крупномасштабные кластеры, например, такие как Hadoop и Spark, обеспечивают вычислительную мощность, а с другой стороны, создавая кластеры графических процессоров, они поддерживают анализ и интеллектуальный анализ портретов транспортных средств и данных о поведении транспортных средств на основе технологии искусственного интеллекта.

Структура системы стандартов в области искусственного интеллекта предполагает и (в зависимости от страны, разрабатывающей стандарты) включает в себя пять групп стандартов: основные или фундаментальные; платформы/поддержка; ключевые технологии; продукты и сервисы; приложения.

В рамках проведенного исследования была осуществлена работа с обширным набором данных, собранных за период с 1961 по 2023 год, в т.ч. с метеорологической станции Института наук о Земле Южного федерального университета, действующей с 2016 г. Данные включали в себя показатели температуры воздуха, атмосферного давления и уровня осадков, что позволило провести всесторонний анализ климатических условий на протяжении длительного временного интервала.

— Конфиденциальность модели гарантирует, что модели алгоритмов и данные в системе искусственного интеллекта не будут переданы посторонним лицам на любом этапе жизненного цикла (например, при получении, обучении или выводе), например, для предотвращения атак на кражу моделей.

Рабочая группа SC 42 WG 3 по вопросам надежности фокусируется на надежности и этичности искусственного интеллекта, она провела исследования и разработки стандартов по таким темам, как доверие к ИИ, оценки надежности, предвзятость алгоритмов и этика. Эта группа разрабатывает следующие основные стандарты.

4. Системы автоматической классификации и сверки информации помогают связать информацию о пациенте, находящейся в различных формах в различных информационных системах. Например, построить интегральную электронную медицинскую карту из отдельных эпизодов, описанных с разной детальностью и без четкого или противоречивого структурирования информации. Перспективной является технология машинного анализа содержимого контента социальных сетей, интернет-порталов с целью быстрого получения социологической, демографической, маркетинговой информации о качестве работы системы здравоохранения и отдельных лечебных учреждений.

Какие именно задачи можно поручать ИИ?

Следует отметить, что проект Watson, как и любой новаторский продукт, не ставил перед создателями явные экономические цели. Затраты на этапы создания его компонент обычно превышали плановые, а его содержание весьма обременительно, если сравнивать с традиционными бюджетами в здравоохранении. Скорее его можно рассматривать как некий испытательный полигон, на котором можно обкатывать перспективные ИТ технологии и вдохновлять исследователей. А затем, уже проверенные и испытанные прототипы следует переводить в серийное производство, добиваясь более высоких показателей цена-качество и пригодности к эксплуатации в реальных условиях. Почти на каждой конференции по ИИ сегодня звучат доклады от исследователей стран мира с заявлениями «Мы делаем свой Watson, и он будет лучше оригинала».

SOAR (Security Orchestration and Automated Response) — системы, позволяющие выявлять угрозы информационной безопасности и автоматизировать реагирование на инциденты. В решениях данного типа, в отличие от SIEM-систем, ИИ помогает не только проводить анализ, но и автоматически реагировать надлежащим образом на выявленные угрозы.

Например, при анализе температурных данных за летний период 2023 года прогнозы DRNN показали отклонение от фактических данных на 1.5°C, что является допустимым показателем для долгосрочного прогнозирования. Модель DRNN-GRU, в свою очередь, продемонстрировала еще более точные результаты, сократив среднее отклонение до ±1.2°C. Это стало возможным благодаря использованию блоков GRU, которые позволяют более эффективно обрабатывать и запоминать информацию о предыдущих состояниях системы, что критически важно для учета долгосрочных паттернов в данных.

В 2005-2008 годах в работах по ИИ произошел качественный скачок. Математический научный мир нашел новые теории и модели обучения многослойных нейронных сетей, ставших фундаментом развития теории глубокого машинного обучения. А ИТ-отрасль стала выпускать высокопроизводительные, и, что главное, недорогие и доступные вычислительные системы. Итогом совместных усилий математиков и инженеров стало достижение за последние 10 лет выдающихся успехов, а практические результаты в проектах ИИ посыпались, как из «рога изобилия».

Архитектуры глубоких рекуррентных нейронных сетей (DRNN) и DRNN с блоками Gated Recurrent Units (DRNN-GRU), исследованные в работе «Улучшение долгосрочного прогнозирования температуры воздуха с помощью архитектуры глубокого обучения» , показали выдающуюся эффективность нейросетей в задачах долгосрочного прогнозирования температуры. Применение таких моделей позволяет не только повысить точность прогнозов, но и лучше понять климатические процессы, что особенно актуально в свете глобальных изменений климата.

Приложения ИИ построены на данных, моделях алгоритмов и инфраструктуре, поэтому скрытые опасности, связанные с моделями алгоритмов, безопасностью данных, защитой конфиденциальности и инфраструктурой, будут сохраняться. Исходя из этого, приложения ИИ имеют большую поверхность атаки, а риски защиты конфиденциальности становятся более заметными.

— Целостность гарантирует, что системы искусственного интеллекта не будут имплантированы, подделаны, заменены или подделаны на любой части жизненного цикла (например, сбор, обучение или вывод), моделей алгоритмов, данных, инфраструктуры и приложений продукта, таких как защита от атак выборки и атак отравления данными.

Марк Крис, доктор медицинских наук, руководитель отдела торакальной онкологии, Мемориальный центр рака Слоан-Кеттеринг, слева, и Маной Саксена, генеральный менеджер IBM, Watson Solutions работают с первым основанным на IBM Watson решением для онкологии в Нью-Йорке 11 февраля 2013 года, источник http://fortune.com/ibm-watson-health-business-strategy/