Искусственный интеллект – это машина для свободы человека

Подпишитесь на нашу рассылку

Во-первых, это проблемы открытости данных. Машине для обучения, повторюсь, нужны огромные выборки данных. А где их брать? Например, для разработок в области медицины. Насколько этично раскрывать данные о ДНК для использования их для обучения машины? Законодательства многих стран не позволяют использовать эти данные. Во-вторых, это проблемы, возникающие, когда машина выдает решения, связанные с расовыми или гендерными особенностями.

А проблемы, связанные с правами человека? Например, система «Окулус», которая обучена делать выводы о чертах характера человека на основании анализа его поисковых запросов в Интернете, – насколько этична подобная тотальная слежка, которую делает возможной именно искусственный интеллект?

Вообще, можно выделить два больших периода и две противоположных парадигмы исследования искусственного интеллекта. Первый период, он и исторически первый, когда центральной идеей было создание так называемого искусственного интеллекта, реализованного в экспертных системах. Машину обучали правилам по принципу «если – то», и эти правила были основанием определенной экспертной системы, позволяли получать знания. Это был дедуктивный подход, принцип «от общего к частному». Эта волна исследований «замерзла», главным образом потому, что трудно найти экспертов в разных областях знания, формализовать все имеющиеся знания, и к тому же сами знания все время меняются, появляются все новые и новые открытия, системы, и такой экспертный искусственный интеллект попросту не успевал за реальным развитием науки.

Мы открыли программу для магистров два года назад. Могу сказать, что я доволен тем, как работает эта программа, хотя и трудности есть. Конкурс к нам большой, и это свидетельствует об интересе к проблеме искусственного интеллекта у молодежи. Многие студенты участвуют в реальных проектах, один из плюсов программы – практическое обучение. Есть и дисциплины, например, «Философия искусственного интеллекта», которые изучают общественно значимые проблемы. Мы вообще стараемся дать разносторонние знания. Я включил в программу изучение направления, связанного с экспертными системами в разработке искусственного интеллекта, этого предмета нет почти нигде больше. Но я считаю, что это необходимо, потому что, с моей точки зрения, будущее за комбинированным дедуктивно-индуктивным подходом. У человека есть априорные знания, и машина должна иметь некие априорные установки, с которыми она будет соотносить свои статистические данные.

Мы знаем, что научные разработки стимулируются творческим воображением и интуицией. Многие научно-технические достижения вначале появились в фильмах и книгах, а затем, действительно, воплотились в реальность. Так же человеческое воображение рисует и страхи, связанные с развитием искусственного интеллекта. Есть ли риски, связанные с самообучением машин? Может ли искусственный интеллект выйти из-под контроля?

Ведутся ли разработки в области соединения этического подхода и, условно говоря, эмпатии, вернее, возможностей учета машиной так называемого «человеческого фактора»? Ну, например, когда машина диагностирует онкологическое заболевание и рекомендует пациенту сложную операцию, не учитывая какие-то специфические обстоятельства, связанные с возможным стрессом пациента от самой информации.

Что такое обработка естественного языка?

Еще одна из ключевых этических проблем, связанных с ИИ, — это конфиденциальность. Поскольку системы искусственного интеллекта собирают огромные объемы данных из баз данных по всему миру, необходимо обеспечить защиту личной информации и ответственное ее использование. Например, технология распознавания лиц, часто используемая в системах безопасности или на платформах социальных сетей, вызывает вопросы о получении предварительного согласия и возможном неправомерном использовании.

О творчестве, свободе, сложностях и перспективах разработки искусственного интеллекта рассказывает профессор, директор Института компьютерных наук и технологий, заведующий научно-исследовательской лабораторией нейросетевых технологий и искусственного интеллекта СПбПУ, доктор технических наук Лев Владимирович Уткин.

Самообучение машины сильно отличается от самообучения человека. Если ребенку достаточно нескольких примеров и он научится самостоятельно – благодаря воображению – достраивать свой опыт, то машине нескольких примеров недостаточно, машине нужны тысячи и тысячи примеров, огромные массивы размеченных данных. Если машина сталкивается с неразмеченными данными, она не знает, что это, и не сможет домыслить или вообразить. Научная фантастика переносит на искусственный интеллект черты интеллекта человеческого, и страхи связаны с непониманием сути процессов машинного обучения. Так что самообучение – один из мифов, связанных с искусственным интеллектом. Вот, например, когда мы говорим о беспилотном автомобиле. Что делает искусственный интеллект? Он непрерывно, каждую долю секунды анализирует и классифицирует состояние окружающей дорожной среды и учитывает текущие изменения. Но если на дороге встретится новый знак, не учтенный в исходной классификации, машина его просто не распознает. Она выдаст ошибку и примет решение в рамках той ситуации, в которой находится: либо передаст информацию человеку, либо просто заблокирует все текущие процессы, остановится.

Анализируя и интерпретируя язык, NLP позволяет компьютерам извлекать полезную информацию, отвечать на вопросы и вести беседу. Например, виртуальные помощники вроде Alexa могут понимать и предоставлять информацию о температуре на улице, заголовках новостей или среднем весе косатки.

Для тех, кто не знаком с компьютерными науками, попытка разобраться в многочисленных аспектах искусственного интеллекта и их последствиях может оказаться непосильной задачей. Здесь мы расскажем, что такое искусственный интеллект, как он работает, в чем разница между машинным обучением, глубоким обучением, обработкой естественного языка и многим другим. Давайте приступим.

С этим как раз связано наиболее актуальное направление в разработке машинного обучения – объяснительный искусственный интеллект. Это модели, которые позволяют объяснять решения. Не просто выдать диагноз, но объяснить, почему и по каким признакам он поставлен. Если говорить о медицине, для врача важно получить именно объяснение диагноза, машина оказывает врачу помощь в исследовании, например в обработке рентгеновских снимков, мониторинге множества показателей жизнедеятельности и так далее. А решение и диагноз – сфера ответственности человека, врача.

Глубокое обучение — это разновидность машинного обучения. Тем не менее, глубокое обучение может анализировать больше типов информации и выполнять более сложные операции. Процесс глубокого обучения вдохновлен структурой и функциями человеческого мозга — в частности, тем, как нейроны связаны между собой и работают вместе для обработки информации. Благодаря этому, глубокое обучение позволяет делать более тонкие и глубокие прогнозы на основе предоставленных данных.

Можно сказать, что идея возникла примерно в 50-е годы прошлого века, когда был изобретен персептрон (от слова perception – англ., восприятие), математическая модель мозга Френка Розенблатта. Это была первая попытка смоделировать нейронную сеть головного мозга. Розенблатт тогда создал электронное устройство, которое должно было имитировать процессы мышления человека. Это не было прорывом, но идея уже возникла и над созданием искусственного интеллекта стали работать ученые разных стран. Эти работы знали несколько «зим» и «вёсен», периодов, когда исследования то прекращались, то вновь возобновлялись и вдохновляли новых ученых.