Искусный интеллект: почему автопилот водит машину лучше человека

Противоречивые результаты

Tesla Model S действительно не распознала белый грузовик на фоне неба, отчего машина проехала под ним, убив водителя. Однако даже представители американских властей (NHTSA), обычно скорые на расправу, не смогли утверждать, что в ДТП виноват автомобиль — однозначное указание в руководстве водителя и отсутствие у Tesla рекламы, эксплуатирующей слово «автопилот» (впрочем, у данной компании вообще пока не было коммерческой рекламы), делало такое заявление невозможным.

Самый частый вопрос в связи с гибелью человека от рук роботов — кто виноват? От ответа зависит и то, кто будет платить по страховке, разоряться в суде и многое другое. С данным конкретным случаем все, кажется, ясно: виновным, скорее всего, определят пешехода. Однако очевидно, что рано или поздно будет и такое событие, в котором причиной гибели будет ошибка беспилотного авто. С юридической точки зрения виновником в этом случае будет производитель оборудования, но только если он не оговорил отказ от ответственности так же, как это делает, например, операционная система Windows.

Но желание любой ценой догнать уходящий вперед поезд прогресса не оставляло Uber. Компания начала тестировать свои беспилотники на дорогах Калифорнии. Один из них почти тут же попал на камеру едущим на красный свет, причем рядом с пешеходом, переходившим дорогу по всем правилам. Uber попытался спасти лицо, заявив, что в этот момент управление беспилотником перехватил ее инженер и что сама машина «не виновата». Правда, другие источники тут же недвусмысленно указали, что это неправда и разработчики просто выгораживают свое пока еще сырое детище.

Чтобы полностью понять значение инцидента, стоит напомнить два факта. Во-первых, до сих пор в ДТП со смертельным исходом беспилотники не участвовали ни разу. Во-вторых, беспилотная программа Uber уже подвергалась сильнейшей критике в связи с нарушениями ее автопилотом правил дорожного движения (езды на красный в присутствии пешеходов и так далее).

В Темпе (штат Аризона, США) во время испытаний в ночных условиях беспилотный автомобиль Uber сбил пересекавшую дорогу велосипедистку. Позднее женщина умерла в больнице от полученных травм. Это первая смертельная жертва беспилотного авто. До сих пор подобных инцидентов не случалось, хотя машины без водителей успели проехать уже несколько миллионов километров. Событие может серьезно повлиять на развитие индустрии беспилотных авто, особенно тех, что используют лидары.

С 2019 по 2023 год в 736 авариях с участием автопилота Tesla в США погибли 17 человек, 11 из них с мая 2022 года, подсчитала The Washington Post. При этом основатель Tesla Илон Маск еще в октябре 2020 года заявил, что компания завершила разработку полного автопилота Full Self-Driving, который позволяет машине ездить самостоятельно без вмешательства человека. Некоторые эксперты раскритиковали миллиардера, обвинив в том, что его заявления — всего лишь маркетинговый ход. Вместе с тем многие из них признали, что Tesla ближе всех подошла к реализации полного автопилота. Сам Маск заявил, что автомобили Tesla, работающие в режиме автопилота, безопаснее, чем автомобили, управляемые людьми, сославшись на частоту аварий при сравнении режимов вождения. Национальное управление безопасности дорожного движения (NHTSA) отметило, что факт аварии с участием автопилота сам по себе не означает, что технология стала ее причиной.

Странная трактовка происшествия в российских СМИ («первая смерть на счету беспилотного авто») была вызвана слабым знакомством с темой отечественных автомобильных журналистов. Они буквально перевели слово Autopilot (коммерческое наименование продвинутого круиз-контроля Tesla) как «автопилот». Ни в доступное в сети руководство для владельцев электромобилей, ни на сайт компании, описывающей сущность этого «автопилота», никто не заглянул. Также прошел мимо внимания российской прессы и тот факт, что сама Tesla неоднократно отмечала: действительно, беспилотный режим будет доступен на ее машинах лишь после соответствующего программного апдейта, о котором будет сообщено дополнительно (сейчас он планируется на 2018—2019 годы).

— Никто не говорит об авариях, которые происходят с машинами Nissan или Toyota, Volkswagen, потому что это обычное дело, но зато когда происходит авария с Tesla, эту аварию со всех сторон рассматривают. Это говорит о простой вещи — такие аварии случаются, но они очень редки, — указал специалист. Он выразил уверенность, что Tesla является одним из самых безопасных автомобилей в мире именно благодаря системам активной помощи водителю.

Вопросы настройки

Беспилотные технологии всё еще требуют доработки. Как сообщил министр транспорта Виталий Савельев, двум беспилотным «КамАЗам» из трех, которые участвуют в эксперименте по беспилотной доставке грузов на М-11, после запуска эксперимента потребовалась корректировка алгоритмов. «Три «КамАЗа» доехали нормально, сейчас работает пока один «КамАЗ», в двух мы переписываем математику, но это нормальный процесс. По уверению [гендиректора КамАЗа Сергея] Когогина, вопросы сейчас есть, это вопросы настройки», — отметил глава Минтранса РФ. В Сети можно найти много жалоб москвичей на неудобства, которые создает роботакси «Яндекса». В частности, жители столицы жалуются на то, что беспилотники «тормозят» на пустых перекрестках, препятствуют движению пешеходов.

В Набережных Челнах приступили к тестированию первого грузовика с автопилотом еще в 2015 году. Тогда на серийный КамАЗ-5350 установили компоненты, необходимые для отработки разных режимов автономного движения и протестировали на полигоне. Оборудование включало в себя радары, лидар, видеокамеры, системы связи и бортовые компьютеры.

Первый случай смерти в ДТП по вине ИИ произошел в 2016 году в штате Флорида, США, когда Tesla Model S столкнулась с трейлером, пересекавшим шоссе в неположенном месте. Водитель электромобиля, погибший в результате аварии, полностью доверил управление транспортным средством автопилоту. Расследование аварии привело к выводу, что ошибок в программе автомобиля не было. В Tesla сочли, что причиной ДТП стал белый цвет прицепа грузовика, который машинное зрение не распознало вовремя на фоне яркого неба. По еще одной версии автопроизводителя, ИИ дал сбой из-за длинного свеса прицепа и большого дорожного просвета — якобы эти факторы помешали электронике увидеть препятствие. Спустя два года в штате Аризона, США, случилось еще одно смертельное ДТП с участием беспилотника. Инцидент произошел по вине автопилота компании Uber, интегрированного в кроссовер Volvo XC90. Машина насмерть сбила пешехода, переходившего дорогу в неположенном месте. Женщина вышла из тени со смартфоном в руках и не заметила приближающийся автомобиль, двигавшийся со скоростью 60 км/ч. При этом, как выяснилось в ходе расследования, ИИ успел распознать преграду на своем пути, но по непонятным причинам решил продолжить движение. В результате наезда женщина скончалась в больнице от полученных травм.

Поздним вечером 18 марта женщина переходила дорогу вместе со своим велосипедом. Ехавший по той же улице автомобиль Uber, оснащенный лидаром (лазерный аналог радара) и иным оборудованием для беспилотного вождения, сбил женщину, после чего ее доставили в больницу, где она умерла. Находившийся в машине инженер Uber не успел вовремя вмешаться, перехватить управление и предотвратить трагедию. По всей видимости, он так же не успел заметить пешехода. Двигался в этот момент автомобиль на скорости 64 км/ч.

В России начали активно внедрять беспилотный транспорт под управлением искусственного интеллекта (ИИ). При этом, как показало исследование, почти половина опрошенных россиян против установки ИИ в свои автомобили. Еще треть и вовсе опасаются автопилотируемых транспортных средств. Достаточно ли безопасны подобные средства передвижения и как производители завоевывают доверие водителей — разбирались «Известия».

Статистика по авариям, связанным с автопилотом Tesla в США, может вызвать определенные опасения. Однако для более обоснованного ответа на этот вопрос следует провести корреляционный анализ числа аварий, смертей и пострадавших от автомобилей с автопилотом относительно общего числа автомобильных аварий, отметил в разговоре с «Известиями» инженер по компьютерному зрению 2people IT Алексей Коновалов. Эксперт по беспилотным технологиям, главный системный архитектор АО «НИИАС» Юрий Минкин обратил внимание, что каждую аварию с Tesla активно обсуждают, потому что это очень популярный автомобиль, в отличие от других моделей.