Про опасность автономных автомобилей

Я очень люблю автомобили, я обожаю процесс вождения и состою в секте адептов механической коробки передач. Но при этом я искренне жду пришествия автономных автомобилей, с последующим запретом водителей и сейчас объясню почему.

В своё время я читал про любопытный эксперимент с равномерным движением: машины и водителей просто гоняли по плотному кругу, так что образовывалось равномерное кольцо из машин. Пока машины ехали на «круизе» с равной скоростью — проблем не было. Но стоило начать изменение скорости (любое), как происходил коллапс и пробка.

Автономный автомобиль — это не оторванный автономный автомобиль в вакууме, это целая вычислительная сеть, в которую входят не только ЭВМ в автомобилях, но и аналогичные ЭВМ в светофорах на перекрестках, на опасных участках и т.д. И между близлежащими ЭВМ постоянно происходит обмен информацией. И этот уровень коммуникации будет гораздо обширнее, нежели принятые в ПДД указатели поворота и стоп-сигналы.

К чему это приведет:

1. Снизится количество пробок.

2. Вырастет средняя путевая скорость, при одновременном снижении пиковых скоростей. Ибо машины будут ехать максимально равномерно, по оптимальным в данный момент маршрутам.

3. Вырастет безопасность. Автономные автомобили не будут метаться из ряда в ряд, они не могут находиться в состоянии алкогольного опьянения и им не надо доказывать свою крутость соседям по потоку. Автомобиль станет чем-то вроде горизонтального лифта.

Не обойдется, конечно, и без жертв. И первой жертвой автономных автомобилей станут водители. В новом мире им просто не будет места: они просто не будут успевать за коммуникацией автономников, грубо говоря будут «мешаться под ногами» и даже самый адекватный водитель будет представлять опасность для движения.

Тут многие начнут ныть, мол, они так любят водить машину, что они против того чтобы у них отняли на это право. Особенно забавно такие слова звучат от тех, кто ездит на АКПП:-)

Я вас могу успокоить — аттракционы вроде картинга никуда не денутся. А если у вас останется ваш старый пилотируемый «динозавр» — для него будут специальные треки, даже с гаражами. Как для любителей кататься верхом.

Но интересную мысль высказал мой друг Manu : а что если какой-нибудь злодей перехватит систему управления роботами?

Меня всегда умиляла эта голливудская тема с «технологичными» злодеями. И всегда я задавал вопрос: «Зачем? Ну зачем так сложно?»

Начнем с того, что автономными автомобилями занимаются самые разные специалисты, в том числе и специалисты по кибербезопасности. Да, взломать технику можно и не очень-то и сложно — в силу специфики основной профессии я видел очень много интересных приблуд. Например ещё недавно, я сам считал мифом, что информацию можно «слить» по магнитному излучению монитора. Оказывается — это не миф. Ну да ладно.

Тут в другом дело — сейчас в Европе проходит вал террактов с использованием грузовиков. Это даже дешевле и проще чем использовать террориста-смертника. Для смертника нужно достать и провести незамеченной взрывчатку, а грузовик можно угнать чуть ли не на каждом углу. А вот с автономниками так не прокатит — нужно найти/подготовить специалиста/команду специалистов которые проведут взлом, найти/изготовить аппаратуру для взлома. Причем террористическую группу, скорее всего, накроют именно на стадии изготовления аппаратуры.

Поэтому на мой взгляд, голливудские фантазии про взбесившийся «Скайнет» пока далеки от реальности, а автономные автомобили гораздо большее благо для нас всех, нежели вред.

Как ездят беспилотники и так ли они надежны, как говорят

Автономные автомобили могут передвигаться самостоятельно благодаря специальному программному обеспечению и сенсорам. Работа различных узлов автомобиля — поворачивание руля, смена передач, управление газом и тормозом — всем управляет софт. Сенсоры же собирают информацию об окружающем мире, на основе которой и строятся действия автомобиля. Сенсоры, которые используют большинство производителей, — камеры, лидары и радары. Радар обнаруживает объект и определяет его скорость на расстоянии до 300 м. Лидар сканирует пространство с помощью лазерных лучей, которые отражаются от объектов и создают трехмерную картину окружающей среды. Камера помогает подробно рассмотреть объекты, определить их тип и «увидеть» дорожный знак или сигнал светофора.

Перемещение автомобиля из точки А в точку Б можно разделить на несколько подзадач.

• Локализация состоит в определении местоположения автомобиля. Здесь нужна сантиметровая точность, которую не дают глобальные системы позиционирования. Поэтому производители чаще используют данные с сенсоров, которые сопоставляются с высокоточными картами, уже заложенными в систему.
• Распознавание — следующий этап — состоит в идентификации объектов вокруг. Автомобиль должен увидеть и классифицировать всех участников движения, их размер, скорость и направление движения. После этого наступает этап предсказания: алгоритмы прогнозируют дальнейшее поведение других участников движения: например, куда дальше поедет этот автомобиль.
• Этап планирования: алгоритмы планируют то, как будет действовать автомобиль с учетом того, что он увидел и спрогнозировал. Весь этот процесс происходит в реальном времени и не прекращается во время движения или остановки.

2. Автономным можно сделать любой автомобиль?

Компании, занимающиеся разработкой автономных автомобилей, зачастую выбирают модели с технологией Drive-by-Wire — цифрового управления акселератором, тормозами и рулем по CAN-шине (Controller Area Network — система, к которой подсоединены исполнительные устройства и датчики). В остальном ограничений по внедрению системы беспилотного управления нет: ее можно установить даже на автомобиль с ручной КПП, просто потребуется больше доработок.

3. Автономная машина намного дороже в производстве, чем обычный автомобиль. Разве компаниям выгодно налаживать массовый выпуск автономного транспорта?

Автономный автомобиль по своему функционалу схож с обычным автомобилем вместе с водителем, и оплату работы водителя стоит учитывать при таком сравнении. Уже на данном этапе стоимость обвеса некоторых автономных автомобилей (ПО+сенсоры) сопоставима с зарплатой двух водителей такси на протяжении трех лет.

Кроме того, с развитием индустрии стоимость автономного автомобиля снижается, а технологии при этом становятся все более продвинутыми. Например, за три года с начала разработок прототип автомобиля «Яндекса» подешевел практически в два раза — с 9,5 млн до почти 5 млн руб. — и одновременно с этим получил много технических усовершенствований. Это похоже на то, как развивался рынок смартфонов: первые мобильные телефоны в начале 1990-х отличались очень скромным функционалом и высокой ценой. Сегодня смартфоны перестали быть предметом роскоши и умеют уже гораздо больше, чем просто совершать звонки.

Значительная часть затрат разработчиков автономных автомобилей пока связана с покупкой лидаров. Еще несколько лет назад единственным крупным производителем лидаров была компания Velodyne. Но если раньше лидары были нишевым продуктом, то с развитием технологий автономного вождения спрос на них начал расти, а цена — снижаться. Сегодня эти сенсоры используют Waymo (Google), «Яндекс», Baidu, Uber, General Motors, Argo AI (Ford), Aurora (Amazon), Mercedes Benz, Bosh, Zoox, Lyft, Aptiv, Pony.ai и многие другие. Некоторые разработчики автономных автомобилей приобрели стартапы, занимающиеся производством лидаров. Две компании — «Яндекс» и Waymo — создают лидары сами. Лидары «Яндекса» пока существуют в виде прототипов, но уже на этапе штучного производства они дешевле рыночных аналогов на 50%. А массовое производство позволит снизить стоимость еще на 50%.

4. Нужна ли специальная инфраструктура для работы автономного автомобиля?

Большинство производителей создают автономные автомобили, способные ездить в тех же условиях, что и обычная машина с человеком за рулем. Например, для того чтобы беспилотник передвигался по дорогам общего пользования, ему не нужны умные светофоры с радиосигналом, передающие данные транспортным средствам. Автомобили способны сами идентифицировать сигнал светофора при помощи камер. Конечно, совершенствование дорожной инфраструктуры даст новые возможности, но это не является обязательным условием для массового вывода автономных автомобилей на дороги.

5. Нужен ли для работы автономного автомобиля интернет? Что будет, если соединение прервется?

Чаще всего производители беспилотных автомобилей не завязывают работу технологии на наличие постоянного интернет-соединения. Даже надежный и быстрый интернет не дает гарантии, что не случится потери связи — а это абсолютно недопустимо во время движения автомобиля. В автономных машинах подавляющего большинства компаний все вычисления осуществляются прямо на борту.

6. Требуется ли для автономного автомобиля GPS? Что произойдет, если оборвется сигнал от спутника?

Глобальные системы позиционирования дают очень неточные данные. Их погрешность может составлять несколько метров или даже десятков метров. Особенно это касается городской среды: здесь на сигнал от спутника сильно влияют погодные условия, застройка, деревья. При этом именно в городе в условиях интенсивного трафика важно точно понимать, где сейчас находится автомобиль. Беспилотники чаще всего принимают сигнал этих систем, но не используют его как основной источник информации о местоположении. Для определения точных координат автомобиля активно используются данные с сенсоров, которые сопоставляются с уже загруженными в машину высокоточными картами.

7. Как автономный автомобиль поймет, куда ехать, если на дороге не будет разметки?

Беспилотники большинства производителей для ориентации в пространстве используют высокоточные 3D-карты. Они уже загружены в автомобиль и содержат информацию о дорожной разметке, светофорах и знаках. Данные, которые поступают с сенсоров, сопоставляются с этими картами, поэтому автомобиль точно понимает, где он находится и как в этом месте организовано движение. В реальности разметка может стереться или оказаться под снегом — это не помешает автомобилю ориентироваться в пространстве.

После прочтения этого материала вам будет проще смотреть наше видео про беспилотные автомобили.

Почему мы до сих пор не пересели на автономный транспорт, как работают «умные» машины, насколько безопасен автопилот и каково это — проехаться на беспилотнике по московским дорогам, рассказываем на нашем YouTube-канале «Индустрия 4.0».

Насколько безопасна безопасность автономных автомобилей

«Какого уровня безопасности будет достаточно?» Этот занудный вопрос возникает в любом обсуждении беспилотных транспортных средств. Многие автопроизводители отложили свои планы по освоению рынка беспилотного транспорта в долгий ящик, а вместе с ними и усилия по решению вопросов безопасности. Впрочем, в наши дни системы ADAS и их технологии становятся более популярными на рынке беспилотного транспорта, а значит автопроизводителям вновь придется задуматься о допустимом уровне безопасности транспортных средств. Американская автомобильная ассоциация (ААА) заявила, что индустрия настолько далека от безопасности использования ADAS, что OEM-производители тоже должны отложить все в сторону и направить все усилия в сторону этих систем.

Выпущенный ранее отчет AAA (American Automobile Association) не совсем одобряет активные функции ADAS (такие как удержание полосы движения и автоматическое аварийное торможение), хотя многие автопроизводители напирают на то, что эти функции могут «спасать жизни людей».

После тестирования ряда автомобилей с ADAS как в условиях реального мира, так и на закрытой площадке, ААА выпустила тревожный отчет, в котором говорится о больших отличиях в производительности разных транспортных средств с ADAS. Также в этом документе ААА пишет, что нынешним системам ADAS не хватает «согласованности действий», а их работа «далека от стопроцентной надежности». В отчете также упоминается «опасный сценарий», описывающий ситуацию, в которой «системы ADAS могут отключаться практически незаметно, мгновенно возвращая управление водителю».

Также в отчете говорится, что «ААА советует производителям расширить спектр проводимых испытаний систем ADAS и отложить выпуск функций этих систем, пока они не будут доработаны. Результатом требуемых доработок должно стать повышение стабильности работы систем и безопасности вождения»

ААА выделяет две основные проблемы: плохую работу систем контроля полосы движения и нехватку предупреждений для водителей.

По данным исследований, проведенных AAA, «почти 73% ошибок на дорогах общего пользования связаны со случаями выезда с полосы движения или неправильным расположением внутри полосы», из-за чего транспортные средства с системами ADAS слишком близко приближаются к другим транспортным средствам или защитным ограждениям.

Распределение типов ошибок всех протестированных транспортных средств (Источник: ААА)

ААА отметила, что дорожные происшествия могут иметь различную специфику, но перечень их категорий выглядит следующим образом:

• Резкое отключение (иногда во время критических ситуаций)
• Ошибки при включении
• Ошибочное отключение по причине предполагаемого бездействия водителя
• «Пинг-понг» между линиями разметки внутри полосы.
• Чрезмерное приближение к другим транспортным средствам или ограждениям в потоке движения
• Выезд из полосы в различных ситуациях: при повороте, при смене типа дорожного покрытия, при подъезде к спуску/подъему эстакады

ААА также сочла опасными отключения систем ADAS. Автомобили с возможностью передавать управление человеку зачастую пользуются этой функцией в те моменты, когда водители отвлекаются от дороги (или слишком сильно привыкают к использованию ADAS).

Грег Беннон, директор отдела автомобильных технологий и связей с промышленностью в своем заявлении отметил, что «ААА неоднократно обнаруживала, что системы ADAS действуют непоследовательно, особенно в сценариях из реальной жизни». Также он отметил, что «производителям следует работать над надежностью своих разработок, в том числе совершенствовать системы контроля полосы движения, а также поработать над системами экстренного оповещения».

Словом, черта уже проведена. EE Times связалась с Филом Мэгни, основателем VSI Labs, и он дал следующий комментарий:

«Существует два вида беспилотного транспорта – требующий человеческого контроля и не требующий. Считается, что все транспортные средства с уровнем автономности ниже третьего считаются требующими человеческого контроля, а значит водитель несет полную ответственность за эксплуатацию этого транспортного средства. Иначе говоря, водитель такого транспортного средства обязан внимательно следить за происходящим и вмешиваться, когда это необходимо»

Если система ADAS в вашем автомобиле допустит ошибку и, например, врежется в припаркованный у обочины автомобиль, то вина будет на вас. Водитель, внимательно следящий за ситуацией на дороге мог бы компенсировать неоптимальные решения системы ADAS.

Честно это или нет, но если система ADAS (не такая уж и продвинутая, как может оказаться) примет припаркованный автомобиль за мусорный бак и врежется в него, то ее разработчик не понесет никакой ответственности.

Что насчет бенчмарков

Не исключено, что все эти системы ADAS с их разными показателями производительности в будущем будут доработаны OEM-производителями. Несмотря на то, что ведется большая работа по стандартизации (и это хорошо), функции систем ADAS, не соответствующие определенным требованиям к качеству могут вводить покупателей в заблуждение. Дело в том, что люди могут не понимать чего им ожидать от функций ADAS (вне зависимости от названия этих функций)

Существует ли эталонный бенчмарк, который смогут использовать все компании для того, чтобы их разработки соответствовали высоким требованиям к системам ADAS?

Мэгни утверждает, что пока таких систем оценки не существует. «Ни у одного из проверяющих органов нет бенчмарка для оценивания систем автоматической езды. Впрочем, у этих органов есть достаточно хорошие протоколы для тестирования функционала систем ADAS, но функциональность беспилотного транспорта в этих протоколах не учитывается.»

Также Мэгни сказал, что он удивлен тем фактом, что больше в этой сфере ничего не было сделано и добавил: «Полагаю, дело в том, что в вопросах безопасности нет консенсуса».

Мнения некоторых экспертов отличаются. Так, например, Колин Барнден, главный аналитик компании Semicast Research, сказал EE Times, что эталонное тестирование должно «играть роль программы оценки новых автомобилей, более известной как NCAP».

NCAP – это «основная правительственная программа информирования потребителей для оценки показателей безопасности транспортных средств», как утверждает Национальный департамент транспорта США по безопасности дорожного движения.

Известно, что NHTSA (американское национальное управление безопасностью движения на трассах) избегало введения каких-либо нормативных актов или проведения противоречивых дискуссий, из-за которых могло бы показаться, что оно слишком строго к автомобильной промышленности. Центр Автомобильной Безопасности (группа по защите прав потребителей, базирующаяся в Вашингтоне, округ Колумбия), обвиняет NHTSA в том, что управление потратило десять лет впустую и не смогло модернизировать NCAP. Группа утверждает, что NHTSA отодвинула на второй план свой лучший инструмент защиты потребителей.

В конце июня Джейсон Левайн, исполнительный директор Центра автомобильной безопасности написал в своем блоге на Medium следующее:

«98% всех новых автомобилей получают от управления 4 или 5 звезд – прямо как тренер, который дает маленьким футболистам дольки апельсина вне зависимости от того, с каким счетом они играют. Вместо того, чтобы ужаснуться из-за того, что в NCAP отсутствуют полезные сравнительные данные о ДТП, управление решило, что для того чтобы защитить людей хватит одних только пресс-релизов».

Барнден также отметил, что «настоящая суть проблемы заключается в том, что протоколы тестирования недостаточно строги». Автопроизводители могут доводить свои разработки до минимального соответствия требуемым показателям, и их конечные продукты все равно будут получать максимальные оценки.

По мнению Барндена, «дело не в том, что потребители не должны доверять ADAS, а в том, что они не должны верить в то, что управление серьезно относится к безопасности дорожного движения».

Барнден объяснил, что в то время как NTSB (национальный совет по транспортной безопасности) в течение трех последних лет работает над рекомендациями, связанными с транспортной автоматизацией, NHTSA по-прежнему не делает ничего значимого для решения этих проблем.

Также Барнден считает, что по сравнению с США «Европа является мировым лидером в разработке протоколов тестирования систем ADAS и на много лет опережает США.» Он считает, что Euro NCAP и Thatcham Research являются «органами, находящимися в авангарде этой отрасли».

И NCAP мог бы делать то же самое.

«Если NCAP [американский] действительно не дает четких спецификаций, то управление могло бы просто перенять протоколы Euro NCAP. В качестве примера можно взять AEB Vulnerable Road User (VRU) Test Protocol v3.0.3 (тестовый протокол срабатывания системы экстренного торможения при обнаружении уязвимых участников дорожного движения – пешеходов, велосипедистов и т.д.), действующий с июня 2020 года и являющийся самым строгим протоколом тестирования систем экстренного торможения на сегодняшний день. Он мог бы стать прекрасным началом большой работы», – сказал Барнден.

Технологические проблемы

Итак, какие автомобили использовались в тестах, проведенных ААА? Исходя из набора определенных критериев, в пул тестируемых автомобилей вошли BMW X7 2019 года с системой «Active Driving Assistant Professional», Cadillac CT6 2019 года с «Super Cruise», Ford Edge 2019 года с «Ford Co-Pilot36», Kia Telluride 2020 года с «Highway Driving Assist» и Subaru Outback 2020 года с «EyeSight».

Взглянув на результаты тестов, Мэгни дал следующий комментарий: «По моему мнению, автономные системы 2 уровня в этом исследовании проявили себя слабо. Меня удивили ошибки систем контроля полосы».

Также он рассказал о работе VSI Labs: «Мы занимаемся тестированием систем удержания полосы в течение многих лет, и производительность этих систем, показанная в тестах ААА, напоминает мне о нашем первом приложении, в котором мы использовали OpenCV. Современные системы слежения за полосой работают на основе ИИ, и их результаты заметно выросли по сравнению с более ранними разработками. Система слежения за полосой в автомобилях Tesla – это хороший пример, потому что они обучали (и переобучали) нейросети, следящие за дорогой, на миллионах миль пользовательских данных».

Итак, как объяснить один из выводов AAA – что автомобили с ADAS в двух из трех случаев сталкивались с автоманекеном при приближении к нему?

Мэгни считает, что в этом нет ничего удивительного и утверждает, что «с этим конкретным случаем системам контроля полосы справиться действительно сложно». Он пояснил, что для этих систем полоса либо занята, либо свободна. «В этом конкретном случае с частичным перекрытием полосы запутаться могут даже передовые системы вроде тех, что используются в Tesla».

Мэгни объяснил что именно вводит эти системы в заблуждение: «Датчики не обладают достаточной уверенностью в положении или габаритах объекта (иначе говоря, его границах), чтобы принять решение о позитивном действии (то есть, торможении). Если бы эти системы тормозили слишком часто, аварий бы происходило не меньше».

Может быть, дело в том, что макет автомобиля был припаркован на обочине дороги и не двигался?

«Статичность объекта – еще одна причина такого поведения. Системы экстренного торможения часто отфильтровывают радары по той же причине», – отметил Мэгни. Далее, «Системы, основанные на ИИ, в настоящий момент недостаточно обучены на данных о подобных пограничных случаях».

Мэгни также добавил следующее: «Надеюсь, что описанный тестовый случай больше не считается пограничным. Обнадеживает, что согласно стандарту целевой функциональности SOTIF такая ситуация относится к категории небезопасных условий».

Что насчет человеческого фактора

Благодаря внедрению систем ADAS, в случае аварии OEM-производители могут обвинять водителей в том, что они не были полностью сосредоточены на управлении автомобилем.

Но разве автопроизводители не должны учитывать человеческий фактор? Рядовому водителю не всегда очевидна логика действий системы ADAS. Более того, не всегда ясно в какой момент система ADAS собирается вернуть управление человеку.

Барнден заметил в отчете ААА одну большую проблему.

«В отчете ААА даже не упоминаются мониторинг водителя и человеческий фактор», — отметил он. «Именно об этом ведутся дискуссии в области безопасности, а не об ADAS».

В самом деле, проблемы передачи управления от систем ADAS к водителю не должны даже обсуждаться без учета систем мониторинга водителя, основанных на компьютерном зрении.

Барнден сформулировал практическую дилемму, выделяющую проблему существующих систем помощи водителю.

• Системы ADAS излишне активны, когда водитель сконцентрирован и полностью вовлечен в процесс вождения.
• Системы ADAS слишком пассивны в двухсекундных экстренных ситуациях, особенно если водитель отвлечен, утомлен или не в состоянии справиться с задачей.

«Решение заключается в подстраивании реакции систем помощи водителю в режиме реального времени с помощью постоянного мониторинга уровня вовлеченности водителя и степени его концентрации», — отметил Барнден. «К концу этого десятилетия почти в каждом новом легком транспортном средстве будет использоваться система мониторинга водителя. Именно она станет основной системой безопасности, помогающей водителю сохранять вовлеченность в управление транспортным средством и предупреждающей о его отвлечении, усталости или ухудшении его состояния».

По мнению Барндена, «такой подход сделает ADAS вторичной системой безопасности, исправляющей незначительные ошибки управления и вмешивающейся только тогда, когда это действительно необходимо».

Отвлекающие феакторы и помехи, выявленные в исследовании ААА, почти полностью исчезнут, когда увеличится сложность систем мониторинга состояния водителя и распространится использование их использование, заключил он.

А тем временем, у покупателя автомобиля, оборудованного системой ADAS, есть все основания остерегаться не только в шоуруме, но и за рулем.

Подписывайтесь на каналы:
@TeslaHackers — сообщество российских Tesla-хакеров, прокат и обучение дрифту на Tesla
@AutomotiveRu — новости автоиндустрии, железо и психология вождения

Мы большая компания-разработчик automotive компонентов. В компании трудится около 2500 сотрудников, в том числе 650 инженеров.

Мы, пожалуй, самый сильный в России центр компетенций по разработке автомобильной электроники. Сейчас активно растем и открыли много вакансий (порядка 30, в том числе в регионах), таких как инженер-программист, инженер-конструктор, ведущий инженер-разработчик (DSP-программист) и др.

У нас много интересных задач от автопроизводителей и концернов, двигающих индустрию. Если хотите расти, как специалист, и учиться у лучших, будем рады видеть вас в нашей команде. Также мы готовы делиться экспертизой, самым важным что происходит в automotive. Задавайте нам любые вопросы, ответим, пообсуждаем.

Источник https://www.drive2.ru/b/468044233954034175/

Источник https://trends.rbc.ru/trends/industry/5e54e8019a7947f8ae1d65b1

Источник https://habr.com/ru/company/itelma/blog/515764/