Автономные транспортные средства: опасны по дизайну

"Чудо техники": Электробусы в России и как можно увеличить свой рост (09.09.2018) (June 2019).

$config[ads_text] not found
Anonim

Автомобильная промышленность сходится на цели обнаружения 95% для АВ. Смерти в результате дорожно-транспортных происшествий упадут на тысячи, но на самом деле мы должны стремиться к этому?

Брайан Санто, автор статьи

49-летняя женщина была просто поражена и убита автономным транспортным средством, вдохновляя вопросы о том, безопасны ли AV. Рефлексивный ответ должен отметить, что AVs будет значительно безопаснее, чем человеческие автомобилисты. Это неправильный вопрос, и рефлексивный ответ не подходит для решения более уместного вопроса: насколько безопасно безопасно?

В США ежегодно погибло около 35 000 человек. Это все, по определению, несчастные случаи. Компании, которые поставили AVs на дороге, будут использовать цели безопасности в рамках своих инженерных целей. По определению, любая смертность после этого по дизайну .

В начале марта мировые производители автомобилей, международные OEM-производители и другие встретились в Берлине на выставке Tech.AD, чтобы обсудить технологии AV. По словам посетителя, автопроизводители и OEM-производители говорят, что цель отрасли должна быть на уровне 95%.

Что означает 95%
Учитывая данные о летальности, что означает 95% -ная цель безопасности для АВ-вождения? Количество смертей в США сократится с десятков тысяч до тысяч, а может быть, и сотен. Это, безусловно, впечатляет и желаемый результат.

Являются ли эти результаты столь же впечатляющими, если вы думаете о цели безопасности так же, как вы думаете о простоях сети? Вы все еще считаете приемлемым, если бы автономные транспортные средства были в безопасности, за исключением 18 дней в году? Это еще 95%.

Некоторые люди предпочли бы, чтобы цель была на 99, 999% безопасной, возможно, 99, 9999%, и эта группа включает в себя не только меня, но и некоторых людей, непосредственно связанных с разработкой технологии AV.

Это должно быть полностью возможным для достижения пяти девяток. Промышленности необходимо будет улучшить системы обнаружения, завершить установку сетей беспроводной связи 5G, на которые часто полагаются системы обнаружения AV, и тестировать все эти системы отдельно и вместе.

Тем не менее, делать все, что потребуется времени, просить вопрос: зачем задерживать внедрение AV еще несколько лет? Производительность не останется на уровне 95%. Это только начальная цель. Инженеры будут постепенно улучшать эту цифру, фиксируя каждую проблему по мере ее возникновения. В конце концов, знак безопасности достигнет двух девяток, три девятки и даже четыре девятки. Но вот тот же вопрос, слегка перефразированный: кто хочет объяснить присяжным, что смерть людей в авариях, связанных с AV, была приемлема в 95% -м параметре безопасности, широко согласованном автомобильными компаниями? Кто хочет засвидетельствовать, что план спуститься до сотен дорожно-транспортных происшествий (может быть, даже десятки!) Начался с преднамеренного решения о том, что 2000 смертей были приемлемой начальной целью? Любые руководители автомобильных компаний хотят взвесить на этом? Ниже приведен раздел комментариев.

В любом случае, производители автомобилей продвигаются вперед. Элон Муск, основатель автомобильной компании Tesla, тот самый парень, который предупреждает мир о том, что нам необходим регуляторный надзор за искусственным интеллектом (AI) как можно скорее, является одним из крупнейших зачинщиков гонки, чтобы получить больше AVs на скорее, чем раньше. Тесла сейчас находится в пути с автономным вождением. Традиционные автомобильные компании говорят о том, что в течение трех лет коммерчески доступны автомобили с автоматическим приводом.

Ответственность
Как плохо, если производители AV хотят вникать в это, правда? Адвокаты и страховые компании рассматривают рынок AV как щедрость ответственности, ожидая, что это произойдет. Юридическая профессия, похоже, согласна с тем, что существует правовая основа для возбуждения дел об ответственности, но это оставляет некоторые уродливые вопросы, на которые можно ответить присяжными. Кто отвечает за AV? Производители? Владельцы? Операторы, если они не владельцы? Страховые компании?

Упоминание страховых компаний вызывает узкое тангенциальное соображение. Будем ли мы навязывать бремя безопасности АВ на пассажирах - вы и я - заставляя их (нас) отвечать за покупку страхования? Как справедливо ли держать пассажиров в какой-либо степени ответственными за эксплуатацию полностью автономных транспортных средств?

Сообщая о женщине, которая только что попала, использует такие слова, как «смерть» и «смертность». Однако фразы, которые еще не использовались, включают такие термины, как «безрассудное вождение», «автомобильное нападение» и «непредумышленное убийство». Некоторые люди уже призывают к тому, чтобы резервный драйвер был обвинен в чем-то, но это ускользает от вопроса о том, что произойдет в будущих авариях, когда человек не косвенно связан с транспортным средством. Кто вы обвиняете? Хуже того, что это за преступление?

То, как все происходит, похоже, что все это будет вопросом ответственности за продукт. В этом контексте ответственность зависит от дефектов продукта, и это, безусловно, предполагает планирование безопасности. 95% -ная цель - 5% опасна по дизайну. Есть ли какие-либо программисты системы AV, довольные этим уровнем юридического воздействия?

Разработана опасность
Юристы будут копаться в деталях. Юрисконсульт ожидает «значительных боев за производство исходного кода в будущих случаях ответственности за продукцию по поводу возможных дефектов дизайна» и поставил вопрос, смогут ли жюри понять сложность случая разработки программного обеспечения », в соответствии с обзором участника Всемирный конгресс по регулированию безопасности автономных транспортных средств, состоявшийся в октябре прошлого года.

Бросьте это так: если ИИ становятся настолько сложными, невозможно сказать, как некоторые из них принимают решения, так будет ли существовать соответствующий исходный код? Если вы не можете понять, что пошло не так, как вы можете это исправить? Учитывая, что, если мы даже разрешим AVs использовать ИИ, которые сложны?

И это до того, как мы перейдем к вопросу о том, как ИИ должны принимать решения. Иногда катастрофа неизбежна. Как следует обучать машину, чтобы решить, какой из нескольких плохих результатов является наименее желательным? Это проблема программирования и, следовательно, решение человека - то есть решение с юридическими последствиями, которое, возможно, должно быть сделано публично до того, как такие несчастные случаи начнутся.

Даже при использовании технологии AV человеческая ошибка оператора будет фактором в течение длительного времени. Нет никаких сомнений в том, что различные производители автомобилей представят AVs с различными уровнями возможностей самообслуживания - возможности, вероятно, будут отличаться от модели к модели в рамках любого данного производителя. Эксперты уже обеспокоены тем, что автомобилисты путаются о том, на что именно способны их АВ. Кто будет отвечать за то, чтобы новые владельцы AV поняли возможности своих автомобилей? Основными контактными пунктами автомобильной промышленности для большинства водителей являются дилеры. Продавцы продают, а это означает, что прямо из ворот безопасность водителя не является их главным приоритетом. Возможно, он даже не попал в пятерку лучших для некоторых из них.

Правила и рег.
Общественное мнение делится на то, как должно функционировать правительство, и эти разногласия имеют последствия для того, как регулируются любые бизнес-задачи. Это, безусловно, будет включать AV.

Все это начинается с растущего отвращения корпоративной Америки к ответственности, о чем свидетельствуют все более эффективные шаги, предпринимаемые компаниями для ее предотвращения. Если истина в законах о рекламе применяется к юридическим документам, лицензионные соглашения конечных пользователей (EULA), которые так любят электронные компании, будут называться всеобъемлющими отказами от ответственности.

Единственными инструментами, доступными широкой публике для принуждения компаний к конкретным действиям или поведению, являются правительственные правила и положения. Это утверждение веры американских компаний о том, что каждое новое регулирование представляет собой свежую инстанцирование зла. Например, индустрия связи настаивает на том, что она соответствует принципам сетевого нейтралитета, но имела подозрения, когда FCC фактически кодифицировала эти принципы в правовые нормы. Эти компании не переставали ныть, пока последняя итерация FCC не отвергла эти правила.

Это были правила, которые, по мнению отрасли, поддерживались. Предложить правило или регулирование компаний не нравится?

Следовательно, правительственный надзор над многими вещами, включая безопасность AV, - это ловушка эффективных правил в некоторых местах, правила в других местах, которые были приняты без каких-либо механизмов принудительного исполнения, а также отсутствие правил в других местах.

Вот почему, вероятно, не случайно, что первый AV-пешеходный фатализм был в Аризоне.

Многие автономные компании, занимающиеся техническими технологиями, находятся в Калифорнии, которая приняла некоторые довольно строгие правила тестирования технологий AV на своих дорогах. По соседству с Аризоной преднамеренно соблазнили эти компании проводить свои эксперименты там с обещаниями, что он не будет вводить никаких правил, согласно The New York Times . После аварии представители Аризоны сообщили агентству Reuters, что они не намерены принимать какие-либо решения.

Аризона открыто уверяет, что компании будут сталкиваться с минимальной, если таковой будет, ответственностью в случае аварий. Как это может привести к неустойчивой безопасности? Аризона уже видела крах между человеком-автолюбителем и автономным транспортным средством до недавней смерти. Что человеческий автолюбитель был признан виновным в том, что он является слабым отпущением.

Проблема заключается не только в автомобильной промышленности.

Вы берете паршивых водителей из-за руля, и шансы высоки, что некоторые из них также будут паршивыми пешеходами. Это ни в коей мере не оправдывает отрасль от серьезной ответственности, а также от общественности, чтобы прекратить приставать к промышленности и правительственным учреждениям вопросы безопасности AV.

Вектор атаки
Все это досадно, но мы также должны учитывать кибербезопасность. Криминальный взлом взбешен. Кибер-шпионаж процветает. AVs будут заманчивыми целями.

Специалисты по кибербезопасности делают абсолютно невероятную работу за кулисами, отбиваясь от непрекращающегося нападения хакерских атак, но в остальном кибербезопасность - печальная шутка.

Глобальные корпорации успешно взломаны с такой регулярностью, что единственным возможным объяснением является их безразличие к проблеме. Они несерьезны в наших личных данных; теперь мы должны доверять им свою жизнь?

Кибер-шпионаж усиливается. Эксперты по глобальной безопасности документируют, как хакеры - некоторые из которых напрямую связаны с различными правительствами и другими, молчаливо поощряемыми этими правительствами, - наносят ущерб всему миру. Службы национальной безопасности США свидетельствуют о том, что россияне взломали президентские выборы в 2016 году в США и что эти хакеры все еще работают. Некоторые отклоняют эти претензии. Независимо от того, кто вы считаете, что аргумент продолжается, это означает, что федеральное правительство не полностью сосредоточено на противодействии кибер-шпионажу.

Если мы согласны с тем, что должен существовать какой-либо нормативный надзор за автономными транспортными средствами, часть этого надзора должна включать в себя непреодолимых производителей АВ, их поставщиков и сетевых компаний, которые соединяют эти транспортные средства, чтобы продемонстрировать, что они приняли эффективные меры безопасности.