Bezpieczne użytkowanie niedojrzałej, dopiero rozwijającej się technologii na drogach publicznych, nawet z doświadczonymi kierowcami wymaga transparentności i współpracy. Jednakże postawa branży wobec organów regulacyjnych zbyt często jest nieprzystępna — oparta na pustej retoryce i nieprzejrzystości. Co gorsza, niewiele ciał regulacyjnych ma głęboką wiedzę specjalistyczną w dziedzinie pojazdów autonomicznych, więc może mieć problemy z przeciwdziałaniem nieuzasadnionym oświadczeniom firm z danego sektora.
Aby pomóc wyrównać szanse, oto lista dwunastu mitów powszechnie używanych przez branżę w dyskusjach dotyczących nadzoru regulacyjnego nad AV.
Mit 1: 94 procent wypadków spowodowanych jest błędem człowieka, więc AV będą bezpieczniejsze.
Nieformalna wersja tego mitu mówi, że: „ludzie jeżdżą pod wpływem alkoholu, więc sterowniki komputerowe będą asekurować lepiej”. Ogólnie rzecz biorąc, implikacja jest taka, że AV będą bezpieczniejsze, jeśli tylko nie popełniają tych samych błędów.
Oczywiście wiele wypadków jest powodowanych przez niesprawnych kierowców. Jednak oszacowanie, że jest to aż 94 procent, jest błędną interpretacją oryginalnego źródła. To, co faktycznie pokazują dane z badania, to to, że w 94 procentach przypadków ludzki kierowca miał szansę uniknąć wynikowej sytuacji. To nie to samo, co spowodowanie samego wypadku. Źródło wyraźnie mówi, że nie jest to 94 procent winy kierowcy.
Poza tą statystyczną liczbą, która jest bardziej złożona niż tylko, patrząc na nią przez pryzmat: „błędu osoby prowadzącej”, AV będą popełniać różne inne przewinienia. Powinno to być jasne dla każdego, kto ogląda filmy z testów drogowych systemów automatyzacji. Tak, technologia ulegnie poprawie, ale nie wiadomo kiedy AV będą bezpieczniejsze od kierowcy w skomplikowanych sytuacjach podczas jazdy, gdy w analizie uwzględnione zostaną zarówno niedociągnięcia, jak i atuty.
Mit 2: Możesz mieć albo innowacje, albo regulacje, ale nie jedno i drugie.
To fałszywy dylemat. Możesz łatwo mieć zarówno innowacje, jak i regulacje prawne — jeśli rozporządzenie ma na celu umożliwienie dokonania się postępu poprzez po prostu wymaganie od branży przestrzegania własnych standardów. Na przykład można regulować bezpieczeństwo testów drogowych, wymagając zgodności z SAE J3018. Norma ta pomaga zapewnić, że kierowcy zajmujący się bezpieczeństwem ludzi są odpowiednio wykwalifikowani i przeszkoleni. Obejmuje również przeprowadzanie testów w sposób odpowiedzialny, zgodny z dobrymi praktykami walidacji inżynierskiej i bezpieczeństwa ruchu drogowego. Nie nakłada żadnych ograniczeń na testowaną technologię autonomii.
Poniżej omówiono konkretne standardy dotyczące wdrożonych pojazdów autonomicznych. Żaden z nich nie hamuje innowacji. Zamiast tego promują równe szanse, aby firmy nie mogły oszczędzać na bezpieczeństwie, by uzyskać przewagę konkurencyjną jednocześnie, narażając innych użytkowników dróg na nadmierne ryzyko.
Jeśli firma twierdzi, że bezpieczeństwo jest jej najwyższym priorytetem, w jaki sposób może to być niezgodne z wymogami regulacyjnymi? W końcu wymagania te reprezentują konsensus branżowy w sprawie norm bezpieczeństwa napisanych i zatwierdzonych przez samą branżę — często z przedstawicielami tych właśnie firm uczestniczących w procesie normalizacji. Branża AV powinna konkurować innymi cechami niż gwarancją zachowania stabilności — jednakże bezpieczeństwo musi stanowić bardzo wysoki poziom pokroju procedur stosowanych w lotnictwie.
Mit 3: Wprowadzono już wystarczające regulacje.
Istniejące przepisy (z wyjątkiem nowojorskiego Departamentu Transportu, który ostatnio wymagał spełnienia normy J3018) nie wymuszają zgodności z żadnym standardem bezpieczeństwa obejmującym autonomię i nie określają żadnego pułapu oczekiwanej stabilności. W najgorszym przypadku to zupełny Dziki Zachód. W najlepszym razie istnieją wymogi dotyczące prawa jazdy, ubezpieczenia i raportowania kierowcy nadzorującego pojazd. Zapewnienie bezpieczeństwa przez organy regulacyjne, jeśli w ogóle, to niewiele więcej niż uwierzenie producentowi na słowo. Ta sytuacja zmusza do czegoś więcej.
Mit 4: Nie potrzebujemy proaktywnej regulacji AV ze względu na istniejące przepisy i presję wynikającą z narażenia na odpowiedzialność.
Aktualne amerykańskie normy w zakresie pojazdów silnikowych (FMVSS) nie obejmują bezpieczeństwa systemów komputerowych. Chodzi przede wszystkim o testowanie reflektorów, pasów, poduszek powietrznych i innych podstawowych funkcji pojazdu. Samo przejście wymagań FMVSS, choć przydatne i ważne, nie wystarcza do zapewnienia konwencjonalnego bezpieczeństwa pojazdom, nie mówiąc już o gwarancji stabilności systemów autonomicznych.
Amerykańska Narodowa Administracja Bezpieczeństwa Ruchu Drogowego (NHTSA) na ogół reaguje na złe zdarzenia. Jeśli firmy samochodowe nie ujawnią dobrowolnie problemów, wiele zdarzeń związanych z obrażeniami i ofiarami śmiertelnymi jest zwykle wymaganych, zanim NHTSA wymusi jakieś działanie. Na przykład 11 wypadków z udziałem: „autopilota” wspomagającego kierowcę Tesli w ciągu 3,5 roku skłoniło NHTSA do podjęcia tego rodzaju ruchów.
Organy nadzorujące powinny odejść od podejścia, w którym: „bezpieczeństwo” oznacza: wymaganie ubezpieczenia, aby zrekompensować bliskim śmierć osoby w aucie. W przypadku wielomiliardowych budżetów projektów autonomicznych pojazdów kilka milionów dolarów na wypłaty po nieszczęśliwych wypadkach może być niewystarczającym narzędziem, nieodwodzącym od szczędzenia sobie skrótów w zakresie bezpieczeństwa w wyścigu do autonomii.
Mit 5: Istniejące normy bezpieczeństwa nie są odpowiednie, ponieważ (wybierz jeden lub więcej):
* Nie są idealnie dopasowane;
* Żaden pojedynczy standard nie dotyczy całego pojazdu;
* Zmniejszyłyby bezpieczeństwo, ponieważ uniemożliwiają deweloperowi robienie więcej;
* Zmusiłyby AV do bycia mniej bezpiecznymi;
* Nie zostały napisane specjalnie dla AV.
Oświadczenia te przeinaczają sposób działania rzeczywistych norm bezpieczeństwa. ISO 26262, ISO 21448, ANSI/UL 4600 — wszystkie pozwalają na znaczną elastyczność i współpracują ze sobą, aby pasowały do każdego bezpiecznego AV.
ISO 26262 zapewnia stabilną obsługę konwencjonalnych funkcji komputerowych. Norma ISO 21448 zajmuje się nieodłącznymi ograniczeniami czujników i niespodziankami, jakie system może napotkać w otwartym środowisku zewnętrznym, obejmując tak zwane Bezpieczeństwo Zamierzonej Funkcji dla AV. ANSI/UL 4600 współpracuje z normami 21448 i 26262 w celu zapewnienia gwarancji stabilności na poziomie systemu obejmującego pojazd i jego infrastrukturę wspierającą.
Departament Transportu USA zaproponował już nowy zestaw standardów w: „Advanced Notice of Proposed Rulemaking”. Wszystkie te wytyczne pozwalają programistom zrobić więcej, niż jest to wymagane. A także są wystarczająco elastyczne, aby dostosować się pod każdy system AV. Żadna z reguł nie zmusza firmy do zmniejszenia bezpieczeństwa (co jest chyba najśmieszniejszym argumentem). I nie ogranicza podejścia do autonomii od strony technicznej poza wymogiem zapewnienia stabilności.
Mit 6: Należy powstrzymać lokalne i stanowe ustawy, aby uniknąć: „mozaiki” regulacji, które hamuje innowacje.
Istotnym powodem, dla którego przepisy lokalne i stanowe są: „patchworkiem”, jest to, że w każdej jurysdykcji firmy odpowiedzialnej za pojazdy AV grają ostro, negocjując w celu zminimalizowania zarządzeń. Zazwyczaj wiąże się to ze stwierdzeniem, że jeśli regulacje będą zbyt duże, firmy przeniosą miejsca pracy i swoje wydatki gdzie indziej, a także wyrobią regionowi reputację wrogiej przestrzeni dla innowacji i nowoczesnej technologii.
Wynik każdej negocjacji jest inny, co skutkuje nieco odmiennymi przepisami lub wytycznymi. Patchwork jest w dużej mierze spowodowany przez same marki z sektora AV. Obecny status zmieniłoby przejście do regulacji opartych na standardach branżowych. Przepisy federalne, które uniemożliwiają stanom działanie, ale same nie zapewniają bezpieczeństwa, z kolei pogorszyłyby sytuację.
Mit 7: Dostosowujemy się do: „ducha” jakiegoś standardu.
Zazwyczaj deklaracje dostosowania się do: „ducha” określonych przepisów wygłaszane przez programistów AV opierają się na założeniu, że może zaistnieć potrzeba odstępstwa od reguły. Nie podaje się, jednakże konkretnego przykładu takiej potrzeby ani tego, co może oznaczać podporządkowanie się: „duchowi” regulacji.
Wszystkie standardy są na tyle elastyczne, że jeśli faktycznie zespół projektowy działa w ich założeniu, to oznacza, że dostosowuje się do danej normy. Jeśli, jednak w grę wchodzi pośpiech lub chęć obniżania kosztów, może się przydać strategia polegająca jedynie na wskazywaniu podążania za... Najlepszą praktyką jest, wszakże konsultacja z organami regulacyjnymi w ramach potwierdzenia danej praktyki lub uzyskania (przy odpowiedniej amortyzacji celem zachowania bezpieczeństwa) ograniczonego zwolnienia ze stosowania jakiegoś przepisu — jeśli taka potrzeba może być rzeczywiście zidentyfikowana…
Firmy, które naprawdę cenią sobie stabilność powinny wspierać przejrzyste przestrzeganie standardów konsensusu branżowego, aby podnieść poprzeczkę konkurencji. Jeśli tego nie zrobią, może to zapewnić ochronę wszystkim potencjalnym firmom, które jedynie uprawiają: „teatr bezpieczeństwa”.
Wystarczy się zastanowić — czy chciałbyś lecieć autonomicznym samolotem, o którym producent powiedział: „Działamy w zgodzie z duchem standardów bezpieczeństwa lotniczego, ale jesteśmy bardzo sprytni, a nasz samolot jest wyjątkowy, więc postanowiliśmy sobie pozwolić na pewne odstępstwa. Zaufaj nam — wszystko będzie dobrze”.
Mit 8: Rządowe organy administracyjne nie są wystarczająco wykształcone w kwestii technologii, aby ją regulować.
Proponowany amerykański plan DOT, aby powołać się na wspomniane powyżej standardy branżowe, ma sens, ponieważ odnosi się właśnie do tego problemu. Branża stworzyła już odpowiednie normy. Organy regulacyjne mówią po prostu: „Przestrzegaj własnych standardów bezpieczeństwa w branży, tak jak robią to inne sektory, kluczowe przy zapewnianiu stabilności”.
Gdybyśmy mogli bazować na tym, że dowolna branża sama będzie kontrolować poziom bezpieczeństwa w obliczu krótkoterminowych aspiracji osiągnięcia zysku i niemożliwych do uniknięcia dysfunkcji organizacyjnych, nie potrzebowalibyśmy organów regulacyjnych. Rzeczywistość pokazuje, jednak, że musimy je mieć. Ważne jest osiągnięcie zdrowej równowagi między przejmowaniem przez przemysł odpowiedzialności za bezpieczeństwo a nadzorem ze strony organów regulacyjnych.
Mit 9: Ujawnianie danych z testów zdradza sekrety algorytmów autonomii.
Bezpieczeństwo w testach drogowych polega na tym, że kierowca nadzorujący może skutecznie powstrzymać pojazd testowy przed tworzeniem podwyższonego ryzyka dla innych użytkowników dróg. Nie ma to nic wspólnego z autonomią własności intelektualnej, której celem jest zrezygnowanie z człowieka czuwającego nad bezpieczeństwem ludzi.
Testowanie danych dotyczących bezpieczeństwa nie musi obejmować niczego związanego z samym algorytmem autonomii lub z wydajnością funkcjonalną. Możemy, np. mówić o przypadku raportowania, jak często badani kierowcy zasypiają podczas testów. Niezerowy wynik może być kłopotliwy, jednak nie ma to nic wspólnego z ujawnianiem sekretów algorytmów działających w samochodzie.
Mit nr 10: Opóźnianie wdrażania AV jest równoznaczne z zabijaniem ludzi.
Korzyści związane z bezpieczeństwem wdrożenia pojazdów autonomicznych są duże, ale obiecane w pewnym, coraz słabiej zdefiniowanym momencie w przyszłości. Co więcej, nie ma realnych dowodów na to, że środki lokomocji AV będą znacznie stabilniejsze niż te obecnie sterowane przez ludzi, zwłaszcza gdy konkurują z pojazdami z aktywnymi funkcjami bezpieczeństwa, takimi jak automatyczne hamowanie awaryjne.
Ignorowanie najlepszych praktyk branżowych i narażanie aktualnych użytkowników dróg na ryzyko nie powinno być dozwolone w celu, który: „być może; pewnego dnia” uratuje potencjalne ofiary. Oczywiście, jeśli technologia okaże się ekonomicznie opłacalna.
Zła prasa spowodowana głośnym nieszczęściem może łatwo nadwyrężyć całą branżę. Żadna firma nie powinna iść na skróty w zakresie bezpieczeństwa, aby osiągnąć krótkoterminowy cel w finansowaniu, jednocześnie, ryzykując życie ludzi i reputację całej branży.
Mit nr 11: Nikogo nie zabiliśmy, więc musi to oznaczać, że jesteśmy bezpieczni.
Innymi słowy: „Do tej pory mieliśmy szczęście, więc planujemy korzystać z posiadanego farta w przyszłości”. Jeśli nie ma dowodów na solidną, systematyczną inżynierię i praktyki bezpieczeństwa operacyjnego, to jest to jedynie czcze zapewnienie, że gracz z dobrą passą będzie wygrywał w nieskończoność.
Nie powinniśmy dawać deweloperom darmowej przepustki na bezpieczeństwo, dopóki ktoś nie zostanie zabity. Dotyczy to zwłaszcza faz testowania, które w efekcie czynią z kierowców nadzorujących autonomiczne pojazdy: „moralną strefę zgniotu”.
Mit nr 12: Inne stany/miasta pozwalają nam egzaminować bez żadnych ograniczeń, więc ty też powinieneś.
Wiele osób wie, że test drogowy w Tempe w Arizonie w 2018 roku doprowadził do śmiertelnego wypadku. Najnowsza wersja SAE J3018 odnosząca się do bezpieczeństwa badań na drogach zawiera wnioski wyciągnięte z tej tragicznej śmierci. Jeśli testerzy nie będą przestrzegać tego branżowego standardu, tak naprawdę nie wzięli sobie do serca tej lekcji.
Organy regulacyjne powinny zatrzymać się, aby rozważyć konsekwencje narażania niechronionych użytkowników dróg na potencjalnie zwiększone ryzyko, które przekłada się tylko na zyski komercyjne firm. Wykorzystują one drogi publiczne jako poligon doświadczalny w wyścigu o wysoką stawkę pełnej autonomii pojazdu. Podczas gdy testy drogowe niosą ze sobą miejsca pracy i prestiż ze względu na przyjazność technologiczną, nawet jedna ofiara śmiertelna w okresie badań może zwrócić negatywną uwagę całego świata na dany region.
Organy regulacyjne odpowiedzialne za zapewnienie bezpieczeństwa nie powinny się hamować i żądać od programistów, aby przestrzegali branżowych standardów, do których powstania, w większości przypadków, przyczyniły się same firmy z danego sektora. Narażeni użytkownicy dróg nie powinni być nieświadomymi obiektami doświadczalnymi dla testerów AV, którzy w swoich działaniach nie stawiają bezpieczeństwa na pierwszym miejscu.
Źródło: https://www.eetimes.com/autonomous-vehicle-myths-the-dirty-dozen/
Cool? Ranking DIY
