Čtení dopravních značek nabízí ve vyšších výbavách celá řada automobilů. Obvykle má informační funkci, spočívající v zobrazení údaje o nejvyšší povolené rychlosti na obrazovce před řidičem a případném akustickém a/nebo vizuálním varování při jejím překročení.
Server Interesting Engineering přinesl zprávu s lákavým titulkem, podle kterého hackeři oklamali Autopilota Tesly tak, aby jel vyšší než povolenou rychlostí. Celý postup přitom v nadpisu označuje jako „nebezpečně snadný hack“.
Udělali z Tesly piráta silnic
V článku se následně dozvíte, že oněmi „hackery“ byla skupina bezpečnostních expertů ze společnosti McAfee, která pro své pokusy použila automobily Tesla Model S a Tesla Model X. Jejich snahou bylo přesvědčit autonomní systémy vozu, aby jely rychleji, než se v daném místě smí.
K úspěšnému oklamání systémů vozidla prý stačí obyčejná černá páska. Celý princip stojí na skutečnosti, že vozidla Tesla jsou vybavena kamerovými systémy Mobileye EyeQ3, které, kromě dalších funkcí, čtou značky a v autonomním režimu podle nich nastavují rychlost jízdy.
Značka upravená černou páskou
Steve Povolny a Shivangee Trivedi použili černou pásku k úpravě dopravní značky, omezující rychlost na 35 mil/h (cca 56 km/h). První číslici pozměnili tak, že protáhli „zobáček“ v prostřední části trojky. Z pohledu řidiče se stále jednalo o trojku, ale otázkou bylo, co na to řeknou Tesly.
Tesla se řídí tím, co vidí
Zatímco člověk by s velkou pravděpodobností interpretoval upravenou značku jako omezení na 35 mil/h, systémy Tesly přečetly číslo jako 85. Značka dle nich tedy deklarovala, že se v daném místě může jet rychlostí až 85 mil/h, tj. 137 km/h – o více než 80 km/h rychleji.
Z celého pokusu bylo pořízeno video, ve kterém Tesla po zapnutí Autopilota reaguje na značku, umístěnou na kraji parkoviště, zrychlením. Pohled na palubní obrazovku ukazuje, že eviduje jako rychlostní limit v daném místě zmíněných 85 mil/h.
Povolny a Trivedi na blogu společnosti McAfee uvedli, že „Ani pro trénované oko nevypadala značka podezřele a mnozí, kteří to viděli, si neuvědomili, že se vůbec změnila. Malý kousek samolepky bylo vše, co bylo zapotřebí k tomu, aby kamera Mobileye přečetla, že se jedná o značku s omezením rychlosti na 85 mil/h.“
V rámci objektivity je nutné podotknout, že Autopilot Tesly nemá úroveň nutnou ke zcela autonomnímu provozu. Na jeho chod musí neustále dohlížet řidič, který je také zodpovědný za dodržování rychlostních limitů. V tomto případě by tedy měl zasáhnout a vozidlo zpomalit.
Není překvapením, že úprava dopravní značky, která by v naší zemi byla v rozporu se zákonem, zmate počítačové vidění, jež je naučeno, aby rozpoznávalo její standardizovanou podobu. Kromě toho lze předpokládat, že s postupem autonomie budou vozidla čerpat informace o rychlostních limitech z mapových podkladů, kde by v takovém případě došlo ke zjevnému nesouladu, který by musel vyřešit řidič.