Představte si, že jste v letadle se dvěma piloty – jedním lidským a jedním počítačovým. Oba mají své „ruce“ na řízení, ale každý sleduje něco jiného. Pokud oba věnují pozornost stejné věci, dostane řízení na starost člověk. Jestliže je však člověk rozptýlený nebo něco opomene, převezme řízení počítač. Těmito slovy začíná tisková zpráva Massachusettského technologického institutu (MIT) o kopilotovi s umělou inteligencí.
Řeč je o systému Air-Guardian vyvinutém vědci z Laboratoře počítačové vědy a umělé inteligence MIT. Dnešní piloti se potýkají s náporem informací z mnoha displejů, zejména v kritických okamžicích, a Air-Guardian funguje jako proaktivní kopilot, přinášející partnerství mezi člověkem a strojem, jehož základem je porozumění pozornosti.
Jak to má fungovat?
Abychom pochopili, jak celý systém funguje, musíme se nejprve podívat na to, jak se vlastně sleduje pozornost. Zatímco u lidí se používá sledování očí, u neurálních systémů se spoléhá na tzv. „saliency maps“, které určují, kam je pozornost zaměřena. Tyto mapy se ve světě počítačového vidění používají ke zdůraznění oblastí, na které se lidé zaměřují jako první. Jejich cílem je odrazit stupeň důležitosti jednotlivých bodů pro lidský vizuální systém.
Tyto mapy slouží jako vizuální průvodce zvýrazňující klíčové oblasti v obraze a pomáhají při uchopení a dešifrování chování složitých algoritmů. Air-Guardian prostřednictvím těchto ukazatelů identifikuje včasné příznaky potenciálních rizik, místo aby zasahoval až při možném ohrožení bezpečnosti, jak to dělají tradiční systémy autopilota.
Širší důsledky tohoto systému přesahují rámec letectví. Podobné mechanismy kooperativního řízení by se v budoucnosti mohly používat v automobilech, dronech a širším spektru robotiky.
V kostce jde o to, že Air-Guardian sleduje pozornost lidského pilota i pozornost umělé inteligence a průběžně identifikuje případy, kdy se tyto pozornosti neshodují. Pokud lidský pilot přehlédne nějaký kritický aspekt, systém umělé inteligence zasáhne a převezme kontrolu nad daným prvkem letu.
Testy dopadly dobře
„Vzrušující vlastností naší metody je její diferencovatelnost,“ říká hlavní autor článku o Air-Guardian Lianhao Yin.
„Naši kooperativní vrstvu a celý proces od začátku do konce lze trénovat. Konkrétně jsme zvolili model kauzální spojité hloubkové neuronové sítě kvůli jeho dynamickým vlastnostem při mapování pozornosti. Dalším jedinečným aspektem je přizpůsobivost. Systém Air-Guardian není rigidní; lze jej upravovat podle požadavků a aktuální situace, což zajišťuje vyvážené partnerství mezi člověkem a strojem.“
Při testech v terénu se pilot i systém při navigaci k cílovému bodu rozhodovali na základě stejných nezpracovaných snímků. Úspěšnost systému Air-Guardian byla hodnocena na základě kumulativních odměn získaných během letu a kratší cesty k cílovému bodu. V konečném výsledku Air-Guardian snížil úroveň rizikovosti letů a zvýšil úspěšnost navigace k cílovým bodům.
„Tento systém představuje inovativní přístup k letectví s využitím umělé inteligence zaměřené na člověka,“ vysvětluje vědecký pracovník Ramin Hasani. „Naše využití tekutých neuronových sítí (Liquid Neural Networks; LNN) poskytuje dynamický, adaptivní přístup, který zajišťuje, že umělá inteligence pouze nenahrazuje lidský úsudek, ale doplňuje jej, což vede ke zvýšení bezpečnosti a spolupráce.“
Ještě to bude nutné doladit
Skutečná síla systému Air-Guardian spočívá v jeho základní technologii. Pomocí kooperativní vrstvy využívající vizuální pozornost lidí a strojů a kapalných neuronových sítí, které jsou známé svou schopností dešifrovat vztahy příčin a následků, analyzuje obrazy a hledá v nich důležité informace. Doplňuje ji algoritmus VisualBackProp, který identifikuje ústřední body systému v obraze, čímž zajišťuje jasné pochopení map pozornosti.
Pro budoucí masové rozšíření je třeba zdokonalit rozhraní člověk-stroj. Zpětná vazba naznačuje, že by mohl být k dispozici intuitivnější indikátor – například lišta, která by označovala, kdy systém přebírá kontrolu a v jaké míře tak činí. Každopádně je Air-Guardian předzvěstí nové éry bezpečnějšího létání a nabízí spolehlivou záchrannou síť pro chvíle, kdy lidská pozornost ochabne.
Dosavadní bádání chválí i vědci z jiných institucí. „Jedním z nejzajímavějších výsledků použití metriky vizuální pozornosti v této práci je potenciál umožňující dřívější zásahy a lepší interpretovatelnost lidskými piloty,“ říká odborná asistentka počítačových věd na Harvardově univerzitě Stephanie Gil.
„Ukazuje to skvělý příklad toho, jak lze umělou inteligenci využít ke spolupráci s člověkem, a snižuje se tak bariéra pro dosažení důvěry díky využití přirozených komunikačních mechanismů mezi člověkem a systémem umělé inteligence.“