Lehet garantálni az autonóm járművek biztonságát?

A vezető nélküli autók és repülők már nem a jövő. Csak San Francisco városában két taxitársaság együttesen 8 millió kilométert tett meg 2023 augusztusáig autonóm vezetéssel. Az Egyesült Államokban pedig több mint 850 ezer autonóm légi járművet, azaz drónt tartanak nyilván.

A biztonsággal kapcsolatos aggodalmak azonban jogosak. A 2022 májusában véget ért 10 hónapos időszak alatt például a Nemzeti Közúti Közlekedésbiztonsági Hivatal közel 400 olyan balesetet jelentett, amelyekben autonóm vezérlésű gépkocsik vettek részt. E balesetek következtében hat ember meghalt, öten pedig súlyosan megsérültek.

Hogyan zajlik a tesztelés?

A probléma kezelésének szokásos módja az, hogy addig teszteljük ezeket a rendszereket, amíg meg nem győződünk arról, hogy biztonságosak. Soha nem lehetünk azonban biztosak abban, hogy ez a folyamat minden lehetséges hibát feltár. „Az emberek addig végzik a teszteket, amíg ki nem merítik az erőforrásaikat és a türelmüket" – mondta Sayan Mitra, az Urbana-Champaign-i Illinois-i Egyetem informatikusa. A tesztelés önmagában azonban nem nyújt garanciát.

A kutatóknak viszont sikerült bebizonyítania az autók sávkövető képességeinek és az autonóm repülőgépek leszállórendszereinek biztonságát. Stratégiájukat most arra használják, hogy segítsék a drónok landolását a repülőgép-hordozókon.

Munkájuk során garantálják az autonóm járművek tájékoztatására használt gépi tanulási algoritmusok eredményeit. Sok autonóm jármű két komponensből áll: egy érzékelő rendszerből és egy vezérlőrendszerből.

Miben segít az észlelőrendszer?

Az észlelőrendszer megmondja például, hogy az autó milyen messze van a sáv közepétől, vagy hogy egy repülőgép milyen irányba tart, és milyen szögben áll a horizonthoz képest. A rendszer úgy működik, hogy a kamerákból és más érzékelő eszközökből származó nyers adatokat neurális hálózatokon alapuló gépi tanuló algoritmusokba táplálja, amelyek újrateremtik a járművön kívüli környezetet.

Ezek az értékelések ezután egy különálló rendszerhez, a vezérlőmodulhoz kerülnek, amely eldönti, hogy mit tegyen. Ha például egy akadály közeledik, a rendszer eldönti, hogy fékezzen-e, vagy kikerülje azt. De mivel az érzékelési eredmények alapján hoz döntéseket, és nincs garancia arra, hogy ezek az eredmények helyesek.

A biztonsági garancia érdekében azon dolgoztak, hogy biztosítsák a jármű észlelőrendszerének megbízhatóságát. Először azt feltételezték, hogy akkor lehet garantálni a biztonságot, ha a külvilág tökéletes ábrázolása áll rendelkezésre. Ezután meghatározták, hogy az észlelőrendszer mekkora mértékű hibát tartalmaz a jármű környezetének újrateremtésében.

Mit értünk érzékelési szerződés alatt?

E stratégia kulcsa az, hogy számszerűsíteni kell az érintett bizonytalanságokat, az úgynevezett hibasávot, vagyis az „ismert ismeretleneket". Ezt a számítást érzékelési szerződésnek nevezik. A szoftverfejlesztésben a szerződés egy kötelezettségvállalás arra, hogy egy számítógépes program adott bemenete esetén a kimenet egy meghatározott tartományba esik.

Ennek a tartománynak a kiszámítása nem könnyű. Mennyire pontosak az autó érzékelői? Mennyi ködöt, esőt vagy napfényt bír el egy drón? De ha a járművet egy meghatározott bizonytalansági tartományon belül tudjuk tartani, és ha ennek a tartománynak a meghatározása kellően pontos, akkor garantálható a biztonsága.

Numerikusan is bizonyítható, hogy a neurális hálózat kimenetének bizonytalansága bizonyos határok között van. És ha ez így van, akkor a rendszer biztonságos.

Zajlik a tesztelés

A Sierra Nevada űrkutatási vállalat jelenleg ezeket a biztonsági garanciákat teszteli, miközben egy drón egy repülőgép-hordozón landol. Ez a probléma bizonyos szempontból bonyolultabb, mint az autóvezetés, mivel a repülésnek több dimenziója van. A leszállásnál két fő feladat van: a gép összehangolása a kifutópályával, és annak biztosítása, hogy a kifutópálya akadálymentes legyen.

A következő lépés, amelyet még 2024-re terveznek, e rendszerek alkalmazása a Boeing kísérleti repülőgépének tényleges leszállása során. Az egyik legnagyobb kihívás az lesz, hogy kiderítsék, mit nem tudnak még és meghatározzák, hogyan befolyásolja ez a biztonságot.

„A legtöbb hiba akkor történik, amikor olyan dolgokat csinálunk, amiről azt hisszük, hogy tudjuk, majd kiderül, hogy nem tudjuk" – idézi a Wired a Boeing mesterséges intelligenciával foglalkozó szakemberét.