211service.com
Hakeri ir īsts šķērslis pašbraucošiem transportlīdzekļiem
Espens Frībergs
Pirms autonomo kravas automašīnu un taksometru izbraukšanas uz ceļiem ražotājiem būs jāatrisina problēmas, kas ir daudz sarežģītākas nekā izvairīšanās no sadursmēm un navigācija (skatiet 10 Breakthrough Technologies 2017: Self-Driving Trucks).
Šiem transportlīdzekļiem būs jāparedz un jāaizsargājas pret pilnu ļaunprātīgu uzbrucēju spektru, kas izmanto gan tradicionālos kiberuzbrukumus, gan jaunas paaudzes uzbrukumus, kuru pamatā ir tā sauktā pretrunīgā mašīnmācība (skatiet AI cīņas klubs, kas varētu palīdzēt mūs izglābt no īpaši viedo kiberuzbrukumu nākotnes ). Pieaugot vienprātībai par to, ka autonomie transportlīdzekļi ir tikai dažu gadu attālumā no tā, lai tos varētu izmantot pilsētās kā robotizētus taksometrus un uz lielceļiem, lai atvieglotu garlaicību, ko rada tālsatiksmes kravu pārvadājumi, šis uzbrukuma risks lielā mērā ir pazudis aizelpas pārklājumā.
Tas man atgādina daudzus rakstus, kas reklamēja e-pastu 1990. gadu sākumā, pirms jaunatklātā elektronisko sakaru pasaule bija pārpildīta ar nevēlamu surogātpastu. Toreiz mašīnmācības solījums tika uzskatīts par pasaules surogātpasta problēmu risinājumu. Patiešām, šodien surogātpasta problēma ir lielā mērā atrisināta, taču pagāja gadu desmiti, līdz mēs to sasniedzām.
Līdz šim nav saņemti ziņojumi par naidīgiem hakeriem, kas būtu vērsti pret pašbraucošiem transportlīdzekļiem. Ironiski, tomēr tā ir problēma. Ļaunprātīgu uzbrucēju nebija arī tad, kad dot-com jaunizveidotie uzņēmumi deviņdesmitajos gados izstrādāja pirmās e-komercijas platformas. Pēc pirmās lielās e-komercijas uzlaušanas kārtas Bils Geitss uzrakstīja piezīmi Microsoft, pieprasot, lai uzņēmums nopietni uztver drošību . Rezultāts: šodien Windows ir viena no drošākajām operētājsistēmām, un Microsoft katru gadu kiberdrošībai tērē vairāk nekā miljardu dolāru . Tomēr hakeri turpina atrast problēmas ar Windows operētājsistēmām, tīmekļa pārlūkprogrammām un lietojumprogrammām.
Automašīnu uzņēmumi, visticamāk, piedzīvos līdzīgu progresu. Pēc tam, kad viņi ir samulsuši par to, ka viņi vispār neņem vērā drošību — 80. gados izstrādātajai CAN kopnei nav autentifikācijas koncepcijas, viņi tagad pievērš uzmanību. Kad hakeri pierādīja, ka transportlīdzekļi uz ceļiem ir neaizsargāti pret vairākiem īpašiem drošības apdraudējumiem, autoražotāji reaģēja, atsaucot un uzlabojot programmaparatūru miljoniem automašīnu. Pagājušā gada jūlijā GM izpilddirektore Mērija Barra sacīja, ka automašīnu aizsardzība pret kiberdrošības incidentu ir sabiedrības drošības jautājums.
Taču līdz šim veiktajiem centieniem, iespējams, trūkst nākamās drošības tendences. Datorredzes un sadursmju novēršanas sistēmas, kas tiek izstrādātas autonomiem transportlīdzekļiem, balstās uz sarežģītiem mašīnmācīšanās algoritmiem, kas nav labi saprotami pat tiem uzņēmumiem, kuri uz tiem paļaujas (skatiet The Dark Secret at the Heart of AI).
Pagājušā gada pētnieki CMU to pierādīja Vismodernākos sejas atpazīšanas algoritmus var pārvarēt, valkājot caurspīdīgas brilles, kuru rāmjos ir uzdrukāts savdabīgs raksts. Kaut kas paraugā novirzīja algoritmu pareizajā virzienā, un tas domāja, ka redz to, kas tur nebija. Mēs parādījām, ka uzbrucēji var izvairīties no modernākajiem sejas atpazīšanas algoritmiem, kuru pamatā ir neironu tīkli, lai uzdoties par mērķa personu vai vienkārši netiktu identificēti pareizi, e-pastā rakstīja vadošais pētnieks Mahmūds Šarifs.
Arī pagājušajā gadā pētnieki no Dienvidkarolīnas universitātes, Ķīnas Džedzjanas universitātes un Ķīnas drošības firmas Qihoo 360 to pierādīja tie varētu traucēt dažādus Tesla S sensorus, padarot objektus neredzamus tās navigācijas sistēmai.
Daudzi nesen publicētie raksti par autonomo braukšanu mazina vai pat ignorē domu, ka varētu būt aktīvi, adaptīvi un ļaunprātīgi pretinieki, kas cenšas izraisīt transportlīdzekļu avāriju. Intervijā ar MIT tehnoloģiju apskats Nacionālās transporta drošības padomes priekšsēdētājs Kristofers Hārts sacīja, ka ir ļoti optimistisks, ka pašbraucošās automašīnas samazinās negadījumu skaitu uz valsts ceļiem. Apspriežot drošības jautājumus, Hārts koncentrējās uz nepieciešamību ieprogrammēt transportlīdzekļus, lai pieņemtu ētiskus lēmumus, piemēram, kad 80 000 mārciņu smaga kravas automašīna pēkšņi bloķē automašīnu.
Kāpēc kāds gribētu uzlauzt pašbraucošu automašīnu, zinot, ka tas var izraisīt nāvi? Viens no iemesliem ir tāds, ka autonomo transportlīdzekļu plašā izvēršana radīs daudz bezdarbnieku, un daži no viņiem būs dusmīgi.
2016. gada augustā Ford izpilddirektors Marks Fīlds teica to Viņš plānoja, ka līdz 2021. gadam pilnībā autonomi transportlīdzekļi darbosies kā pilsētas taksometri. Google, Nissan un citi plānoja, ka līdz 2020. gadam uz ceļiem būs līdzīgas autonomas automašīnas. Šie automatizētie taksometri vai piegādes transportlīdzekļi varētu būt neaizsargāti pret ļaunprātīgu apžilbināšanu ar augstu -Jaudas lāzera rādītājs, ko izveidojis nestrādājošs Teamster, bijušais Uber vadītājs, kuram vēl ir jāmaksā par automašīnu, vai vienkārši garlaikotu pusaudžu bars.
Uz jautājumu par plāniem novērst pretrunīgās mašīnmācīšanās draudus, Uber pārstāve Sāra Eboda atbildēja: Mūsu drošības ekspertu komanda pastāvīgi pēta jaunas autonomo transportlīdzekļu nākotnes aizsardzības iespējas, tostarp datu integritāti un ļaunprātīgas izmantošanas atklāšanu. Tomēr, attīstoties autonomai tehnoloģijai, attīstās arī draudu modelis, kas nozīmē, ka dažas mūsdienu drošības problēmas, iespējams, atšķirsies no tām, kas tiek risinātas patiesi autonomā vidē.
Vajadzēs tikai dažus negadījumus, lai apturētu bezvadītāju transportlīdzekļu izvietošanu. Tas, iespējams, neapgrūtinās uzlabotas autopilota sistēmas, taču tas, visticamāk, atturēs no pilnībā autonomu transportlīdzekļu izvietošanas.
Saimons Garfinkels ir zinātniskais rakstnieks, kurš dzīvo Ārlingtonā, Virdžīnijā. Viņš strādā pie jaunas grāmatas par skaitļošanas vēsturi.