Hakeri piemānās Tesla, lai tā nogrieztos nepareizajā joslā

Kategorija: Mākslīgais intelekts Ievietots 01. aprīlī

Hakeriem ir demonstrēts daži satraucoši veidi, kā manipulēt un sajaukt dažādas Tesla Model S sistēmas. To dramatiskākais varoņdarbs: automašīnas nosūtīšana uz pretimbraucošās satiksmes joslu, uz ceļa uzliekot virkni mazu uzlīmju.

Uzbrukuma vektors: Šis ir pretrunīga uzbrukuma piemērs, veids, kā manipulēt ar mašīnmācības modeli, ievadot īpaši izstrādātu ievadi. Progresīvi uzbrukumi varētu kļūt izplatītāki, jo mašīnmācīšanās tiek izmantota plašāk, īpaši tādās jomās kā tīkla drošība.

Izplūdušas robežas: Tesla autopilots ir neaizsargāts, jo tas atpazīst joslas, izmantojot datorredzi. Citiem vārdiem sakot, sistēma paļaujas uz kameras datiem, ko analizē neironu tīkls, lai norādītu transportlīdzeklim, kā saglabāt centrējumu savā joslā.

Satiksmes sastrēgumi: Šis nav pirmais pretinieku uzbrukums autonomai braukšanas sistēmai. Dawn Song, UC Berkeley profesors, ir izmantojis nekaitīga izskata uzlīmes, lai pašbraucošai automašīnai liktu domāt, ka stop zīme ir ātruma ierobežojums 45 jūdzes stundā. Cits pētījums martā publicētajā rakstā tika parādīts, kā medicīniskās mašīnmācīšanās sistēmas var līdzīgi pievilt, lai noteiktu nepareizas diagnozes.

Kļūdu labojumi: Pētnieki aiz joslu atpazīšanas uzlaušanas, no Keen drošības laboratorija Ķīnas tehnoloģiju giganta Tencent izmantoja līdzīgu uzbrukumu, lai izjauktu transportlīdzekļa automātiskos vējstikla tīrītājus. Viņi arī nolaupīja automašīnas stūri, izmantojot citu metodi. Tesla pārstāvis pastāstīja Forbes ka pēdējā ievainojamība ir novērsta tās jaunākajā programmatūras atjauninājumā. Pārstāvis sacīja, ka pretinieku uzbrukums bija nereāls, ņemot vērā to, ka vadītājs jebkurā laikā var viegli ignorēt Autopilotu.