Hakeri var piemānīt Teslu, lai tā paātrinās par 50 jūdzēm stundā

Tesla Model S brauc Kalifornijas līča apgabalā Tesla

Neticiet savas automašīnas melīgajām acīm.

Hakeri ir manipulējuši ar vairākām Tesla automašīnām, lai tās paātrinātu par 50 jūdzēm stundā. Pētnieki apmānīja automašīnas Mobileye EyeQ3 kameru sistēmu, smalki mainot ātruma ierobežojuma zīmi ceļa malā tā, lai cilvēks, kurš brauc garām, gandrīz nekad nepamanītu.

Šis demonstrācija no kiberdrošības firmas McAfee ir jaunākā norāde, ka pretrunīga mašīnmācība var potenciāli sagraut autonomās braukšanas sistēmas, radot drošības izaicinājumu tiem, kas vēlas šo tehnoloģiju komercializēt.

Mobileye EyeQ3 kameru sistēmas nolasa ātruma ierobežojuma zīmes un ievada šo informāciju autonomās braukšanas funkcijās, piemēram, Tesla automātiskajā kruīzkontrolē, sacīja Stīvs Povolnijs un Šivandijs Trivedi no McAfee Advanced Threat Research komandas.

Pētnieki pielīmēja niecīgu un gandrīz nemanāmu uzlīmi uz ātruma ierobežojuma zīmes. Kamera nolasīja zīmi kā 85, nevis 35, un testēšanas laikā gan 2016. gada Tesla Model X, gan tā gada Model S paātrināja 50 jūdzes stundā.

Modificētā ātruma ierobežojuma zīme Tesla brīdinājuma displejā ir redzama kā 85. Mobileye pārstāvis noniecināja pētījumu, norādot, ka šī zīme cilvēku apmānīs arī lasīt 85. gadu. McAfee

Šis ir jaunākais no pētījumiem, kas parāda, kā mašīnmācības sistēmām var uzbrukt un tās var apmānīt dzīvībai bīstamās situācijās.

18 mēnešus ilgā izpētes procesā Trivedi un Povolnijs atkārtoja un paplašināja daudzus pretrunīgus mašīnmācīšanās uzbrukumus, tostarp UC Berkeley profesora Dawn Song pētījumu, kurā tika izmantotas uzlīmes, lai piemānītu pašbraucošai automašīnai, lai tā noticētu, ka ir apstāšanās zīme. 45 jūdžu stundā ātruma ierobežojuma zīme. Pagājušajā gadā hakeri ar viltu piemānīja Tesla, lai tā iegrieztos nepareizajā satiksmes joslā, uz ceļa uzlīmējot uzlīmes, tādējādi veicot pretēju uzbrukumu, kura mērķis bija manipulēt ar automašīnas mašīnmācīšanās algoritmiem.

Kāpēc mēs to pētām iepriekš, ir tāpēc, ka jums ir inteliģentas sistēmas, kuras kādā brīdī nākotnē veiks uzdevumus, kurus tagad veic cilvēki, sacīja Povolnijs. Ja mēs neesam ļoti tālredzīgi par to, kas ir uzbrukumi, un esam ļoti uzmanīgi attiecībā uz to, kā sistēmas ir izstrādātas, jums ir nepārtraukta savstarpēji savienotu datoru flote, kas ir viena no ietekmīgākajām un vilinošākajām uzbrukuma virsmām.

Tā kā autonomās sistēmas izplatās, problēma attiecas uz mašīnmācīšanās algoritmiem, kas ir daudz plašāki par transportlīdzekļiem: 2019. gada marts pētījums parādīja, ka medicīnas mašīnmācības sistēmas ir apmānītas, nosakot sliktas diagnozes.

McAfee pētījums tika atklāts gan Tesla, gan Mobileye EyeQ3 pagājušajā gadā. Tesla neatbildēja uz komentāru pieprasījumu no MIT Technology Review, taču atzina McAfee atklājumus un teica, ka problēmas netiks novērstas šajā aparatūras paaudzē. Mobileye pārstāvis noniecināja pētījumu, liekot domāt, ka modificētā zīme pat cilvēku varētu nolasīt 85, nevis 35. Uzņēmums neuzskata, ka kameras apmānīšana ir uzbrukums, un, neskatoties uz kameras lomu Tesla kruīzkontrolē, tas nebija paredzēts autonomai braukšanai.

Autonomā transportlīdzekļa tehnoloģija nepaļausies tikai uz sensoru, bet tiks atbalstīta arī ar dažādām citām tehnoloģijām un datiem, piemēram, kolektīvā kartēšanu, lai nodrošinātu no kameras sensoriem saņemtās informācijas uzticamību un piedāvātu spēcīgāku atlaišanu un drošību, Mobileye pārstāvis. teikts paziņojumā.

Kopš tā laika Tesla ir pārgājusi uz patentētām kamerām jaunākos modeļos, un Mobileye EyeQ3 ir izlaidusi vairākas jaunas savu kameru versijas, kuras sākotnējās pārbaudēs nebija jutīgas pret šo precīzu uzbrukumu.

Joprojām ir ievērojams skaits Tesla automašīnu, kas darbojas ar neaizsargāto aparatūru, sacīja Povolnijs. Viņš norādīja, ka Teslas ar pirmo aparatūras versiju nevar jaunināt uz jaunāku aparatūru.

Tas, ko mēs cenšamies darīt, ir tas, ka mēs patiešām cenšamies palielināt gan patērētāju, gan pārdevēju izpratni par iespējamiem trūkumiem. Povolnijs sacīja, ka mēs nemēģinām izplatīt bailes un teikt, ka, ja jūs brauksit ar šo automašīnu, tas paātrināties cauri barjerai vai radīt sensacionālu to.

paslēpties