211service.com
Neesiet AI ļauns: Google saka, ka tā algoritmi nekaitēs
IYIKON/anbileru adaleru/jaroslavs samoilovs/SBTS/Hea Pon Lin (lietvārdu projekts)
Google ir izveidojis mākslīgā intelekta ētikas kodeksu, kas aizliedz autonomu ieroču izstrādi. Taču principi atstāj pietiekami daudz iespēju Google, lai gūtu labumu no ienesīgiem aizsardzības darījumiem.
Šis paziņojums nāk pēc ievērojama iekšēja protesta pret Google AI tehnoloģijas izmantošanu, ko īsteno Aizsardzības departamenta iniciatīva ar nosaukumu Algorithmic Warfare Cross-Functional Team. Šī uzņēmuma mērķis, kas iekšēji pazīstams kā Projekts Maven , cita starpā ir uzlabot dronu triecienu precizitāti.
Pagājušajā mēnesī ducis Google darbinieku pameta darbu skandāla dēļ, un daudzi citi parakstīja atklātu protesta vēstuli.
Kņada atspoguļo daudzu bailes par to, kā tehnoloģija varētu palīdzēt automatizēt karadarbību nākotnē. Situācija tomēr nav vienkārša.
Mākslīgais intelekts varētu palīdzēt padarīt dažas ieroču sistēmas drošākas un mazāk pakļautas kļūdām. Aizsardzības nozarē ir arī daudz ikdienišķu AI lietojumu. Google nevēlas atteikties no šī milzīgā potenciālā tirgus mākoņa AI tehnoloģijai.
Google izpilddirektors Sundars Pichai šodien emuāra ziņā paziņoja par jauno kodu. Tajā ir ieteikti septiņi principi, kā vadīt AI, ko Google izmanto, norādot, ka tam jāsniedz labums sabiedrībai; izvairīties no algoritmiskas novirzes; ievērot privātumu; pārbaudīt drošību; būt atbildīgam sabiedrības priekšā; saglabāt zinātnisko stingrību; un jābūt pieejamiem citiem saskaņā ar tiem pašiem principiem.
Taču Pichai arī centās paziņot, ka Google neļaus izmantot savu AI tehnoloģiju, lai izstrādātu neko tādu, kas varētu nodarīt kaitējumu, tostarp ieročus vai citas tehnoloģijas, kuru galvenais mērķis vai ieviešana ir radīt vai tieši atvieglot cilvēku ievainojumus.
Pichai sacīja, ka Google arī izvairīsies izstrādāt novērošanas tehnoloģijas, kas pārkāpj starptautiski pieņemtās cilvēktiesību normas, vai jebkuru tehnoloģiju, kas ir pretrunā starptautiskajiem likumiem.
Mākslīgais intelekts strauji attīstās, un Google ir saskārusies ar citām problēmām, kas saistītas ar AI projektiem. Piemēram, viena no tās datorredzes sistēmām vairākkārt nepareizi identificēja Āfrikas mantojuma cilvēkus kā gorillas. Uzņēmums šogad aprīlī atteicās no sava moto Neesiet ļauns, taču tas saglabā ideālistisku kultūru.
Mākslīgā intelekta izmantošana militārajā jomā varētu būt arvien strīdīgāka, jo tehnoloģija tiek pieņemta jaunos veidos un uzņēmumi cenšas pēc iespējas plašāk pārdot savu mākoņa AI tehnoloģiju.
Mašīnmācība un mākslīgais intelekts neizbēgami kļūs svarīgāki izlūkošanas un aizsardzības darbā. Citas ASV tehnoloģiju kompānijas, tostarp Amazon un Microsoft, kopā ar Pentagonu ir piedāvājušas vairāku miljardu dolāru mākoņdatošanas projektu.