Aizsardzības departaments izdod AI ētikas vadlīnijas tehnoloģiju darbuzņēmējiem

Ms Tech | Getty

2018. gadā, kad Google darbinieki uzzināja par sava uzņēmuma iesaistīšanos Projekts Maven , pretrunīgi vērtētais ASV militārais mēģinājums izstrādāt AI, lai analizētu novērošanas video, viņi nebija apmierināti. Tūkstošiem protestēja. Mēs uzskatām, ka Google nedrīkst iesaistīties kara biznesā, viņi rakstīja a vēstule uzņēmuma vadībai . Aptuveni ducis darbinieku atkāpās no amata. Google neatjaunoja līgumu 2019. gadā.

Project Maven joprojām pastāv, un kopš tā laika Google vietu ir ieņēmuši citi tehnoloģiju uzņēmumi, tostarp Amazon un Microsoft. Tomēr ASV Aizsardzības ministrija zina, ka tai ir uzticības problēma. Tas ir jārisina, lai saglabātu piekļuvi jaunākajām tehnoloģijām, īpaši mākslīgajam intelektam, kam būs jāsadarbojas ar Big Tech un citām nemilitārām organizācijām.

Saistīts stāsts

ASV valdības aģentūras plāno palielināt sejas atpazīšanas tehnoloģiju izmantošanu

Jauna aptauja liecina, ka pretrunīgi vērtētajām sistēmām ir vēl lielāka loma federālajā biznesā.

Cenšoties veicināt pārredzamību, Aizsardzības inovāciju vienība, kas piešķir DoD līgumus uzņēmumiem, ir izlaidusi to, ko tā sauc. atbildīgās mākslīgā intelekta vadlīnijas ka tas prasīs trešo pušu izstrādātājiem to izmantot, veidojot AI militārajām vajadzībām neatkarīgi no tā, vai šis AI ir paredzēts HR sistēmai vai mērķa atpazīšanai.

Vadlīnijas nodrošina soli pa solim procesu, kas uzņēmumiem jāievēro plānošanas, izstrādes un ieviešanas laikā. Tie ietver procedūras, lai noteiktu, kas varētu izmantot tehnoloģiju, kam tā varētu nodarīt kaitējumu, kāds varētu būt šis kaitējums un kā no tiem varētu izvairīties — gan pirms sistēmas izveides, gan pēc tās darbības uzsākšanas.

Nav citu vadlīniju, kas pastāv ne Aizsardzības departamentā, ne, atklāti sakot, Amerikas Savienoto Valstu valdībā, kas sniegtu šādu detalizācijas pakāpi, saka Braiss Gudmens no Aizsardzības inovāciju vienības, kurš bija šo vadlīniju līdzautors.

Darbs varētu mainīt to, kā ASV valdība izstrādā AI, ja DoD vadlīnijas pieņems vai pielāgos citi departamenti. Gudmens saka, ka viņš un viņa kolēģi ir tos nodevuši NOAA un Transporta departamentam un sarunājas ar ētikas grupām Tieslietu departamentā, Vispārējo pakalpojumu administrācijā un IRS.

Vadlīniju mērķis ir pārliecināties, ka tehnoloģiju darbuzņēmēji ievēro aizsardzības aizsardzības sistēmas esošos MI ētikas principi , saka Gudmens. DoD paziņoja par šiem principiem pagājušajā gadā pēc divus gadus ilga pētījuma, ko pasūtīja Aizsardzības inovāciju padome, vadošo tehnoloģiju pētnieku un uzņēmēju padomdevēja grupa, kas tika izveidota 2016. gadā, lai sniegtu Silīcija ielejas dzirksti ASV armijai. Valdi līdz 2020. gada septembrim vadīja bijušais Google izpilddirektors Ēriks Šmits, un tās pašreizējie locekļi ir Daniela Rusa, MIT datorzinātņu un mākslīgā intelekta laboratorijas direktore.

Tomēr daži kritiķi apšauba, vai darbs sola kādu nozīmīgu reformu.

Pētījuma laikā padome apspriedās ar virkni ekspertu, tostarp ar skaļiem kritiķiem par mākslīgā intelekta izmantošanu militārpersonām, piemēram, Campaign for Killer Robots dalībniekiem un Mereditu Vitekeru, bijušo Google pētnieci, kas palīdzēja organizēt Project Maven protestus.

Vitekers, kurš tagad ir Ņujorkas Universitātes AI tagad institūta fakultātes direktors, komentāru sniegšanai nebija pieejams. Bet saskaņā ar institūta pārstāves Kortnijas Holsvortas teikto, viņa piedalījās vienā sanāksmē, kurā viņa strīdējās ar vadošajiem valdes locekļiem, tostarp Šmitu, par virzienu, kādā tas tiek virzīts. Viņa nekad netika jēgpilni apspriesta, saka Holsvorts. Apgalvojumu, ka viņa tā ir, var uzskatīt par ētikas mazināšanas veidu, kurā atšķirīgu balsu klātbūtne nelielai ilga procesa daļai tiek izmantota, lai apgalvotu, ka konkrētajam rezultātam ir plaša ieinteresēto personu līdzdalība.

Ja DoD nav plašas dalības maksas, vai tās vadlīnijas joprojām var palīdzēt veidot uzticību? Būs cilvēki, kurus nekad neapmierinās neviens DoD izstrādātais ētikas vadlīniju kopums, jo viņiem šī ideja šķiet paradoksāla, saka Gudmens. Ir svarīgi būt reālistiskiem attiecībā uz to, ko vadlīnijas var un ko nevar darīt.

Piemēram, vadlīnijās nekas nav teikts par nāvējošu autonomo ieroču izmantošanu — tehnoloģiju, kas, pēc dažu kampaņas dalībnieku domām, būtu jāaizliedz. Taču Gudmens norāda, ka noteikumi, kas reglamentē šādas tehnoloģijas, tiek pieņemti ķēdes augstākajā līmenī. Vadlīniju mērķis ir atvieglot šiem noteikumiem atbilstoša AI izveidi. Un daļa no šī procesa ir skaidri izteikt visas trešās puses izstrādātāju bažas. Šo vadlīniju derīga piemērošana ir izlemt neizmantot noteiktu sistēmu, saka Džareds Danmons no DIU, kurš tos bija līdzautors. Jūs varat izlemt, ka tā nav laba ideja.

Saistīts stāsts

Kāpēc AI pētniekiem būtu jāpārskata protesta iesaistīšanās militāros projektos Viens Aizsardzības departamenta padomnieks norāda, ka konstruktīva iesaistīšanās būs veiksmīgāka nekā atteikšanās.

Mārgareta Mičela, mākslīgā intelekta pētniece plkst Apskāva seja , kurš līdzvadīja Google ētiskā AI komanda ar Timnits Gebru pirms abi bija izspiests no uzņēmuma , piekrīt, ka ētikas vadlīnijas vismaz teorētiski var palīdzēt padarīt projektu pārredzamāku tiem, kas pie tā strādā. Protestu laikā pret Google Mičels atradās pirmajā rindā. Viena no galvenajām darbinieku pārmetumiem bija tāda, ka uzņēmums nodeva jaudīgas tehnoloģijas militārpersonām bez aizsargmargām, viņa saka: cilvēki aizgāja tieši tāpēc, ka nebija nekādu skaidru vadlīniju vai caurspīdīguma.

Mičelam problēmas nav skaidras. Es domāju, ka daži cilvēki Google noteikti uzskatīja, ka viss darbs ar militārpersonām ir slikts, viņa saka. Es neesmu viens no tiem cilvēkiem. Viņa ir runājusi ar DoD par to, kā tā var sadarboties ar uzņēmumiem tā, lai tiktu ievēroti to ētikas principi.

Viņa uzskata, ka ir vēl kāds ceļš ejams, pirms DoD iegūst vajadzīgo uzticību. Viena problēma ir tā, ka daži no vadlīniju formulējumiem ir interpretējami. Piemēram, viņi norāda: Departaments veiks apzinātus pasākumus, lai samazinātu neparedzētu AI iespēju novirzi. Kā ar paredzēto neobjektivitāti? Tas varētu šķist mānīšanās, taču interpretācijas atšķirības ir atkarīgas no šāda veida detaļām.

Militāro tehnoloģiju izmantošanas uzraudzība ir sarežģīta, jo parasti ir nepieciešama drošības pielaide. Lai to risinātu, Mičels vēlētos, lai DoD līgumi paredzētu neatkarīgus auditorus ar nepieciešamo atļauju, kas var pārliecināt uzņēmumus, ka vadlīnijas patiešām tiek ievērotas. Viņa saka, ka darbiniekiem ir vajadzīga zināma garantija, ka vadlīnijas tiek interpretētas tā, kā viņi sagaida.

paslēpties