Beidz runāt par AI ētiku. Ir pienācis laiks runāt par spēku.

Vladans Jolers

20. gadsimta mijā vācu zirgs pārņēma Eiropu. Gudrais Hanss, kā viņš bija pazīstams, šķietami spēja veikt visu veidu trikus, kas iepriekš bija paredzēti tikai cilvēkiem. Viņš varēja pievienot un atņemt skaitļus, noteikt laiku un lasīt kalendāru, pat izrakstīt vārdus un teikumus — tas viss tika izdarīts, izspiežot atbildi ar ķepu. A bija viens pieskāriens; B bija divi; 2+3 bija pieci. Viņš bija starptautiska sensācija — un daudzi uzskatīja, ka pierādījums tam, ka dzīvniekus var mācīt saprātīgi tāpat kā cilvēkus.

Problēma bija tā, ka Gudrais Hanss īsti nedarīja nevienu no šīm lietām. Kā vēlāk atklāja izmeklētāji, zirgs bija iemācījies sniegt pareizo atbildi, novērojot izmaiņas viņa jautātāja pozā, elpošanā un sejas izteiksmēs. Ja jautātājs stāvētu pārāk tālu, Hanss zaudētu savas spējas. Viņa saprāts bija tikai ilūzija.

Šis stāsts tiek izmantots kā brīdinājuma stāsts AI pētniekiem, novērtējot viņu algoritmu iespējas. Sistēma ne vienmēr ir tik gudra, kā šķiet. Rūpējieties, lai to pareizi izmērītu.

PĒC KEITAS KRORFORDAS PATIESĪBAS

Bet savā jaunajā grāmatā AI atlants , vadošā mākslīgā intelekta zinātniece Keita Kroforda šo morāli apmet uz galvas. Viņa raksta, ka problēma bija saistīta ar to, kā cilvēki definēja Hansa sasniegumus: Hanss jau paveica ievērojamus varoņdarbus starpsugu saziņā, publisku sniegumu un ievērojamu pacietību, tomēr tie netika atzīti par inteliģenci.

Tā sākas Kroforda izpēte par mākslīgā intelekta vēsturi un tā ietekmi uz mūsu fizisko pasauli. Katra nodaļa cenšas paplašināt mūsu izpratni par tehnoloģiju, atklājot, cik šauri mēs to esam redzējuši un definējuši.

Kroforda to dara, ievedot mūs globālā ceļojumā, sākot no raktuvēm, kurās tiek iegūti datoru ražošanā izmantotie retzemju elementi, līdz Amazones izpildes centriem, kur cilvēku ķermeņi ir mehanizēti uzņēmuma nerimstošajos izaugsmes un peļņas centienos. Pirmajā nodaļā viņa stāsta, ka ar furgonu no Silīcija ielejas centra līdz nelielai kalnraču kopienai Nevadas Kleitonas ielejā. Tur viņa pēta destruktīvus vides aizsardzības pasākumus, kas nepieciešami, lai iegūtu litiju, kas nodrošina pasaules datoru darbināšanu. Tā ir spēcīga ilustrācija tam, cik tuvu šīs divas vietas atrodas fiziskajā telpā, taču tās ir ļoti tālu viena no otras bagātības ziņā.

Pamatojot savu analīzi šādās fiziskās izmeklēšanās, Kroforda atmet eifēmistisko formulējumu, ka mākslīgais intelekts ir vienkārši efektīva programmatūra, kas darbojas mākonī. Viņas tuvplāns, spilgti apraksti par zemi un darbu AI ir veidots, un dziļi problemātiskā vēsture aiz tā neļauj turpināt runāt par tehnoloģiju tikai abstrakti.

Piemēram, ceturtajā nodaļā Krofords ved mūs citā ceļojumā — šajā ceļojumā, nevis telpā. Lai izskaidrotu šīs jomas apsēstības ar klasifikāciju vēsturi, viņa apmeklē Pennas muzeju Filadelfijā, kur viņa skatās uz cilvēku galvaskausu rindām un rindām.

Galvaskausus savāca 19. gadsimta amerikāņu kraniologs Semjuels Mortons, kurš uzskatīja, ka pēc fiziskajiem mērījumiem tos ir iespējams objektīvi sadalīt piecās pasaules rasēs: afrikāņi, indiāņi, kaukāzieši, malajieši un mongoļi. Crawford velk paralēles starp Mortona darbu un mūsdienu AI sistēmām, kas turpina klasificēt pasauli fiksētās kategorijās.

Viņa apgalvo, ka šīs klasifikācijas ir tālu no objektīvas. Tie uzspiež sociālo kārtību, naturalizē hierarhijas un palielina nevienlīdzību. Caur šo objektīvu AI vairs nevar uzskatīt par objektīvu vai neitrālu tehnoloģiju.

Savas 20 gadus ilgās karjeras laikā Kroforda ir cīnījusies ar liela mēroga datu sistēmu, mašīnmācības un mākslīgā intelekta sekām reālajā pasaulē. 2017. gadā viņa kopā ar Mereditu Vitekeri nodibināja pētniecības institūtu AI Now kā vienu no pirmajām organizācijām, kas nodarbojas ar šo tehnoloģiju sociālo seku izpēti. Viņa tagad ir arī profesore USC Annenberg Losandželosā un AI un tiesiskuma inaugurācijas katedra École Normale Supérieure Parīzē, kā arī Microsoft Research vecākā galvenā pētniece.

Pirms pieciem gadiem Kroforda saka, ka viņa joprojām strādāja, lai ieviestu tikai ideju, ka dati un AI nav neitrāli. Tagad saruna ir attīstījusies, un AI ētika ir uzplaukusi savā jomā. Viņa cer, ka viņas grāmata palīdzēs tai vēl vairāk nobriest.

Es apsēdos ar Krofordu, lai runātu par viņas grāmatu.

Šis ir rediģēts garuma un skaidrības labad.

Kāpēc izvēlējāties īstenot šo grāmatu projektu, un ko tas jums nozīmē?

Kroforda: Tik daudzas grāmatas, kas ir rakstītas par mākslīgo intelektu, patiešām runā tikai par ļoti šauriem tehniskajiem sasniegumiem. Un dažreiz viņi raksta par izcilajiem mākslīgā intelekta vīriem, bet tas ir viss, kas mums ir bijis, lai patiešām cīnītos ar to, kas ir mākslīgais intelekts.

Manuprāt, tas ir radījis ļoti šķībo izpratni par mākslīgo intelektu kā tīri tehniskām sistēmām, kas kaut kādā veidā ir objektīvas un neitrālas, un — kā saka Stjuarts Rasels un Pīters Norvigs. viņu mācību grāmata — kā inteliģenti aģenti, kas pieņem vislabāko lēmumu par jebkuru iespējamo darbību.

Es gribēju darīt kaut ko pavisam citu: patiesi saprast, kā top mākslīgais intelekts visplašākajā nozīmē. Tas nozīmē, ka jāaplūko dabas resursi, kas to virza, enerģija, ko tā patērē, slēptais darbs visā piegādes ķēdē un milzīgs datu apjoms, kas tiek iegūts no katras platformas un ierīces, ko mēs izmantojam katru dienu.

Saistīts stāsts

Deepfake Amazon darbinieki sēj neizpratni Twitter. Tā nav problēma.

Pārskati, iespējams, ir tikai parodijas, kas nav daļa no draudīgas korporatīvās stratēģijas, taču tie ilustrē to, kas kādreiz varētu notikt.

To darot, es vēlējos patiešām atklāt šo izpratni par AI kā ne mākslīgu, ne inteliģentu. Tas ir pretī mākslīgo. Tas nāk no vismateriālākajām Zemes garozas daļām un no cilvēka ķermeņiem, kas strādā, un no visiem artefaktiem, ko mēs katru dienu ražojam, sakām un fotografējam. Tas arī nav inteliģents. Manuprāt, šajā jomā ir šis lielais sākotnējais grēks, kur cilvēki uzskatīja, ka datori kaut kā līdzinās cilvēka smadzenēm, un, ja mēs tos apmācīsim kā bērnus, tie lēnām izaugs par šīm pārdabiskajām būtnēm.

Tas ir kaut kas, kas, manuprāt, ir patiešām problemātisks — tas, ka mēs esam iegādājušies šo izlūkošanas ideju, lai gan patiesībā mēs tikai aplūkojam statistiskās analīzes veidus, kuriem ir tikpat daudz problēmu kā sniegtajiem datiem.

Vai jums uzreiz bija skaidrs, ka cilvēkiem vajadzētu domāt par AI? Vai arī tas bija ceļojums?

Tas noteikti ir bijis ceļojums. Es teiktu, ka viens no pagrieziena punktiem man bija 2016. gadā, kad sāku projektu ar nosaukumu AI sistēmas anatomija ar Vladanu Joleru. Mēs tikāmies konferencē par balss iespējotu AI, un mēs centāmies efektīvi uzzīmēt, kas nepieciešams, lai Amazon Echo darbotos. Kādas ir sastāvdaļas? Kā tas iegūst datus? Kādi ir datu konveijera slāņi?

Mēs sapratām, labi, patiesībā, lai to saprastu, jums ir jāsaprot, no kurienes nāk komponenti. Kur tika ražoti čipsi? Kur ir raktuves? Kur to kausē? Kur ir loģistikas un piegādes ķēdes ceļi?

Visbeidzot, kā mēs varam izsekot šo ierīču dzīves beigām? Kā mēs skatāmies uz to, kur atrodas e-atkritumu poligoni tādās vietās kā Malaizija, Gana un Pakistāna? Tas, ko mēs beidzām, bija šis ļoti laikietilpīgais divu gadu pētniecības projekts, lai patiešām izsekotu šīm materiālu piegādes ķēdēm no šūpuļa līdz kapam.

Kad sākat aplūkot AI sistēmas plašākā mērogā un šajā garākā laika horizontā, jūs pārejat no šiem ļoti šaurajiem AI godīguma un ētikas pārskatiem un sakāt: tās ir sistēmas, kas rada dziļas un ilgstošas ​​ģeomorfiskas izmaiņas uz mūsu planētas. kā arī palielināt darbaspēka nevienlīdzības formas, kas mums jau ir pasaulē.

Tas lika man saprast, ka man bija jāpāriet no tikai vienas ierīces, Amazon Echo, analīzes uz šāda veida analītikas piemērošanu visai nozarei. Tas man bija lielais uzdevums, un tāpēc AI atlants rakstīšanai vajadzēja piecus gadus. Ir tik ļoti nepieciešams redzēt, ko šīs sistēmas mums patiešām maksā, jo mēs tik reti darām darbu, lai saprastu to patieso ietekmi uz planētu.

Otra lieta, ko es teiktu, ir bijusi patiesa iedvesma, ir pieaugošais zinātnieku lauks, kas uzdod šos lielākos jautājumus par darbu, datiem un nevienlīdzību. Šeit es domāju par Rūhu Bendžaminu, Safiju Noblu, Māru Hiksu, Džūliju Koenu, Mereditu Brousardu, Simonu Braunu — sarakstu var turpināt. Es uzskatu, ka tas ir ieguldījums šajā zināšanu kopumā, ieviešot perspektīvas, kas savieno vidi, darba tiesības un datu aizsardzību.

Grāmatas laikā jūs daudz ceļojat. Gandrīz katra nodaļa sākas ar to, ka jūs faktiski aplūkojat savu apkārtni. Kāpēc tas jums bija svarīgi?

Tā bija ļoti apzināta izvēle veikt AI analīzi noteiktās vietās, lai attālinātos no šīm abstraktajām algoritmiskās telpas vietām, kur notiek tik daudz diskusiju par mašīnmācību. Un, cerams, tas uzsver faktu, ka tad, kad mēs to nedarām, kad mēs runājam tikai par šīm algoritmiskās objektivitātes telpām, tā ir arī politiska izvēle, un tai ir sekas.

Runājot par atrašanās vietu savilkšanu, tiešām tāpēc sāku domāt par šo atlanta metaforu, jo atlanti ir neparastas grāmatas. Tās ir grāmatas, kuras varat atvērt un aplūkot visa kontinenta mērogā vai tuvināt un aplūkot kalnu grēdu vai pilsētu. Tie sniedz jums šīs perspektīvas un mēroga izmaiņas.

Ir šī jaukā līnija, ko es izmantoju fiziķes Ursulas Franklinas grāmatā. Viņa raksta par to, kā šajās kolektīvā ieskata metodēs kartes savieno zināmo un nezināmo. Tāpēc man tas tiešām bija, izmantojot zināšanas, kas man bija, kā arī domāt par faktiskajām vietām, kur mākslīgais intelekts tiek veidots burtiski no akmeņiem, smiltīm un eļļas.

Kādas atsauksmes ir saņēmusi grāmata?

Viena no lietām, kas mani pārsteidza pirmajās atbildēs, ir tā, ka cilvēkiem patiešām šķiet, ka šāda perspektīva bija novēlota. Ir brīdis, kad mēs apzināmies, ka mums ir nepieciešama cita veida saruna, nevis tā, kas mums ir bijusi pēdējos gados.

Mēs esam pavadījuši pārāk daudz laika, koncentrējoties uz šauriem AI sistēmu tehniskajiem labojumiem un vienmēr koncentrējot tehniskās atbildes un tehniskās atbildes. Tagad mums ir jācīnās ar sistēmu ietekmi uz vidi. Mums ir jācīnās ar ļoti reālajām darbaspēka ekspluatācijas formām, kas ir notikušas šo sistēmu būvniecībā.

Un mēs arī tagad sākam redzēt toksisko mantojumu tam, kas notiek, ja jūs vienkārši izraujat no interneta tik daudz datu, cik vien iespējams, un vienkārši saucat to par patiesību. Šāda veida problemātiska pasaules ierāmēšana ir radījusi tik daudz kaitējuma, un, kā vienmēr, šo kaitējumu visvairāk ir izjutušas kopienas, kuras jau bija marginalizētas un nav izjutušas šo sistēmu priekšrocības.

Ko jūs cerat, ka cilvēki sāks darīt savādāk?

Es ceru, ka būs daudz grūtāk vadīt šīs strupceļa sarunas, kurās tiek izmantoti tādi termini kā ētika un mākslīgais intelekts. tik pilnīgi denaturēts no jebkādas faktiskās nozīmes . Es ceru, ka tas novilks priekškaru un saka: paskatīsimies, kas vada šo sistēmu sviras. Tas nozīmē pāreju no koncentrēšanās tikai uz tādām lietām kā ētikas principi uz runāšanu par varu.

Kā mēs attālināmies no šī ētikas ietvara?

Saistīts stāsts

Vai uztraucaties par sava uzņēmuma AI ētiku? Šie jaunizveidotie uzņēmumi ir šeit, lai palīdzētu. Pieaugošā atbildīgo AI uzņēmumu ekosistēma sola palīdzēt organizācijām pārraudzīt un labot savus AI modeļus.

Ja pēdējo desmit gadu laikā tehnoloģiju nozarē ir bijušas reālas lamatas, tad pārmaiņu teorija vienmēr ir bijusi vērsta uz inženieriju. Tā ir bijis vienmēr. Ja ir problēma, ir tehniskais risinājums. Un tikai nesen mēs sākam redzēt, ka tas paplašinās līdz Ak, labi, ja ir problēma, tad regulējums var to salabot. Politikas veidotājiem ir sava loma.

Bet es domāju, ka mums tas ir jāpaplašina vēl vairāk. Mums arī jāsaka: kur ir pilsoniskās sabiedrības grupas, kur ir aktīvisti, kur ir aizstāvji, kas risina klimata taisnīguma, darba tiesību, datu aizsardzības jautājumus? Kā mēs tos iekļaujam šajās diskusijās? Kā iekļaut skartās kopienas?

Citiem vārdiem sakot, kā padarīt šo daudz dziļāku demokrātisku sarunu par to, kā šīs sistēmas jau tagad ietekmē miljardu cilvēku dzīvi galvenokārt neatskaitāmā veidā, kas dzīvo ārpus regulējuma un demokrātiskas uzraudzības?

Šajā ziņā šī grāmata mēģina decentralizēt tehnoloģiju un sāk uzdot lielākus jautājumus: Kādā pasaulē mēs vēlamies dzīvot?

Kāda veida pasaule dara tu gribi dzīvot? Par kādu nākotni tu sapņo?

Es gribu redzēt, ka grupas, kas ir paveikušas patiesi smago darbu, risinot tādus jautājumus kā klimata taisnīgums un darba tiesības, pulcējas kopā, un saprast, ka šīm iepriekš diezgan atšķirīgajām sociālo pārmaiņu un rasu taisnīguma frontēm patiešām ir kopīgas bažas un kopīgs pamats. koordinēt un organizēt.

Jo mēs šeit skatāmies uz ļoti īsu laika horizontu. Mums ir darīšana ar planētu, kas jau ir pakļauta nopietnai spriedzei. Mēs skatāmies uz dziļu varas koncentrāciju ārkārtīgi mazās rokās. Jums tiešām būtu jāatgriežas dzelzceļu pirmsākumos, lai redzētu citu nozari, kas ir tik koncentrēta, un tagad jūs pat varētu teikt, ka tehnoloģija to ir apsteigusi.

Tāpēc mums ir jācīnās par veidiem, kā mēs varam pluralizēt mūsu sabiedrību un nodrošināt lielākas demokrātiskās atbildības formas. Un tā ir kolektīvās rīcības problēma. Tā nav individuālas izvēles problēma. Nav tā, ka mēs no plaukta izvēlamies ētiskāku tehnoloģiju zīmolu. Mums ir jāatrod veidi, kā strādāt kopā, lai risinātu šīs planētas mēroga problēmas.

Atjaunināt : AI Now institūta apraksts ir precizēts.

paslēpties