Ja mākslīgais intelekts mums palīdzēs krīzes situācijā, mums ir vajadzīga jauna veida ētika

Ms Tech | Pixabay

Džesa Vitlstouna no Kembridžas universitātes Leverhulme izlūkošanas nākotnes centra un viņas kolēģi publicēja komentāra gabals Nature Machine Intelligence šonedēļ apgalvojot, ka, ja mākslīgais intelekts gatavojas palīdzība krīzes situācijā , mums ir nepieciešams jauns, ātrāks veids, kā īstenot AI ētiku , ko viņi sauc par ētiku steidzamības dēļ.

DŽESS VITTLSTOUNS

Vitstonam tas nozīmē paredzēt problēmas, pirms tās rodas, atrast labākus veidus, kā radīt AI sistēmu drošību un uzticamību, un uzsvērt tehniskās zināšanas visos tehnoloģiju attīstības un izmantošanas līmeņos. Šo ieteikumu pamatā ir ideja, ka ētikai ir jākļūst tikai par daļu no AI veidošanas un izmantošanas, nevis par papildinājumu vai pārdomām.

Galu galā mākslīgais intelekts būs ātrāk izvietojams, kad tas būs nepieciešams, ja tas ir izveidots ar iebūvētu ētiku, viņa apgalvo. Es lūdzu viņai pastāstīt, ko tas nozīmē.

Šī intervija ir rediģēta garuma un skaidrības labad.

Kāpēc mums ir vajadzīga jauna veida AI ētika?

Ar šo pandēmiju mēs pēkšņi nonākam situācijā, kad cilvēki patiešām runā par to, vai AI varētu būt noderīgs, vai tas varētu glābt dzīvības. Taču krīze ir skaidri parādījusi, ka mums nav pietiekami stingru ētikas procedūru, lai AI varētu droši izvietot, un noteikti ne tādas, kuras varētu ātri ieviest.

Kas vainas mūsu ētikai?

Pēdējos pāris gadus es pavadīju, pārskatot AI ētikas iniciatīvas, aplūkojot to ierobežojumus un jautājot, kas vēl mums vajadzīgs. Salīdzinot ar biomedicīnas ētiku, mūsu ētika attiecībā uz AI nav īpaši praktiska. Tā pārāk daudz koncentrējas uz augsta līmeņa principiem. Mēs visi varam piekrist, ka AI ir jāizmanto uz labu. Bet ko tas īsti nozīmē? Un kas notiek, ja augsta līmeņa principi nonāk pretrunā?

Piemēram, mākslīgais intelekts var glābt dzīvības, taču tas var notikt uz pilsoņu brīvību, piemēram, privātuma, rēķina. Kā risināt šos kompromisus tādos veidos, kas ir pieņemami daudziem dažādiem cilvēkiem? Mēs neesam izdomājuši, kā tikt galā ar neizbēgamajām nesaskaņām.

AI ētika arī mēdz reaģēt uz esošajām problēmām, nevis paredzēt jaunas. Lielākā daļa problēmu, par kurām mūsdienās tiek runāts saistībā ar algoritmisko aizspriedumu, radās tikai tad, kad notika liela mēroga lietas, piemēram, ar policijas darbu un lēmumiem par pirmstermiņa atbrīvošanu.

Taču ētikai ir jābūt proaktīvai un jāsagatavojas tam, kas varētu noiet greizi, nevis tam, kas jau ir nogājis greizi. Acīmredzot mēs nevaram paredzēt nākotni. Taču, tā kā šīs sistēmas kļūst jaudīgākas un tiek izmantotas augstākas likmes jomās, riski palielināsies.

Kādas iespējas mēs esam palaiduši garām, neievērojot šīs procedūras?

Ir viegli pārspīlēt iespējamo, un AI, iespējams, nekad nespēlēja milzīgu lomu šajā krīzē. Mašīnmācības sistēmas nav pietiekami nobriedušas.

Taču ir daži gadījumi, kad mākslīgais intelekts tiek pārbaudīts medicīniskai diagnostikai vai resursu sadalei slimnīcās. Mēs varētu būt varējuši izmantot šāda veida sistēmas plašāk, samazinot veselības aprūpes slodzi, ja tās jau no paša sākuma būtu izstrādātas, paturot prātā ētiku.

Jo īpaši, piešķirot resursus, jūs izlemjat, kuri pacienti ir visaugstākā prioritāte. Pirms mākslīgā intelekta izmantošanas, lai palīdzētu pieņemt šādus lēmumus, ir nepieciešama ētiska sistēma.

Tātad, vai steidzamības ētika ir tikai aicinājums uzlabot esošo AI ētiku?

Tā ir daļa no tā. Fakts, ka mums nav stabilu, praktisku AI ētikas procesu, padara lietas grūtākas krīzes scenārijā. Bet šādos laikos jums ir arī lielāka vajadzība pēc pārredzamības. Cilvēki daudz runā par pārredzamības trūkumu, izmantojot mašīnmācības sistēmas kā melnās kastes. Taču pastāv arī cita veida caurskatāmība attiecībā uz to, kā sistēmas tiek izmantotas.

Tas ir īpaši svarīgi krīzes apstākļos, kad valdības un organizācijas pieņem steidzamus lēmumus, kas saistīti ar kompromisiem. Kuru veselību jūs piešķirat par prioritāti? Kā izglābt dzīvības, nesagraujot ekonomiku? Ja AI tiek izmantota publisko lēmumu pieņemšanā, pārredzamība ir svarīgāka nekā jebkad agrāk.

Kas jāmaina?

Mums par ētiku jādomā savādāk. Tam nevajadzētu būt kaut kam, kas notiek sānos vai pēc tam — kaut kam, kas jūs bremzē. Tam vienkārši vajadzētu būt daļai no tā, kā mēs veidojam šīs sistēmas: izstrādāta ētika.

Man dažreiz šķiet, ka ētika ir nepareizs vārds. Mēs sakām, ka mašīnmācības pētnieki un inženieri ir jāapmāca pārdomāt to, ko viņi būvē, neatkarīgi no tā, vai viņi veic fundamentālus pētījumus, piemēram, izstrādā jaunu pastiprināšanas-mācību algoritmu, vai kaut ko praktiskāku, piemēram, izstrādā. veselības aprūpes lietojumprogramma. Ja viņu darbs nonāks reālos produktos un pakalpojumos, kā tas varētu izskatīties? Kāda veida problēmas tas varētu radīt?

Daļa no tā jau ir sākusies. Mēs strādājam ar dažiem mākslīgā intelekta pētniekiem, kuri uzsākuši savu karjeru, un runājam ar viņiem par to, kā šo domāšanas veidu ieviest viņu darbā. Tas ir neliels eksperiments, lai redzētu, kas notiek. Bet pat NeurIPS [vadošā AI konference] tagad lūdz pētniekus savu darbu beigās iekļaut paziņojumu, kurā izklāstīta viņu darba iespējamā ietekme uz sabiedrību.

Jūs esat teicis, ka mums ir vajadzīgi cilvēki ar tehniskām zināšanām visos AI dizaina un izmantošanas līmeņos. Kāpēc ir tā, ka?

Es nesaku, ka tehniskās zināšanas ir ētikas pamatā, bet tā ir perspektīva, kas ir jāpārstāv. Un es nevēlos izklausīties tā, it kā es saku, ka visa atbildība gulstas uz pētniekiem, jo ​​daudzus svarīgus lēmumus par to, kā AI izmanto, pieņem tālāk ķēdē, nozare vai valdības.

Bet es uztraucos, ka cilvēki, kas pieņem šos lēmumus, ne vienmēr pilnībā saprot, kā tas var noiet greizi. Tāpēc jums ir jāiesaista cilvēki ar tehniskām zināšanām. Mūsu intuīcija par to, ko AI var un ko nevar darīt, nav ļoti uzticama.

Visos AI attīstības līmeņos jums ir nepieciešami cilvēki, kuri patiešām saprot mašīnmācības detaļas, lai strādātu ar cilvēkiem, kuri patiešām saprot ētiku. Tomēr starpdisciplināra sadarbība ir grūta. Cilvēki ar dažādām kompetences jomām bieži runā par lietām dažādos veidos. Tas, ko mašīnmācības pētnieks saprot ar privātumu, var ļoti atšķirties no tā, ko jurists saprot ar privātumu, un jūs varat beigties ar cilvēkiem, kuri runā viens otram garām. Tāpēc šīm dažādajām grupām ir svarīgi pierast strādāt kopā.

Jūs cenšaties veikt diezgan lielu institucionālo un kultūras reformu. Kas liek jums domāt, ka cilvēki vēlēsies to darīt, nevis izveidot ētikas padomes vai uzraudzības komitejas — kas man vienmēr liek mazliet nopūsties, jo tās mēdz būt bezzobainas?

Jā, es arī nopūšos. Bet es domāju, ka šī krīze liek cilvēkiem saprast praktisku risinājumu nozīmi. Varbūt tā vietā, lai teiktu: Ak, pieņemsim šo pārraudzības padomi un šo pārraudzības padomi, cilvēki sacīs: mums tas ir jāpadara, un mums tas ir jādara pareizi.

paslēpties