211service.com
Algoritmu nenoteiktības sajūta varētu padarīt tos ētiskākus
Algoritmi ir vislabākie, lai sasniegtu vienu matemātisku mērķi, taču cilvēki bieži vien vēlas vairākas nesaderīgas lietas. 2019. gada 18. janvāris
Tehniķa kundze
Algoritmi arvien vairāk tiek izmantoti ētisku lēmumu pieņemšanai. Iespējams, ka labākais piemērs tam ir augsto tehnoloģiju ētiskā dilemma, kas pazīstama kā ratiņu problēma: ja pašbraucoša automašīna nevar sevi apturēt, nogalinot vienu no diviem gājējiem, kā automašīnas vadības programmatūrai vajadzētu izvēlēties, kurš dzīvo un kurš mirst. ?
Patiesībā šī mīkla nav īsti reālistisks pašpiedziņas automašīnu darbības attēlojums. Bet daudzām citām sistēmām, kas jau ir vai nav tālu, būs jāveic visdažādākie reāli ētiski kompromisi. Vērtēšanas instrumentos, ko pašlaik izmanto krimināltiesību sistēmā, ir jāņem vērā riski sabiedrībai pret kaitējumu atsevišķiem apsūdzētajiem; autonomajiem ieročiem būs jāsalīdzina karavīru dzīvības un civiliedzīvotāju dzīvības.
Problēma ir tā, ka algoritmi nekad netika izstrādāti, lai tiktu galā ar tik grūtām izvēlēm. Tie ir veidoti, lai sasniegtu vienu matemātisku mērķi, piemēram, maksimāli palielināt izglābto karavīru dzīvību skaitu vai samazināt civiliedzīvotāju nāves gadījumu skaitu. Kad sākat nodarboties ar vairākiem, bieži konkurējošiem mērķiem vai mēģināt ņemt vērā nemateriālos aspektus, piemēram, brīvību un labklājību, apmierinošs matemātisks risinājums ne vienmēr pastāv.
Mēs kā cilvēki vēlamies vairākas nesaderīgas lietas, saka Pīters Ekerslijs, AI partnerības pētniecības direktors, kurš nesen izdeva papīrs kas pēta šo jautājumu. Ir daudzas augstas likmes situācijas, kurās faktiski ir nepiemēroti — iespējams, bīstami — ieprogrammēt vienu mērķa funkciju, kas mēģina aprakstīt jūsu ētiku.
Šīs bezrisinājuma dilemmas nav raksturīgas algoritmiem. Ētiķi tās ir pētījuši gadu desmitiem un dēvē tās par neiespējamības teorēmām. Tātad, kad Ekerslijs pirmo reizi atpazina viņu pielietojumu mākslīgajam intelektam, viņš aizņēmās ideju tieši no ētikas jomas, lai piedāvātu risinājumu: kā būtu, ja mēs savos algoritmos iekļautu nenoteiktību?
Viņš saka, ka mēs kā cilvēki lēmumus pieņemam diezgan nenoteiktos veidos. Mūsu kā morālu būtņu uzvedība ir pilna ar nenoteiktību. Bet, kad mēs cenšamies pieņemt šo ētisko uzvedību un pielietot to AI, tā mēdz kļūt konkretizēta un precīzāka. Tā vietā Ekerslijs ierosina, kāpēc gan nepārprotami izstrādāt mūsu algoritmus tā, lai nebūtu skaidrības par pareizo rīcību?
Ekerslijs izvirza divus iespējamos paņēmienus, kā matemātiski izteikt šo ideju. Viņš sāk ar pieņēmumu, ka algoritmi parasti tiek ieprogrammēti ar skaidriem noteikumiem par cilvēku vēlmēm. Mums, piemēram, būtu jāsaka, ka mēs noteikti dodam priekšroku draudzīgiem karavīriem, nevis draudzīgiem civiliedzīvotājiem, un draudzīgiem civiliedzīvotājiem, nevis ienaidnieka karavīriem — pat ja mēs patiesībā nebijām pārliecināti vai nedomājām, ka tā vienmēr vajadzētu būt. Algoritma dizains atstāj maz vietas nenoteiktībai.
Pirmais paņēmiens, kas pazīstams kā daļēja pasūtīšana, sāk ieviest tikai mazāko nenoteiktību. Jūs varētu ieprogrammēt algoritmu, lai dotu priekšroku draudzīgiem karavīriem, nevis ienaidnieka karavīriem un draudzīgiem civiliedzīvotājiem, nevis ienaidnieka karavīriem, taču jūs nenorādīsit priekšroku draudzīgiem karavīriem un draudzīgiem civiliedzīvotājiem.
Otrajā paņēmienā, kas pazīstams kā nenoteikta secība, jums ir vairāki absolūto preferenču saraksti, taču katram no tiem ir pievienota varbūtība. Trīs ceturtdaļas laika jūs varētu dot priekšroku draudzīgiem karavīriem, nevis draudzīgiem civiliedzīvotājiem, nevis ienaidnieka karavīriem. Ceturto daļu laika jūs varētu dot priekšroku draudzīgiem civiliedzīvotājiem, nevis draudzīgiem karavīriem, nevis ienaidnieka karavīriem.
Algoritms varētu tikt galā ar šo nenoteiktību, aprēķinot vairākus risinājumus un pēc tam dodot cilvēkiem iespēju izvēlni ar tiem saistītajiem kompromisiem, saka Ekerslijs. Pieņemsim, ka AI sistēma bija paredzēta, lai palīdzētu pieņemt medicīniskus lēmumus. Tā vietā, lai ieteiktu vienu ārstēšanu, tā varētu piedāvāt trīs iespējamās iespējas: vienu pacienta dzīves ilguma palielināšanai, otru pacienta ciešanu mazināšanai un trešo izmaksu samazināšanai. Viņš saka, ka sistēma ir nepārprotami nepārliecināta un nodod dilemmu atpakaļ cilvēkiem.
Kornela universitātes datorzinātņu profesore Karla Gomesa savā darbā ir eksperimentējusi ar līdzīgām metodēm. Vienā projektā viņa ir izstrādājusi automatizētu sistēmu, lai novērtētu jaunu hidroelektrostaciju dambju projektu ietekmi Amazones upes baseinā. Dambji nodrošina tīras enerģijas avotu. Bet tie arī būtiski maina upju posmus un izjauc savvaļas ekosistēmas.
Šis ir pilnīgi atšķirīgs scenārijs no autonomām automašīnām vai citām [parasti pieminētām ētiskām dilemmām], taču tas ir vēl viens iestatījums, kurā šīs problēmas ir reālas, viņa saka. Ir divi pretrunīgi mērķi, kas jums jādara?
Viņa piebilst, ka kopējā problēma ir ļoti sarežģīta. Lai risinātu visas problēmas, būs jāveic virkne pētījumu, taču Pētera pieeja sper svarīgu soli pareizajā virzienā.
Tā ir problēma, kas tikai pieaugs, paļaujoties uz algoritmiskām sistēmām. Arvien vairāk sarežģītu sistēmu dēļ ir nepieciešams, lai AI būtu atbildīgs, saka Romāns V. Jampolskis, Luisvilas universitātes datorzinātņu asociētais profesors. Neviens cilvēks nevar saprast visa akciju tirgus vai militārās reaģēšanas sistēmu sarežģītību. Tāpēc mums neatliks nekas cits, kā daļu no mūsu kontroles atdot iekārtām.
Iepriekšēja šī stāsta versija sākotnēji parādījās mūsu AI informatīvajā izdevumā The Algorithm. Lai tas tiktu tieši piegādāts jūsu iesūtnē, abonējiet šeit bez maksas.