Kas ir algoritms? Tas ir atkarīgs no tā, kam jūs jautāsiet

Getty

Lēmumu pieņemšanas sistēmas kā algoritma aprakstīšana bieži vien ir veids, kā novērst atbildību par cilvēku lēmumiem. Daudziem šis termins nozīmē noteikumu kopumu, kas objektīvi balstīts uz empīriskiem pierādījumiem vai datiem. Tas arī norāda uz sistēmu, kas ir ļoti sarežģīta — iespējams, tik sarežģīta, ka cilvēkam būtu grūti izprast tās iekšējo darbību vai paredzēt tās uzvedību, kad tā tiek izmantota.

Bet vai šis raksturojums ir precīzs? Ne vienmēr.

Piemēram, decembra beigās Stenfordas Medicīnas centra nepareizajā Covid-19 vakcīnu sadalījumā tika vainots izplatīšanas algoritms, kas deva priekšroku augsta ranga administratoriem, nevis frontes ārstiem. Slimnīca apgalvoja, ka ir konsultējusies ar ētikas speciālistiem, lai izstrādātu savu ļoti sarežģīto algoritmu, kas, pēc pārstāvja teiktā, acīmredzami nedarbojās pareizi, jo MIT tehnoloģiju apskats ziņoja tajā laikā. Lai gan daudzi cilvēki interpretēja šī termina lietojumu tādējādi, ka ir iesaistīta AI vai mašīnmācīšanās, patiesībā sistēma bija medicīnisks algoritms, kas funkcionāli atšķiras. Tas bija vairāk līdzīgs ļoti vienkāršai formulai vai lēmumu kokam, ko izstrādājusi cilvēku komiteja.

Šī atvienošana norāda uz pieaugošu problēmu. Prognozēšanas modeļiem izplatoties, sabiedrība kļūst piesardzīgāka par to izmantošanu kritisku lēmumu pieņemšanā. Bet kā politikas veidotāji sāk izstrādāt standartus novērtēšanu un auditu algoritmiem, tiem vispirms ir jādefinē lēmumu pieņemšanas vai lēmumu atbalsta rīku klase, uz kuru attieksies viņu politika. Atstājot termina algoritmu atvērtu interpretācijai, daži modeļi ar vislielāko ietekmi varētu nonākt ārpus politikas, kas izstrādāta, lai nodrošinātu, ka šādas sistēmas nenodara kaitējumu cilvēkiem.

Kā identificēt algoritmu

Tātad, vai Stenforda algoritms ir algoritms? Tas ir atkarīgs no tā, kā jūs definējat terminu. Lai gan nav vispārpieņemtas definīcijas, no tā izriet izplatīta definīcija 1971. gada mācību grāmata rakstījis datorzinātnieks Harolds Stouns, kurš apgalvo: Algoritms ir noteikumu kopums, kas precīzi nosaka darbību secību. Šī definīcija aptver visu, sākot no receptēm līdz sarežģītiem neironu tīkliem: uz to balstīta audita politika būtu smieklīgi plaša.

Statistikā un mašīnmācībā mēs parasti domājam par algoritmu kā instrukciju kopu, ko dators izpilda, lai mācītos no datiem. Šajos laukos iegūto strukturēto informāciju parasti sauc par modeli. Informācija, ko dators mācās no datiem, izmantojot algoritmu, var izskatīties kā svari, ar kuriem reizināt katru ievades koeficientu, vai arī tā var būt daudz sarežģītāka. Var atšķirties arī paša algoritma sarežģītība. Un šo algoritmu ietekme galu galā ir atkarīga no datiem, kuriem tie tiek piemēroti, un konteksta, kurā tiek izmantots iegūtais modelis. Tam pašam algoritmam var būt pozitīva ietekme, ja to izmanto vienā kontekstā, un ļoti atšķirīga ietekme, ja to izmanto citā.

Saistīts stāsts

Šis ir Stenfordas vakcīnas algoritms, kas izlaida frontes ārstus Universitātes slimnīca nevienlīdzīgajā vakcīnu izplatīšanas plānā vainoja ļoti sarežģītu algoritmu. Lūk, kas nogāja greizi.

Citās jomās to, kas iepriekš aprakstīts kā modelis, pats par sevi sauc par algoritmu. Lai gan tas ir mulsinoši, saskaņā ar plašāko definīciju tas ir arī precīzs: modeļi ir noteikumi (kurus apgūst datora apmācības algoritms, nevis tieši cilvēki), kas nosaka darbību secību. Piemēram, pagājušajā gadā Apvienotajā Karalistē mediji aprakstīja neveiksmi an algoritms piešķirt godīgus punktus skolēniem, kuri Covid-19 dēļ nevarēja nokārtot eksāmenus. Protams, šajos ziņojumos tika apspriests modelis — instrukciju kopums, kas ievades datus (skolēna līdzšinējo sniegumu vai skolotāja vērtējumu) pārveidoja rezultātos (novērtējumā).

Šķiet, ka Stenfordā ir noticis tas, ka cilvēki, tostarp ētikas speciālisti, apsēdās un noteica, kāda darbību sērija sistēmai jāizmanto, lai, pamatojoties uz tādiem datiem kā darbinieka vecums un nodaļa, noteiktu, vai šai personai jābūt starp pirmajām. lai saņemtu vakcīnu. No tā, ko mēs zinām, šī secība nebija balstīta uz aplēses procedūru, kas optimizēta kādam kvantitatīvam mērķim. Tas bija normatīvu lēmumu kopums par to, kā vakcīnām vajadzētu noteikt prioritāti, formalizēts algoritma valodā. Šī pieeja ir kvalificējama kā algoritms medicīnas terminoloģijā un plašā definīcijā, lai gan vienīgais iesaistītais intelekts bija cilvēku intelekts.

Koncentrējieties uz ietekmi, nevis uz ieguldījumu

Likumdevēji arī sver, kas ir algoritms. Ieviests ASV Kongresā 2019. gadā, HR2291 vai Algoritmiskās atbildības likumā lieto terminu automatizēta lēmumu pieņemšanas sistēma un definē to kā skaitļošanas procesu, tostarp tādu, kas iegūts no mašīnmācīšanās, statistikas vai citām datu apstrādes vai mākslīgā intelekta metodēm, kas pieņem lēmumu vai atvieglo cilvēka lēmumu pieņemšanu, ietekmē patērētājus.

Saistīts stāsts

Auditori pārbauda darbā pieņemšanas algoritmus, lai noteiktu neobjektivitāti, taču to nav viegli novērst

AI auditos var neņemt vērā noteikta veida novirzes, un tās ne vienmēr pārbauda, ​​vai darbā pieņemšanas rīks atlasa labākos kandidātus darbam.

Līdzīgi apsver arī Ņujorka Int 1894 , likumu, kas ieviestu obligātus auditus automatizētiem nodarbinātības lēmumu pieņemšanas rīkiem, kas definēti kā jebkura sistēma, kuras funkciju regulē statistikas teorija, vai sistēmas, kuru parametrus nosaka šādas sistēmas. Konkrēti, abi likumprojekti paredz revīzijas, bet sniedz tikai augsta līmeņa vadlīnijas par to, kas ir revīzija.

Tā kā lēmumu pieņēmēji gan valdībā, gan nozarē veido algoritmisko auditu standartus, iespējamas domstarpības par to, kas uzskatāms par algoritmu. Tā vietā, lai mēģinātu vienoties par kopīgu “algoritma” definīciju vai konkrētu universālu audita paņēmienu, mēs iesakām novērtēt automatizētās sistēmas, galvenokārt pamatojoties uz to ietekmi. Koncentrējoties uz rezultātu, nevis ieguldījumu, mēs izvairāmies no nevajadzīgām debatēm par tehnisko sarežģītību. Svarīgi ir kaitējuma potenciāls neatkarīgi no tā, vai mēs runājam par algebrisko formulu vai dziļu neironu tīklu.

Ietekme ir kritisks novērtējuma faktors citās jomās. Tas ir iebūvēts klasikā BAILES kiberdrošības sistēma, ko Microsoft pirmo reizi popularizēja 2000. gadu sākumā un joprojām izmanto dažas korporācijas. DREAD A lūdz draudu novērtētājiem kvantitatīvi noteikt ietekmētos lietotājus, jautājot, cik cilvēku ciestu no identificētās ievainojamības. Ietekmes novērtējumi ir izplatīti arī cilvēktiesību un ilgtspējības analīzēs, un mēs esam redzējuši, ka daži agrīnie AI ietekmes novērtējumu izstrādātāji izveido līdzīgas rubrikas. Piemēram, Kanādas Algoritmiskais ietekmes novērtējums nodrošina punktu skaitu, pamatojoties uz tādiem kvalitatīviem jautājumiem kā vai klienti šajā uzņēmējdarbības jomā ir īpaši neaizsargāti? (Jā vai nē).

Svarīgi ir kaitējuma potenciāls neatkarīgi no tā, vai mēs runājam par algebrisko formulu vai dziļu neironu tīklu.

Noteikti ir grūtības jebkurā novērtējumā iekļaut brīvi definētu terminu, piemēram, ietekme. DREAD ietvars vēlāk tika papildināts vai aizstāts ar STRIDE, daļēji tāpēc izaicinājumiem ar dažādu uzskatu saskaņošanu par to, ko ietver draudu modelēšana. Microsoft pārtrauca lietot DREAD 2008. gadā.

AI jomā konferencēs un žurnālos jau ir ieviesti ietekmes paziņojumi ar dažādiem panākumiem un strīdiem. Tas nebūt nav nepārprotami: ietekmes novērtējumus, kas ir tīri formulēti, var viegli izspēlēt, savukārt pārāk neskaidra definīcija var novest pie patvaļīgiem vai neiespējami gariem novērtējumiem.

Tomēr tas ir svarīgs solis uz priekšu. Terminam algoritms, lai arī cik tas būtu definēts, nevajadzētu būt vairogam, lai atbrīvotu cilvēkus, kuri izstrādāja un ieviesa jebkādu sistēmu, no atbildības par tā izmantošanas sekām. Tāpēc sabiedrība arvien vairāk pieprasa algoritmisku atbildību, un ietekmes jēdziens piedāvā noderīgu kopīgu pamatu dažādām grupām, kas strādā, lai apmierinātu šo pieprasījumu.

Kristians Lūms ir Pensilvānijas Universitātes Datorzinātņu un informācijas zinātnes nodaļas zinātniskā docente.

Rumans Čodhurijs ir Twitter Mašīnu ētikas, caurspīdīguma un atbildības (META) komandas direktors. Iepriekš viņa bija algoritmiskā audita platformas Parity izpilddirektore un dibinātāja, kā arī globālā vadošā atbildīgā AI uzņēmumā Accenture.

paslēpties