Neobjektīvs medicīniskais algoritms veselības aprūpes programmās deva priekšroku baltajiem cilvēkiem

Kategorija: Mākslīgais intelekts Ievietots 25. oktobris

Pētījumā ir uzsvērti riski, kas saistīti ar vēsturisko datu izmantošanu, lai apmācītu mašīnmācības algoritmus, lai veiktu prognozes.

Ziņas: Algoritms, ko daudzi ASV veselības aprūpes sniedzēji izmanto, lai prognozētu, kuriem pacientiem visvairāk būs nepieciešama papildu medicīniskā aprūpe priviliģētiem baltajiem pacientiem, nevis melnādainiem pacientiem, liecina pētnieki no UC Berkeley, kuru pētījums publicēts Zinātnē . Tas efektīvi palielināja rindu, lai saņemtu īpašu ārstēšanu sarežģītiem stāvokļiem, piemēram, nieru problēmām vai diabētu.

Pētījums: Pētnieki izraka gandrīz 50 000 ierakstu no lielas, neatklātas akadēmiskās slimnīcas. Viņi atklāja, ka baltajiem pacientiem tika piešķirti augstāki riska rādītāji, un tāpēc viņi biežāk tika izvēlēti papildu aprūpei (piemēram, vairāk aprūpes vai īpašas tikšanās), nekā melnādainiem pacientiem, kuri faktiski bija tikpat slimi. Pētnieki aprēķināja, ka neobjektivitāte samazināja melnādaino pacientu īpatsvaru, kuri saņēma papildu palīdzību, vairāk nekā uz pusi.

Kāda programmatūra šī bija? Pētnieki neteica, bet gan Washington Post identificē to kā Optum, kas pieder apdrošinātājam UnitedHealth. Tajā teikts, ka tā produkts tiek izmantots, lai pārvaldītu vairāk nekā 70 miljonus dzīvību. Lai gan pētnieki koncentrējās tikai uz vienu konkrētu rīku, viņi konstatēja to pašu trūkumu 10 nozarē visplašāk izmantotajos algoritmos. Katru gadu šie rīki tiek kopīgi piemēroti aptuveni 150 līdz 200 miljoniem cilvēku ASV.

Kā neobjektivitāte iezagās: Rase nebija faktors algoritma lēmumu pieņemšanā (tas būtu nelikumīgi); tā izmantoja pacientu slimības vēsturi, lai prognozētu, cik tie varētu izmaksāt veselības aprūpes sistēmai. Taču izmaksas nav rases akls rādītājs: sociālekonomisku un citu iemeslu dēļ melnādainiem pacientiem vēsturiski ir radušās zemākas veselības aprūpes izmaksas nekā baltajiem pacientiem ar tādiem pašiem nosacījumiem. Rezultātā algoritms baltajiem pacientiem piešķīra tādus pašus punktus kā melnajiem pacientiem, kuri bija ievērojami slimāki.

Maza glābšanas žēlastība: Pētnieki strādāja ar Optum, lai novērstu problēmu. Viņi samazināja atšķirības par vairāk nekā 80%, izveidojot versiju, kas paredz gan pacienta turpmākās izmaksas, gan to, cik reižu hronisks stāvoklis varētu uzliesmot nākamā gada laikā. Tātad algoritmisko novirzi var labot, ja — un diemžēl tas ir liels, ja — varat to uztvert.

Kāpēc tas ir svarīgi: Pētījums ir jaunākais, kas parāda svarīgu resursu piešķiršanas nepilnības saskaņā ar algoritmu ieteikumu. Šāda veida problēmas rodas ne tikai veselības aprūpē, bet arī darbā pieņemšanā, kredītpunktu novērtēšanā, apdrošināšanā un krimināltiesībās.

Lasīt tālāk: mūsu interaktīvais skaidrotājs par to, kā AI aizspriedumi ietekmē krimināltiesisko sistēmu un kāpēc to ir tik grūti novērst.