Kā reālajā pasaulē darbojās mākslīgā intelekta rīks, lai cīnītos pret nāves gadījumiem slimnīcās

Getty

2018. gada novembrī Djūka Universitātes Veselības sistēmas neatliekamās palīdzības nodaļā tiešsaistē nonāca jauns padziļinātas apmācības rīks. To sauc par Sepsis Watch, un tas tika izstrādāts, lai palīdzētu ārstiem pamanīt agrīnas pazīmes, kas liecina par vienu no galvenajiem slimnīcu nāves cēloņiem visā pasaulē.

Sepsis rodas, ja infekcija izraisa visa ķermeņa iekaisumu un galu galā izraisa orgānu slēgšanu. To var ārstēt, ja tas tiek diagnosticēts pietiekami agri, taču tas ir ļoti grūts uzdevums, jo tā simptomus viegli sajaukt ar kaut kā cita pazīmēm.

Sepsis Watch solīja to mainīt. Trīsarpus gadus ilgas izstrādes produkts (kas ietvēra veselības ierakstu digitalizāciju, 32 miljonu datu punktu analīzi un vienkāršas saskarnes izstrādi iPad lietotnes veidā), tas katru stundu novērtē pacientus par viņu iespējamību attīstīt stāvokli. Pēc tam tiek atzīmēti tie, kuriem ir vidējs vai augsts risks, un tie, kas jau atbilst kritērijiem. Kad ārsts apstiprina diagnozi, pacientiem tiek nekavējoties pievērsta uzmanība.

Divu gadu laikā kopš rīka ieviešanas Duke Health slimnīcu vadītāju un klīnicistu anekdotiski pierādījumi liecina, ka Sepsis Watch patiešām darbojas. Tas ir dramatiski samazinājis sepses izraisīto pacientu nāves gadījumu skaitu, un tagad tas ir daļa no federāli reģistrēta klīniskā pētījuma, kura rezultātiem paredzēts dalīties 2021. gadā.

No pirmā acu uzmetiena tas ir lielas tehniskās uzvaras piemērs. Rūpīgi izstrādājot un pārbaudot, mākslīgā intelekta modelis veiksmīgi uzlaboja ārstu spēju diagnosticēt slimību. Bet a jauns ziņojums no Data & Society pētniecības institūta saka, ka šī ir tikai puse no stāsta. Otra puse ir kvalificēta sociālā darbaspēka apjoms, kas projektu vadošajiem ārstiem bija jāveic, lai rīku integrētu savās ikdienas darbplūsmās. Tas ietvēra ne tikai jaunu komunikācijas protokolu izstrādi un jaunu mācību materiālu izveidi, bet arī orientēšanos darba vietas politikā un varas dinamikā.

Gadījuma izpēte ir godīgs atspoguļojums tam, kas patiešām nepieciešams, lai AI rīki gūtu panākumus reālajā pasaulē. Tas bija patiešām sarežģīti, saka līdzautore Madlēna Klēra Eliša, kultūras antropoloģe, kura pēta AI ietekmi.

Inovāciju labošana

Inovācijai ir jābūt graujošai. Tas satricina vecos veidus, kā rīkoties, lai sasniegtu labākus rezultātus. Taču reti sarunās par tehnoloģiskiem traucējumiem tiek atzīts, ka traucējumi ir arī lūzuma veids. Esošie protokoli kļūst novecojuši; sociālās hierarhijas tiek sajauktas. Lai inovācijas darbotos esošajās sistēmās, Elish un viņas līdzautore Elizabete Anne Vatkinsa sauc remontdarbus.

Pētnieku divu gadu pētījumā par Sepsis Watch Duke Health viņi dokumentēja daudzus šī traucējumu un remonta piemērus. Viena no galvenajām problēmām bija veids, kā rīks apstrīdēja medicīnas pasaulē dziļi iesakņojušos spēka dinamiku starp ārstiem un medmāsām.

Rīku izstrādes sākumposmā kļuva skaidrs, ka ātrās reaģēšanas komandas (RRT) medmāsām būs jābūt primārajām lietotājiem. Lai gan ārstējošie ārsti parasti ir atbildīgi par pacientu novērtēšanu un sepses diagnozes noteikšanu, viņiem nav laika nepārtraukti uzraudzīt citu lietotni papildus saviem pienākumiem neatliekamās palīdzības nodaļā. Turpretim RRT māsas galvenā atbildība ir nepārtraukti uzraudzīt pacienta labklājību un vajadzības gadījumā sniegt papildu palīdzību. Sepsis Watch lietotnes pārbaude ir dabiski iekļauta viņu darbplūsmā.

Bet šeit nāca izaicinājums. Kad lietotne atzīmēja pacientu kā paaugstināta riska pakāpi, medmāsai būs jāsazinās ar ārstējošo ārstu (medicīnā to sauc par ED apmeklējumu). Šīm medmāsām un apmeklētājiem ne tikai bieži nebija iepriekšēju attiecību, jo viņi pavadīja savas dienas pilnīgi dažādās slimnīcas daļās, bet arī protokols atspoguļoja pilnīgu tipiskās komandķēdes apvērsumu jebkurā slimnīcā. Vai tu mani izjoko? viena medmāsa atcerējās, ka domāja pēc tam, kad uzzināja, kā viss darbosies. Mēs ejam zvanīt ED apmeklējumi ?

Bet tas tiešām bija labākais risinājums. Tā projekta komanda ķērās pie traucējumu novēršanas dažādos lielos un mazos veidos. Galvenās medmāsas rīkoja neformālas picu ballītes, lai radītu aizrautību un uzticēšanos par Sepsis Watch starp medmāsām. Viņi arī izstrādāja komunikācijas taktiku, lai izlīdzinātu zvanus ar apmeklētājiem. Piemēram, viņi nolēma veikt tikai vienu zvanu dienā, lai vienlaikus apspriestu vairākus augsta riska pacientus, kad ārsti bija vismazāk aizņemti.

Turklāt projekta vadītāji sāka regulāri ziņot klīniskajai vadībai par Sepsis Watch ietekmi. Projekta komanda atklāja, ka ne katrs slimnīcas darbinieks uzskatīja, ka Duke Health problēma ir sepses izraisīta nāve. Īpaši ārsti, kuriem nebija slimnīcas statistikas no putna lidojuma, bija daudz vairāk aizņemti ar ārkārtas situācijām, ar kurām viņi saskaras ikdienā, piemēram, kaulu lūzumi un smagas garīgas slimības. Rezultātā daži uzskatīja, ka Sepsis Watch ir traucēklis. Bet klīniskajai vadībai sepse bija milzīga prioritāte, un, jo vairāk viņi redzēja Sepses pulksteņa darbību, jo vairāk viņi palīdzēja ieeļļot operācijas zobratus.

Mainot normas

Elish identificē divus galvenos faktorus, kas galu galā palīdzēja Sepsis Watch gūt panākumus. Pirmkārt, rīks tika pielāgots hiperlokālam, īpaši specifiskam kontekstam: tas tika izstrādāts Duke Health neatliekamās palīdzības nodaļai un nekur citur. Viņa saka, ka šī patiešām pielāgotā attīstība bija panākumu atslēga. Tas neatbilst tipiskām AI normām.

Otrkārt, visā izstrādes procesā komanda regulāri meklēja atgriezenisko saiti no medmāsām, ārstiem un citiem darbiniekiem slimnīcas hierarhijā augšup un lejup. Tas ne tikai padarīja rīku lietotājam draudzīgāku, bet arī izveidoja nelielu apņēmīgu darbinieku grupu, lai palīdzētu gūt panākumus. Atšķirību ietekmēja arī tas, ka projektu vadīja paša Duke Health klīnikas ārsti, saka Elišs, nevis tehnologi, kuri bija izlēcuši ar izpletni no programmatūras uzņēmuma. Ja jums nav izskaidrojama algoritma, viņa saka, jums ir jāveido uzticība citos veidos.

Šīs nodarbības ir ļoti pazīstamas Marzyeh Ghassemi, nākamajam MIT docentam, kurš pēta mašīnmācības lietojumprogrammas veselības aprūpei. Viņa saka, ka visām mašīnmācības sistēmām, kuras jebkad ir paredzēts novērtēt vai izmantot cilvēkiem, ir jāparedz sociāli tehniski ierobežojumi. Viņa piebilst, ka īpaši klīniskajos apstākļos, ko pārvalda cilvēku lēmumu pieņēmēji un kas ietver rūpes par cilvēkiem visneaizsargātākajās vietās, ierobežojumi, kas cilvēkiem ir jāapzinās, patiešām ir cilvēciski un loģistikas ierobežojumi.

Elish cer, ka viņas Sepsis Watch gadījuma izpēte pārliecinās pētniekus pārdomāt, kā pievērsties medicīnas AI pētniecībai un AI attīstībai kopumā. Tik liela daļa pašlaik veiktā darba ir vērsta uz AI varētu būt vai varētu darīt teorētiski , viņa saka. Ir pārāk maz informācijas par to, kas patiesībā notiek uz vietas. Taču, lai mākslīgais intelekts izpildītu savus solījumus, cilvēkiem ir tikpat daudz jādomā par sociālo integrāciju, cik par tehnisko attīstību.

Viņas darbs rada arī nopietnus jautājumus. Viņa saka, ka atbildīgam AI ir jāpievērš uzmanība vietējam un specifiskam kontekstam. Mana lasīšana un apmācība man māca, ka nevar vienkārši izstrādāt vienu lietu vienā vietā un pēc tam izvērst kaut kur citur.

Tāpēc izaicinājums patiesībā ir izdomāt, kā mēs saglabājam šo vietējo specifiku, mēģinot strādāt mērogā, viņa piebilst. Tā ir nākamā AI izpētes robeža.

paslēpties