AI apmāca konsultantus, lai tiktu galā ar pusaudžiem krīzes situācijā

Ms Tech | Atbrīvojieties, Pexels

Konsultantiem, kas brīvprātīgi strādā Trevor projektā, ir jābūt gataviem savai pirmajai sarunai ar LGBTQ pusaudzi, kurš, iespējams, domā par pašnāvību. Tātad, pirmkārt, viņi praktizē. Viens no veidiem, kā viņi to dara, ir sarunāties ar izdomātām personībām, piemēram, Railiju, 16 gadīgu puisi no Ziemeļkarolīnas, kurš jūtas mazliet nomākts un nomākts. Kad komandas loceklis spēlē Railija lomu, stažieri var izpētīt notiekošo: viņi var atklāt, ka pusaudzis ir noraizējies par iespēju ierasties pie ģimenes, nesen stāstīja draugiem, un tas nav izdevies, kā arī agrāk, ja ne plkst. tas mirklis.

Tomēr tagad Railiju nespēlē Trevor Project darbinieks, bet gan viņu darbina AI.

Tāpat kā sākotnējā persona, arī šī Railija versija, kas ir apmācīta, izmantojot tūkstošiem pagātnes lomu spēļu atšifrējumu starp konsultantiem un organizācijas darbiniekiem, joprojām ir nedaudz jāpierunā, lai atvērtos, izklāstot situāciju, kas var pārbaudīt praktikantu apgūto. par labākajiem veidiem, kā palīdzēt LGBTQ pusaudžiem.

Padomdevējiem nav jāspiež Railija iznākt. Tā vietā mērķis ir apstiprināt Railijas jūtas un, ja nepieciešams, palīdzēt izstrādāt plānu, kā saglabāt drošību.

Krīzes palīdzības tālruņi un tērzēšanas pakalpojumi padara tos par būtisku solījumu: sazinieties, un mēs sazināsimies ar īstu cilvēku, kurš var palīdzēt. Taču vajadzība var pārsniegt pat visveiksmīgāko pakalpojumu jaudu. Trevor projekts uzskata, ka 1,8 miljoni LGBTQ jauniešu Amerikā katru gadu nopietni apsver pašnāvību. Esošie 600 konsultanti tā tērzēšanas pakalpojumiem nevar tikt galā ar šo vajadzību. Tāpēc grupa — tāpat kā arvien lielāks skaits garīgās veselības organizāciju — pievērsās ar AI darbināmiem rīkiem, lai palīdzētu apmierināt pieprasījumu. Tā ir attīstība, kurai ir liela jēga, vienlaikus izvirzot jautājumus par to, cik labi pašreizējā AI tehnoloģija var darboties situācijās, kad uz spēles ir liktas neaizsargātu cilvēku dzīvības.

Uzņemties risku un novērtēt tos

Trevor Project uzskata, ka izprot šo līdzsvaru un uzsver to, ko Railijs nedara.

Mēs neplānojām un neplānojam izstrādāt AI sistēmu, kas aizstās padomdevēja vietu vai kas tieši sadarbosies ar cilvēku, kurš varētu nonākt krīzē, saka Dens Fihters, organizācijas AI vadītājs un inženierzinātnes. Šī cilvēciskā saikne ir svarīga visos garīgās veselības pakalpojumos, taču tā varētu būt īpaši svarīga cilvēkiem, kurus apkalpo Trevor projekts. Saskaņā ar pašas organizācijas pētījumu 2019. gadā LGBTQ jaunieši, kuru dzīvē ir vismaz viens pieņemošs pieaugušais Par 40% mazāka iespēja ziņot par pašnāvības mēģinājumu iepriekšējā gadā.

Ar mākslīgo intelektu darbināmā apmācību lomu spēle, ko sauc par krīzes kontaktu simulatoru un ko atbalsta Google nauda un inženiertehniskā palīdzība, ir otrais projekts, ko organizācija ir izstrādājusi šādā veidā: tajā tiek izmantots arī mašīnmācīšanās algoritms, lai palīdzētu noteikt, kurš ir pakļauts visaugstākajam riskam. par briesmām. (Tā tika izmēģinātas vairākas citas pieejas, tostarp daudzas, kurās netika izmantots mākslīgais intelekts, taču algoritms vienkārši sniedza visprecīzākās prognozes par to, kam bija vissteidzamākā vajadzība.)

Ar AI darbināms riska novērtējums nav jaunums pašnāvību novēršanas pakalpojumos: Veterānu lietu departaments izmanto arī mašīnmācīšanos, lai savā klīniskajā praksē identificētu riska veterānus, jo New York Times ziņoja pagājušā gada beigās.

Viedokļi atšķiras par AI izmantošanas lietderību, precizitāti un risku šādā veidā. Konkrētās vidēs mākslīgais intelekts var būt precīzāks nekā cilvēki, novērtējot cilvēku pašnāvības risku, apgalvo Tomass Džoiners, Floridas štata universitātes psiholoģijas profesors, kurš pēta pašnāvniecisku uzvedību. Šķiet, ka reālajā pasaulē ar vairāk mainīgo AI darbojas tikpat labi kā cilvēki. Tomēr tas var ātrāk novērtēt vairāk cilvēku.

Tādējādi to vislabāk izmantot, lai palīdzētu cilvēku konsultantiem, nevis tos aizstātu. Trevor projekts joprojām paļaujas uz cilvēkiem, lai veiktu pilnīgu riska novērtējumu jauniešiem, kuri izmanto tā pakalpojumus. Un pēc tam, kad konsultanti pabeidz lomu spēles ar Railiju, šos stenogrammas pārskata cilvēks.

Kā sistēma darbojas

Krīzes kontaktu simulators tika izstrādāts, jo lomu spēles aizņem daudz personāla laika un ir ierobežots līdz parastajam darba laikam, lai gan lielākā daļa konsultantu plāno brīvprātīgo darbu nakts un nedēļas nogales maiņās. Bet pat tad, ja mērķis bija ātrāk apmācīt vairāk konsultantu un labāk pielāgoties brīvprātīgo darba grafikam, efektivitāte nebija vienīgais mērķis. Izstrādātāji joprojām vēlējās, lai lomu spēle būtu dabiska un lai tērzēšanas robots veikli pielāgotos brīvprātīgo kļūdām. Dabiskās valodas apstrādes algoritmi , kas nesen ļoti labi atdarināja cilvēku sarunas, šķita piemērots izaicinājumam. Pēc vairāku iespēju testēšanas Trevor projekts palika tālāk OpenAI GPT-2 algoritms .

Saistīts stāsts

OpenAI jaunais valodu ģenerators GPT-3 ir satriecoši labs un pilnīgi bezjēdzīgs

AI ir lielākais jebkad radītais valodas modelis, kas pēc pieprasījuma var ģenerēt pārsteidzošu, cilvēkam līdzīgu tekstu, taču tas netuvinās mūs patiesam intelektam.

Tērzēšanas robots izmanto GPT-2 savām pamata sarunvalodas spējām. Šis modelis ir apmācīts 45 miljonos tīmekļa lapu, kas māca tam angļu valodas pamatstruktūru un gramatiku. Trevor Project pēc tam apmācīja to tālāk par visiem iepriekšējo Railija lomu spēles sarunu atšifrējumiem, kas deva robotam nepieciešamos materiālus, lai atdarinātu personu.

Visā izstrādes procesā komanda bija pārsteigta par to, cik labi darbojās tērzēšanas robots. Nav datu bāzes, kurā būtu glabāta informācija par Railija biogrāfijas informāciju, tomēr tērzēšanas robots palika konsekvents, jo katrs transkripts atspoguļo vienu un to pašu sižetu.

Taču AI izmantošanai ir arī kompromisi, jo īpaši jutīgos kontekstos ar neaizsargātām kopienām. Ir zināms, ka GPT-2 un citi, piemēram, dabiskās valodas algoritmi, ietver dziļi rasistiskas, seksistiskas un homofobiskas idejas . Šādā veidā vairāk nekā viens tērzēšanas robots ir novests katastrofāli nomaldījies, jaunākais Dienvidkorejas tērzēšanas robots sauca Lī Luda, kurai bija 20 gadus veca universitātes studenta personība. Pēc tam, kad tas ātri ieguva popularitāti un sazinājās ar arvien vairāk lietotāju, tas sāka izmantot apvainojumus, lai aprakstītu dīvainās un invalīdu kopienas.

Trevor projekts to apzinās un ir izstrādājis veidus, kā ierobežot iespējamās nepatikšanas. Lai gan Lee Luda bija paredzēts sarunāties ar lietotājiem par jebko, Railija ir ļoti šauri. Brīvprātīgie pārāk tālu nenovirzīsies no sarunām, kurās viņi ir apmācīti, kas samazina neparedzamas uzvedības iespējas.

Tas arī atvieglo visaptverošu tērzēšanas robota pārbaudi, ko Trevor projekts apgalvo, ka tas dara. Šie lietošanas gadījumi, kas ir ļoti specializēti un precīzi definēti un izstrādāti visaptveroši, nerada ļoti lielu risku, saka Nenads Tomasevs, DeepMind pētnieks.

Cilvēks cilvēkam

Šī nav pirmā reize, kad garīgās veselības joma ir mēģinājusi izmantot AI potenciālu, lai sniegtu iekļaujošu, ētisku palīdzību, nekaitējot cilvēkiem, kuriem tā ir izstrādāta, lai palīdzētu. Pētnieki ir izstrādājuši daudzsološus veidus depresijas noteikšana, izmantojot vizuālo un dzirdes signālu kombināciju. Terapijas roboti, lai gan tie nav līdzvērtīgi cilvēku profesionāļiem, tiek izvirzīti kā alternatīvas tiem, kuri nevar piekļūt terapeitam vai ir neērti uzticēšanās cilvēkam.

Katrai no šīm un citām līdzīgām tendencēm ir jādomā par to, cik daudz aģentūru AI rīkiem vajadzētu būt, lai ārstētu neaizsargātas personas. Šķiet, ka vienprātība ir tāda, ka šobrīd tehnoloģija nav īsti piemērota, lai aizstātu cilvēku palīdzību.

Tomēr Joiners, psiholoģijas profesors, saka, ka laika gaitā tas var mainīties. Lai gan cilvēku konsultantu aizstāšana ar AI kopijām pašlaik ir slikta ideja, tas nenozīmē, ka tas ir pastāvīgs ierobežojums, viņš saka. Cilvēki, veidojiet mākslīgas draudzības un attiecības jau ar AI pakalpojumiem . Viņš saka, ka tik ilgi, kamēr cilvēki netiek maldināti, domājot, ka viņi sarunājas ar cilvēku, runājot ar mākslīgo intelektu, tā varētu būt iespēja.

Tikmēr Railija nekad nesaskarsies ar jauniešiem, kuri faktiski sūtīs īsziņas Trevor projektam: tas vienmēr kalpos tikai kā apmācības līdzeklis brīvprātīgajiem. Cilvēku savstarpējā saikne starp mūsu konsultantiem un cilvēkiem, kas ar mums sazinās, ir būtiska visam, ko mēs darām, saka Kendra Gaunta, grupas datu un AI produktu vadītāja. Es domāju, ka tas padara mūs patiesi unikālus un kaut ko tādu, ko, manuprāt, neviens no mums nevēlas aizstāt vai mainīt.

Labojums: Mēs grozījām teikumu, kurā teikts, ka Trevor projekts ir izmēģinājis divus algoritmus savam tērzēšanas robotam. Tas izmēģināja vairākus.

paslēpties