211service.com
Mums jārunā par AI spējām manipulēt ar cilvēkiem
Līsla Gadslija
Mēs visi esam lasījuši par to, ka mākslīgais intelekts kļūst gudrāks par mums, par nākotni, kurā mēs kļūstam kā mājdzīvnieki un varam tikai cerēt, ka mākslīgais intelekts būs labvēlīgs. Mana pieredze, vērojot desmitiem miljonu mijiedarbības starp cilvēkiem un mākslīgiem sarunu aģentiem jeb botiem, ir pārliecinājusi mani, ka pastāv daudz tiešāki riski, kā arī milzīgas iespējas.
No 2007. līdz 2014. gadam es biju Cognea izpilddirektors, kas piedāvāja platformu, lai ātri izveidotu sarežģītus virtuālos aģentus, izmantojot strukturētas un dziļas mācīšanās kombināciju. To izmantoja desmitiem tūkstošu izstrādātāju, tostarp pusducis Fortune 100 uzņēmumu, un IBM Watson to iegādājās 2014. gadā.
Kad es pētīju, kā cilvēki mijiedarbojas ar desmitiem tūkstošu aģentu, kas izveidoti uz mūsu platformas, kļuva skaidrs, ka cilvēki ir daudz vairāk gatavi veidot attiecības ar AI programmatūru, nekā vairums cilvēku saprot.
Es vienmēr uzskatīju, ka mēs vēlamies saglabāt zināmu distanci starp sevi un AI, taču es atklāju, ka patiesība ir pretēja. Cilvēki ir gatavi veidot attiecības ar mākslīgiem aģentiem, ja vien tie ir izsmalcināti un spēj sarežģīti personalizēt. Šķiet, ka mēs, cilvēki, vēlamies saglabāt ilūziju, ka AI patiešām rūpējas par mums.
Tas mani mulsināja, līdz sapratu, ka ikdienā mēs ar daudziem cilvēkiem sazināmies seklā veidā, brienot pa sava veida emocionālajām dūņām. Vai gadījuma draugi atgriezīs jūsu ziņas, ja kādu laiku tos atstājat novārtā? Vai jūsu personīgais treneris ieradīsies, ja aizmirsīsit viņiem samaksāt? Nē, bet mākslīgais līdzeklis vienmēr ir jūsu labā. Dažos veidos tās ir autentiskākas attiecības.
Šī parādība notika neatkarīgi no tā, vai aģents bija paredzēts, lai darbotos kā personīgais baņķieris, kompanjons vai fitnesa treneris. Lietotāji runāja ar automatizētajiem palīgiem ilgāk nekā ar cilvēku atbalsta aģentiem, kas veic to pašu funkciju. Cilvēki mākslīgajiem aģentiem labprāt atklāj dziļus noslēpumus, piemēram, savus nākotnes sapņus, savas mīlas dzīves detaļas, pat paroles.
Šīs pārsteidzoši dziļās saiknes nozīmē, ka pat mūsdienu salīdzinoši vienkāršās programmas var būtiski ietekmēt cilvēkus gan labā, gan sliktā veidā. Visas uzvedības izmaiņas, ko mēs Cognea vēlējāmies, mēs panācām. Ja mēs vēlamies, lai lietotājs iegādātos vairāk produktu, mēs varētu dubultot pārdošanas apjomu. Ja mēs vēlējāmies vairāk iesaistīties, mēs pamudinājām cilvēkus no dažām sekundēm mijiedarboties uz stundu vai vairāk dienā.
Tas mani ļoti satrauca, tāpēc mēs sākām savās sistēmās iestrādāt noteikumus, lai pārliecinātos, ka lietotāju uzvedība virzās pozitīvā virzienā. Mēs arī sākām pro bono karmiskās līdzsvara projektus; piemēram, veidojot aģentus par veselības vai attiecību treneriem.
Diemžēl komerciālie spēki, kas virza tehnoloģiju attīstību, ne vienmēr ir labvēlīgi. Milzu uzņēmumi, kas ir AI priekšgalā — sociālajos medijos, meklēšanā un e-komercijā — palielina savu akciju vērtību, palielinot trafiku, patēriņu un atkarību no savām tehnoloģijām. Viņiem nav sliktu nodomu, taču kapitāla tirgus raksturs var mudināt mūs uz AI, kas velnišķīgi ietekmē mūsu uzvedību šo mērķu sasniegšanai.
Ja jūs varat likt lietotājam domāt, ka es vēlos piegādāt picu, nevis lūgt AI iegādāties dārzeņus, lai pagatavotu lētāku, veselīgāku ēdienu, jūs uzvarēsit. Ja jūs varat padarīt lietotājus atkarīgus no 30 stundu pavadīšanas nedēļā kopā ar ideālu AI kompanjonu, kas neiztur ļaunprātību, nevis īstu, sarežģītu cilvēku, jūs uzvarēsit. Es atkal un atkal redzēju, ka aģents, kas ieprogrammēts būt neitrāls vai pakļauts, liks cilvēkiem eskalēt savu negatīvo uzvedību un, visticamāk, izturēsies tāpat pret cilvēkiem.
Mēs esam redzējuši, kā tehnoloģijas, piemēram, sociālie mediji, var ietekmēt cilvēku uzskatus un uzvedību. Koncentrējoties uz lielāka reklāmas biznesa veidošanu — iesaistot politiku, niekus un puspatiesības, jūs varat radīt milzīgas pārmaiņas sabiedrībā.
Sistēmām, kas īpaši izstrādātas, lai veidotu attiecības ar cilvēku, būs daudz vairāk spēka. AI ietekmēs to, kā mēs domājam un kā mēs izturamies pret citiem.
Tas prasa jaunu korporatīvās atbildības līmeni. Mums ir apzināti un apzināti jāveido mākslīgais intelekts, kas uzlabos cilvēka stāvokli, nevis tikai jācenšas gūt tūlītēju finansiālu labumu no gaziljoniem atkarīgu lietotāju.
Darbs pie atvērtā mākslīgā intelekta tehnoloģijas un smadzeņu un datoru saskarnēm vai ētikas komiteju veidošana ir tikai daļa no risinājuma. Mums ir apzināti jāveido sistēmas, kas darbojas cilvēku un sabiedrības labā. Viņu galvenais mērķis nevar būt atkarība, klikšķi un patēriņš. AI aug un veidos cilvēces būtību. AI ir vajadzīga māte.
Liesl Yearsley ir sērijveida uzņēmējs, kas šobrīd strādā pie tā, kā padarīt mākslīgā intelekta aģentus labākus problēmu risināšanā un spējīgus veidot vairāk cilvēkiem līdzīgas attiecības.