AI pētnieki vēlas pētīt AI tāpat kā sociālie zinātnieki pēta cilvēkus

Konceptuāla ilustrācija pētniekam, kurš pēta mākslīgo intelektu Tsjisse Talsma

Daudz tintes ir izlijušas uz AI sistēmu melnās kastes raksturu un to, kā tas mūs rada neērti, ka mēs bieži nevaram saprast, kāpēc viņi pieņem lēmumus, ko viņi pieņem. Tā kā algoritmi ir kļuvuši par starpniekiem visā, sākot no mūsu sociālajām un kultūras līdz ekonomiskajām un politiskajām mijiedarbībām, datorzinātnieki ir mēģinājuši reaģēt uz pieaugošajām prasībām pēc viņu izskaidrojamības, izstrādājot tehniskas metodes, lai izprastu viņu uzvedību.

Taču grupa pētnieku no akadēmiskajām aprindām un nozares tagad apgalvo, ka mums nav jāiekļūst šajās melnajās kastēs, lai saprastu un tādējādi kontrolētu to ietekmi uz mūsu dzīvi. Galu galā šīs nav pirmās neizdibināmās melnās kastes, ar kurām esam saskārušies.

Mēs esam izstrādājuši zinātniskas metodes melno kastu pētīšanai jau simtiem gadu, taču līdz šim šīs metodes galvenokārt ir izmantotas [dzīvām būtnēm], saka Niks Obradovičs, MIT Media Lab pētnieks un līdzautors. jauns papīrs publicēts pagājušajā nedēļā Daba . Mēs varam izmantot daudzus tos pašus rīkus, lai pētītu jaunās melnās kastes AI sistēmas.

Raksta autori, daudzveidīga pētnieku grupa no nozares un akadēmiskajām aprindām, ierosina izveidot jaunu akadēmisko disciplīnu, ko sauc par mašīnu uzvedību. Tas pieiet AI sistēmu izpētei tādā pašā veidā, kā mēs vienmēr esam pētījuši dzīvniekus un cilvēkus: izmantojot empīriskus novērojumus un eksperimentus.

Tādā veidā mašīnbiheivorists datorzinātniekam ir tas pats, kas sociālzinātnieks neirozinātniekam. Pirmais cenšas saprast, kā aģents - neatkarīgi no tā, vai tas ir mākslīgs vai bioloģisks - uzvedas savā dzīvotnē, kad pastāv līdzās grupās un mijiedarbojas ar citiem inteliģentiem aģentiem. Pēdējais cenšas izjaukt lēmumu pieņemšanas mehānismus, kas ir aiz šīs uzvedības.

Mēs redzam, ka pieaug tādu mašīnu skaits, kurās darbojas aģentūra, kas ir dalībnieki, kas pieņem lēmumus un veic darbības autonomi, savā ziņojumā sacīja cits Media Lab pētnieks un vadošais autors Ijads Rahvans. emuāra ieraksts kas pievienots publikācijai. Tādējādi viņi ir jāpēta kā jauna aktieru klase ar saviem uzvedības modeļiem un ekoloģiju.

Tas nenozīmē, ka AI sistēmas ir attīstījušas sava veida brīvu gribu. (Viņiem tā noteikti nav; tie ir tikai slavināti matemātikas modeļi.) Taču tas ir paredzēts, lai AI sistēmas netiktu uzskatītas par pasīviem rīkiem, kurus var novērtēt tikai pēc to tehniskās arhitektūras, veiktspējas un iespējām. Tā vietā viņi būtu jāuzskata par aktīviem dalībniekiem, kas maina un ietekmē viņu vidi un apkārtējos cilvēkus un iekārtas.

Tātad, kā tas vispār izskatītos? Mašīnas uzvedības speciālists var iztaujāt, piemēram, balss palīgu ietekmi uz bērna personības attīstību. Vai arī viņi varētu izpētīt, kā tiešsaistes iepazīšanās algoritmi ir mainījuši to, kā cilvēki tiekas un iemīlas. Galu galā viņi pētīs jaunās īpašības, kas rodas no daudziem cilvēkiem un mašīnām, kas līdzāspastāv un sadarbojas.

Mēs visi esam viena milzīga cilvēka-mašīnas sistēma, saka Obradovičs. Mums tas ir jāatzīst un jāsāk tā pētīt.

Ir svarīgi atzīmēt, ka lielākā daļa šo ideju nav jaunas. Piemēram, robotiķi jau sen ir pētījuši cilvēka un datora mijiedarbību. Un zinātnes, tehnoloģiju un sabiedrības jomā ir tā sauktā aktieru tīkla teorija, ietvars, lai aprakstītu visu sociālajā un dabiskajā pasaulē — gan cilvēkus, gan algoritmus — kā dalībniekus, kas kaut kādā veidā ir saistīti viens ar otru. Taču lielākoties katrs no šiem centieniem ir apklusināts atsevišķās disciplīnās. Viņu apvienošana zem viena jumta palīdz saskaņot viņu mērķus, formalizēt kopīgu valodu un veicināt starpdisciplināru sadarbību. Tas mums palīdzēs atrast vienam otru, saka Obradovičs.

Neskatoties uz to, ka viņiem ir atšķirīga disciplīna no AI pētniekiem, mašīnu uzvedības speciālistiem joprojām ir cieši jāsadarbojas ar viņiem. Tā kā pēdējie atklāj jaunus veidus, kā AI sistēmas uzvedas un ietekmē cilvēkus, pirmās var izmantot šīs mācības sistēmas dizainā. Jo vairāk katra disciplīna var izmantot otras zināšanas, jo vairāk viņi varēs nodrošināt, ka mākslīgie aģenti dod labumu cilvēkiem, nevis kaitē tiem.

Obradovičs saka, ka mums ir vajadzīgas zinātnieku zināšanas no visām uzvedības un skaitļošanas disciplīnām. Izdomāt, kā sadzīvot ar mašīnām, ir pārāk liela problēma, lai viena disciplīna to atrisinātu vienatnē.

paslēpties