Mēs cīnāmies pret viltus ziņu AI robotiem, izmantojot vairāk AI. Tā ir kļūda.

Grāmatas vāka fotoattēls

• Samuels Vullijs ir Teksasas Ostinas Universitātes Mūdija Komunikācijas skolas docents. Šis ir adaptēts fragments no viņa topošās grāmatas Realitātes spēle .

Ikreiz, kad piesakāties Twitter un skatāties kādu populāru ziņu, jūs, iespējams, atradīsit robotu kontus, kuriem tas patīk vai komentē. Noklikšķinot cauri, jūs varat redzēt, ka viņi ir tvītojuši daudzas reizes, bieži vien īsā laika posmā. Dažreiz viņu ziņojumos tiek pārdots nevēlams saturs vai izplatīti digitālie vīrusi. Citi konti, jo īpaši robotprogrammatūras, kas publicē izkropļotu vitriolu, reaģējot uz konkrētiem ziņu rakstiem vai oficiāliem paziņojumiem, ir pilnībā politiski.

Ir viegli pieņemt, ka visu šo fenomenu nodrošina progresīva datorzinātne. Patiešām, esmu runājis ar daudziem cilvēkiem, kuri domā, ka mašīnmācīšanās algoritmi, ko vada mašīnmācīšanās vai mākslīgais intelekts, dod politiskajiem robotiem iespēju mācīties no apkārtējās vides un izsmalcinātā veidā mijiedarboties ar cilvēkiem.

Notikumos, kuros pētnieki tagad uzskata, ka politiskajiem robotiem un dezinformācijai ir bijusi galvenā loma — Brexit referendums, Trampa un Klintona konkurss 2016. gadā, Krimas krīze — ir plaši izplatīts uzskats, ka viedie AI rīki ļāva datoriem iztēloties kā cilvēkus un palīdzēt manipulēt ar tiem. publiskā saruna.

Zinātnieki un žurnālisti to ir veicinājuši: ir bijuši ārkārtīgi provokatīvi stāsti par bruņotas AI propagandas mašīnas pieaugumu un stāstiem apgalvojot ka mākslīgais intelekts uzvarēja demokrātiju. Pat mans pētījums par to, kā sociālie mediji tiek izmantoti sabiedriskās domas veidošanai, patiesības uzlaušanai un protestu apklusināšanai — to sauc par skaitļošanas propagandu — ir citēti rakstos, kas liecina, ka mūsu robotu kungi jau ir šeit.

Tomēr realitāte ir tāda, ka sarežģītiem mehānismiem, piemēram, mākslīgajam intelektam, līdz šim ir bijusi maza nozīme skaitļošanas propagandas kampaņās. Visi pierādījumi, ko esmu redzējis vietnē Cambridge Analytica, liecina, ka uzņēmums 2016. gada ASV vēlēšanu laikā nekad nav laidis klajā psihogrāfiskos mārketinga rīkus, par kuriem tā apgalvoja, ka tā piederēja, lai gan tas varētu mērķēt uz personām ar konkrētiem ziņojumiem, kuru pamatā ir personības profili, kas iegūti no tās pretrunīgi vērtētās Facebook datu bāzes.

Tikmēr, kad es biju Oksfordas interneta institūtā, mēs pētījām, kā un vai Brexit debašu laikā tika izmantoti Twitter roboti. Mēs atklājām, ka, lai gan daudzi tika izmantoti, lai izplatītu ziņojumus par kampaņu “Pamest”, lielākā daļa automatizēto kontu bija ļoti vienkārši. Tie tika izveidoti, lai mainītu tiešsaistes sarunas ar robotprogrammatūrām, kas tika izveidotas vienkārši, lai palielinātu atzīmes Patīk un sekošanu, izplatītu saites, spēļu tendences vai troļļveida opozīciju. To spēlēja nelielas lietotāju grupas, kas saprata mēmu un viralitātes burvību, sazvērestību sēšanu tiešsaistē un to augšanu. Sarunas bloķēja pamata robotu ģenerēts surogātpasts un troksnis, kas mērķtiecīgi tika pievienots noteiktām atsaucēm, lai demobilizētu tiešsaistes sarunas. Saites uz ziņu rakstiem, kuros politiķis tika parādīts konkrētā gaismā, tika reklamētas ar viltotiem vai starpniekservera kontiem, kas tika izveidoti, lai atkal un atkal un atkal un atkal publicētu un pārpublicētu vienu un to pašu nevēlamo saturu. Šīs kampaņas tika īstenotas diezgan rupji: šie robotprogrammatūras nebija izstrādātas tā, lai tās būtu funkcionāli sarunvalodas. Viņi neizmantoja AI.

Mēms vairs nav

Tomēr ir signāli, ka sāk izmantot mākslīgā intelekta atbalstītu skaitļošanas propagandu un dezinformāciju. Hakeri un citas grupas jau ir sākušas pārbaudīt bīstamāku mākslīgā intelekta robotu efektivitāti sociālajos medijos. 2017. gada gabals no Gizmodo ziņoja, ka divi datu zinātnieki mācīja mākslīgajam intelektam izveidot savu pikšķerēšanas kampaņu: pārbaudēs mākslīgais hakeris bija ievērojami labāks par tā konkurentiem cilvēkiem, veidojot un izplatot vairāk pikšķerēšanas tvītu nekā cilvēki, un ar ievērojami labāku reklāmguvumu līmeni.

Problemātisku saturu neizplata tikai ar mašīnmācību iespējotu politisko robotu palīdzību. Tāpat problemātisku tehnoloģiju izmantošanu vai dizainu nerada tikai sociālo mediju uzņēmumi. Pētnieki ir norādījuši, ka mašīnmācīšanos var sabojāt indīgi uzbrukumi — ļaunprātīgi dalībnieki, kas ietekmē apmācības datus, lai mainītu noteiktā algoritma rezultātus, pirms mašīna tiek publiskota.

Džordža Vašingtona universitātes vecākais līdzstrādnieks Kalevs Leetaru norāda, ka pirmie AI robotu vadītie uzbrukumi var nebūt vērsti pret sociālajiem medijiem, bet gan tie būtu saistīti ar tā dēvēto izplatīto pakalpojumu atteikuma uzbrukumu, kas ietver mērķtiecīgu tīmekļa serveru slēgšanu. appludinot tos ar satiksmi.

Uz mirkli iedomājieties, ka jūs nodevāt šo robottīklu dziļas mācīšanās sistēmas pārziņā un šim AI algoritmam esat pilnībā kontrolējis katru šī robottīkla pogu un pogu, Leetaru raksta .

Šie centieni nav vērsti uz to, lai palīdzētu ziņu organizācijām pārbaudīt daudz satura. Drīzāk tie palīdz vairāku miljardu dolāru uzņēmumam uzturēt tīru savu māju.

Jūs arī sniedzat tai tiešraidē globālā interneta statusa informāciju no lielākajiem kiberdrošības un uzraudzības pārdevējiem visā pasaulē, lai tā varētu ik pa sekundei novērot, kā upuris un pārējais internets kopumā reaģē uz uzbrukumu. Iespējams, tas viss notiek pēc tam, kad algoritms ir pavadījis vairākas nedēļas, rūpīgi uzraugot mērķi, lai izprastu tā trafika modeļu un uzvedības kopumu un nianses un izietu cauri tā ārējiem aizsardzības slāņiem.

Ārpus aizsardzības

2018. gada aprīlī Marks Cukerbergs stājās Kongresa priekšā: viņš bija zem politiskā mikroskopa par nepareizu lietotāja informācijas apstrādi 2016. gada vēlēšanu laikā. Savā divdaļīgajā liecībā viņš vairāk nekā 30 reizes pieminēja mākslīgo intelektu, liekot domāt, ka mākslīgais intelekts būs risinājums digitālās dezinformācijas problēmai, nodrošinot programmas, kas cīnītos pret skaitļošanas propagandas milzīgo apjomu. Viņš prognozēja, ka nākamajā desmitgadē mākslīgais intelekts būs glābējs lielajām mēroga problēmām, ar kurām Facebook un citi saskaras, risinot globālo nevēlamā satura izplatību un manipulācijas.

Tātad, vai ir kāds veids, kā mēs varētu izmantot AI vai automatizētu robotu tehnoloģiju, lai tiešsaistē cīnītos pret manipulācijām ar sabiedrisko domu? Vai mēs varam izmantot AI, lai cīnītos ar AI?

Indiānas universitātes sociālo mediju observatorija ir uzbūvējis publiskos rīkus kas izmanto mašīnmācīšanos, lai atklātu robotus, apskatot 1200 funkcijas, lai noteiktu, vai tas, visticamāk, ir cilvēks vai robots.

Un Facebook produktu menedžere Tesa Laiona teikts 2018. gada paziņojumā ka mašīnmācīšanās palīdz mums identificēt atmaskoto stāstu dublikātus. Piemēram, kāds faktu pārbaudītājs Francijā atspēkoja apgalvojumu, ka jūs varat izglābt cilvēku ar insultu, izmantojot adatu, lai iedurtu pirkstu un nosūktu asinis. Tas ļāva mums identificēt vairāk nekā 20 domēnus un vairāk nekā 1400 saites, kas izplata to pašu apgalvojumu.

Šādos gadījumos sociālo mediju uzņēmumi var izmantot mašīnmācīšanos, lai savāktu un pat pārbaudītu faktu pārbaudes no visas pasaules, un izmantot šos uz pierādījumiem balstītos labojumus, lai atzīmētu viltus saturu.

Tomēr akadēmiskajā aprindās notiek lielas debates par to, vai pasīva potenciāli nepatiesas informācijas identificēšana sociālo mediju lietotājiem patiešām ir efektīva. Daži pētnieki liecina, ka faktu pārbaudes centieni gan tiešsaistē, gan bezsaistē to pašreizējā formā nedarbojas īpaši efektīvi. 2019. gada sākumā faktu pārbaudes vietne Snopes, kas sadarbojās ar Facebook šādos korektīvos pasākumos, pārtrauca attiecības . In an intervija ar Poynter Institute Snopes operāciju viceprezidents Vinnijs Grīns sacīja: Nešķiet, ka mēs cenšamies padarīt trešo pušu faktu pārbaudi praktiskāku izdevējiem — šķiet, ka mēs cenšamies to atvieglot Facebook.

Tādas organizācijas kā Facebook turpina paļauties uz mazām, parasti bezpeļņas organizācijām, lai pārbaudītu saturu. Potenciāli nepatiesi raksti vai videoklipi bieži tiek nosūtīti šīm grupām bez vispārējas informācijas par to, kā un kāpēc tie tika atzīmēti kā nepiemēroti.

Šie centieni nav vērsti uz to, lai palīdzētu ziņu organizācijām pārbaudīt saturu vai potenciālos klientus, ko tās saņem katru dienu, lai palīdzētu nepietiekami nodrošinātiem reportieriem strādāt labāk. Drīzāk tie palīdz vairāku miljardu dolāru uzņēmumam uzturēt savu māju tīru post hoc veidā. Ir pienācis laiks Facebook uzņemties atbildību par faktu pārbaudi, nevis nodot ziņu pārbaudīšanas vai atmaskošanas uzdevumu citām grupām. Facebook un citiem sociālo mediju uzņēmumiem arī jāpārtrauc paļauties uz faktu pārbaudēm pēc fakta, tas ir, tikai pēc tam, kad viltus raksts ir kļuvis par vīrusu. Šiem uzņēmumiem ir jāģenerē sava veida agrīnās brīdināšanas sistēma skaitļošanas propagandai.

Facebook, Google un citi līdzīgi izmanto cilvēkus, lai atrastu un noņemtu saturu, kas satur vardarbību vai informāciju no teroristu grupām. Tomēr viņi ir daudz mazāk dedzīgi, cenšoties atbrīvoties no dezinformācijas. Dažādu kontekstu pārpilnība, kādos tiešsaistē plūst nepatiesa informācija — no vēlēšanām Indijā līdz lielam sporta notikumam Dienvidāfrikā — apgrūtina mākslīgā intelekta darbību neatkarīgi no cilvēka zināšanu trūkuma. Taču nākamajos mēnešos un gados vajadzēs cilvēku bariem visā pasaulē, lai efektīvi pārbaudītu milzīgo satura apjomu neskaitāmajos apstākļos, kas radīsies.

Sociālajos medijos skaitļošanas propagandas problēmai vienkārši nav vienkārša risinājuma. Tomēr uzņēmumu pienākums ir atrast veidu, kā to novērst. Līdz šim šķiet, ka Facebook daudz vairāk koncentrējas uz sabiedriskajām attiecībām, nevis uz skaitļošanas propagandas vai grafiskā satura plūsmas regulēšanu. Saskaņā ar The Verge , uzņēmums pavada vairāk laika, lai atzīmētu savus centienus atbrīvoties no konkrētiem vitriola vai vardarbības gabaliem, nevis sistemātiski pārskatīt savus mērenības procesus.

Papildus faktu pārbaudei

Tā būs kāda cilvēka darba un AI kombinācija, kas galu galā izdosies apkarot skaitļošanas propagandu, taču vienkārši nav skaidrs, kā tas notiks. Ar AI uzlabotā faktu pārbaude ir tikai viens ceļš uz priekšu. Mašīnmācība un dziļā mācīšanās, sadarbojoties ar cilvēku darbiniekiem, var cīnīties pret skaitļošanas propagandu, dezinformāciju un politisko uzmākšanos vairākos citos veidos.

Jigsaw, Google balstītais tehnoloģiju inkubators, kurā vienu gadu strādāju kā pētnieks, izstrādāja un izveidoja uz AI balstītu rīku ar nosaukumu Perspective, lai cīnītos pret trollēšanu un naida runu tiešsaistē. Šis rīks (ar kuru es pats nestrādāju) ir API, kas ļauj izstrādātājiem automātiski noteikt toksisku valodu.

Tas ir pretrunīgi vērtēts, jo tas ne tikai rada viltus pozitīvu atzīmju risku — tādu ziņu atzīmēšanu, kurās faktiski nav trollēšanas vai ļaunprātīgas izmantošanas, bet arī tiek regulēta runa. Saskaņā ar Vadu , rīks tika apmācīts, izmantojot mašīnmācīšanos, taču jebkurš šāds rīks tiek apmācīts arī, izmantojot ievadi no cilvēkiem, kuriem ir savi aizspriedumi. Tātad, vai rīks, kas izveidots, lai atklātu rasistisku vai naidīgu valodu, varētu neizdoties nepilnīgas apmācības dēļ?

2016. gadā Facebook laida klajā Deeptext — AI rīku, kas ir līdzīgs Google Perspective. Uzņēmums saka tas palīdzēja izdzēst vairāk nekā 60 000 naidpilnu ziņu nedēļā. Tomēr Facebook atzina, ka rīks joprojām paļāvās uz lielu cilvēku moderatoru kopu, lai faktiski atbrīvotos no kaitīga satura. Tikmēr Twitter 2017. gada beigās beidzot veica pasākumus, lai rūpīgāk strādātu, lai aizliegtu līdzīgi draudīgus vai vardarbīgus ierakstus. Bet, lai gan tas ir sācis ierobežot šo problemātisko materiālu un arī dzēš daudzus politisko robotu kontus, Twitter nav sniedzis skaidru norādi par to, kā tas atklāj un dzēš kontus. Mani pētniecības līdzstrādnieki un es turpinām atrast milzīgus manipulatīvus robottīklus vietnē Twitter gandrīz katru mēnesi.

Aiz horizonta

Nav pārsteidzoši, ka tāds tehnologs kā Cukerbergs ierosinātu tehnoloģisku labojumu, taču mākslīgais intelekts pats par sevi nav ideāls. Tehnoloģiju līderu tuvredzīgais fokuss uz datorizētiem risinājumiem atspoguļo naivumu un augstprātību, kuras dēļ Facebook un citi lietotāji vispirms atstāja neaizsargātus.

Pagaidām nav gudru AI robotu armiju, kas strādātu, lai manipulētu ar sabiedrisko domu apstrīdēto vēlēšanu laikā. Vai nākotnē būs? Varbūt. Taču ir svarīgi atzīmēt, ka pat gudru politisko robotprogrammatūras armijas nedarbosies pašas par sevi: tām joprojām būs nepieciešama cilvēka uzraudzība, lai manipulētu un maldinātu. Šeit mēs nesaskaramies ar The Terminator tiešsaistes versiju. Datorzinātņu un mākslīgā intelekta jomas spīdekļi, tostarp Tjūringa balvas ieguvējs Eds Feigenbaums un Džefs Hintons, dziļās mācīšanās krusttēvs, ir stingri iebilduši pret bažām, ka singularitāte — viedo mašīnu neapturamais laikmets — pienāks jebkurā laikā. Aptaujā, kurā piedalījās Amerikas Mākslīgā intelekta asociācijas stipendiāti, vairāk nekā 90% aptaujāto teica, ka superinteliģence ir ārpus paredzamā horizonta. Lielākā daļa šo ekspertu arī piekrita, ka tad, kad un ja nonāks īpaši viedie datori, tie neradīs draudus cilvēcei.

Stenfordas pētnieki strādā, lai izsekotu AI jaunākajiem sasniegumiem ieteikt ka mūsu mašīnu virskungi šobrīd joprojām nespēj demonstrēt veselo saprātu vai vispārējo intelektu, kāds ir pat 5 gadus vecam bērnam. Tātad, kā šie rīki sagraus cilvēku valdīšanu vai, teiksim, atrisinās ārkārtīgi cilvēciskas sociālās problēmas, piemēram, politisko polarizāciju un kritiskās domāšanas trūkumu? The Wall Street Journal Īsi sakot 2017. gadā : Bez cilvēkiem mākslīgais intelekts joprojām ir diezgan stulbs.

Grady Booch, vadošais AI sistēmu eksperts, arī ir skeptisks par īpaši viedo negodīgo iekārtu pieaugumu, taču cita iemesla dēļ. TED runā 2016. gadā Viņš teica, ka tagad uztraukties par superinteliģences pieaugumu daudzējādā ziņā ir bīstams traucēklis, jo skaitļošanas pieaugums mums rada vairākas cilvēciskas un sabiedrības problēmas, kuras mums tagad ir jārisina.

Vēl svarīgāk, uzsvēra Būšs, pašreizējās AI sistēmas var darīt dažādas pārsteidzošas lietas, sākot no sarunām ar cilvēkiem dabiskā valodā līdz objektu atpazīšanai, taču par šīm lietām izlemj cilvēki un tās ir iekodētas ar cilvēka vērtībām. Viņi nav ieprogrammēti, bet viņiem tiek mācīts, kā uzvesties.

Zinātniskā izteiksmē mēs to saucam par pamata patiesību, saka Būs, un šeit ir svarīga nozīme: ražojot šīs mašīnas, mēs mācām viņiem izprast mūsu vērtības. Šajā nolūkā es mākslīgajam intelektam uzticos tikpat, ja ne vairāk, kā cilvēkam, kurš ir labi apmācīts.

Es Buša ideju virzītu vēl tālāk. Lai risinātu skaitļošanas propagandas problēmu, mums ir jānovērš cilvēki, kas ir aiz rīkiem.

Jā, nepārtraukti attīstās tehnoloģija var automatizēt dezinformācijas izplatīšanu un velcēšanu. Tas var ļaut vainīgajiem darboties anonīmi un nebaidoties no atklāšanas. Taču šis rīku komplekts kā politiskās komunikācijas veids galu galā ir vērsts uz cilvēka kontroles mērķa sasniegšanu. Propaganda ir cilvēku izgudrojums, un tā ir tikpat veca kā sabiedrība. Kā man reiz teica robotikas eksperts, mums nevajadzētu baidīties no mašīnām, kas ir gudras kā cilvēki, kā no cilvēkiem, kuri nav gudri par to, kā viņi būvē mašīnas.

Izvilkums no Semjuela Vullija no filmas The Reality Game: How the Next Wave of Technology Will Break the Truth. Autortiesības 2020. Pieejams no PublicAffairs, Hachette Book Group, Inc. nospiedums.

paslēpties