211service.com
Mašīnmācības projekta mērķis ir dezinformācija
Saistībā ar Kataras fonds
Politikā nav nekā jauna par sazvērestības teorijām, dezinformāciju un nepatiesību. Kas ir jaunums ir tas, cik ātri ļaunprātīgi dalībnieki var izplatīt dezinformāciju, ja pasaule ir cieši saistīta sociālajos tīklos un interneta ziņu vietnēs. Mēs varam atteikties no problēmas un paļauties uz pašām platformām, lai pārbaudītu faktus vai ziņas un izsijātu dezinformāciju, vai arī mēs varam izveidot jaunus rīkus, lai palīdzētu cilvēkiem identificēt dezinformāciju, tiklīdz tā nonāk viņu ekrānos.
Preslavs Nakovs ir datorzinātnieks Kataras skaitļošanas pētniecības institūtā Dohā, kas specializējas runas un valodas apstrādē. Viņš vada projektu, izmantojot mašīnmācīšanos, lai novērtētu mediju avotu uzticamību. Tas ļauj viņa komandai apkopot ziņu rakstus kopā ar signāliem par viņu uzticamību un politisko aizspriedumu, un tas viss tiek darīts Google ziņām līdzīgā formātā.
Jūs nevarat pārbaudīt faktus par katru apgalvojumu pasaulē, skaidro Nakovs. Tā vietā koncentrējieties uz avotu. Man patīk teikt, ka jūs varat pārbaudīt viltus ziņas, pirms tās pat tika uzrakstītas. Viņa komandas rīks ar nosaukumu Tanbih News Aggregator ir pieejams arābu un angļu valodā un apkopo rakstus par tādām jomām kā uzņēmējdarbība, politika, sports, zinātne un tehnoloģijas, kā arī Covid-19.
Biznesa laboratoriju vada Laurela Ruma, Insights, MIT Technology Review pielāgotās izdevniecības nodaļas, redakcijas direktore. Izrāde ir MIT Technology Review iestudējums, kurā piedalās Collective Next.
Šī aplāde tika izveidota sadarbībā ar Kataras fondu.
Rādīt piezīmes un saites
Kataras skaitļošanas pētniecības institūts
Pat vislabākais mākslīgais intelekts viltus ziņu pamanīšanai joprojām ir briesmīgs, MIT tehnoloģiju apskats, 2018. gada 3. oktobris
Pilns atšifrējums
Laurela Ruma: No MIT Technology Review es esmu Laurel Ruma, un šī ir Business Lab, izrāde, kas palīdz uzņēmumu vadītājiem izprast jaunās tehnoloģijas, kas nāk no laboratorijas un nonāk tirgū. Mūsu šodienas tēma ir dezinformācija. No viltus ziņām, propagandas un dziļiem viltojumiem var šķist, ka pret ieroču ziņām nav aizsardzības. Tomēr zinātnieki pēta veidus, kā ātri identificēt dezinformāciju, lai palīdzētu ne tikai regulatoriem un tehnoloģiju uzņēmumiem, bet arī iedzīvotājiem, jo mēs visi kopā orientējamies šajā drosmīgajā jaunajā pasaulē.
Divi vārdi jums: izplata infodēmiju.
Mans viesis ir doktors Preslavs Nakovs, kurš ir Kataras skaitļošanas pētniecības institūta galvenais zinātnieks. Viņš vada Tanbih projektu, kas tika izstrādāts sadarbībā ar MIT. Viņš ir arī vadošais galvenais pētnieks QCRI MIT sadarbības projektā par arābu runas un valodas apstrādi informācijas meklēšanai un faktu pārbaudei dažādās valodās. Šī Business Lab epizode tiek veidota sadarbībā ar Kataras fondu. Laipni lūdzam, doktor Nakov.
Preslavs Nakovs: Paldies, ka esat mani.
Laurela Ruma: Tātad, kāpēc mēs šobrīd esam pārpludināti ar tik daudz tiešsaistes dezinformācijas? Tā nav jauna problēma, vai ne?
Nakovs: Protams, tā nav jauna problēma. Nav tā, ka pirmo reizi Visuma vēsturē cilvēki melo vai mediji melo. Mums bija dzeltenā prese, mums bija visi šie tabloīdi gadiem ilgi. Tā kļuva par problēmu sociālo mediju pieauguma dēļ, kad pēkšņi kļuva iespējams saņemt ziņojumu, ko varat nosūtīt miljoniem un miljoniem cilvēku. Un ne tikai, tagad jūs varētu pastāstīt dažādas lietas dažādiem cilvēkiem. Tātad, jūs varētu mikroprofilēt cilvēkus un nosūtīt viņiem konkrētu personalizētu ziņojumu, kas ir izstrādāts konkrētai personai ar noteiktu mērķi, lai nospiestu viņiem noteiktu pogu. Galvenā viltus ziņu problēma nav tā, ka tās ir nepatiesas. Galvenā problēma ir tā, ka ziņas faktiski tika bruņotas, un par to ir sūdzējies sers Tims Berners-Lī, globālā tīmekļa radītājs: ka viņa izgudrojums tika apbruņots.
Laurels: Jā, Tims Berners-Lī ir acīmredzami satraukts, ka tas ir noticis, un tas notiek ne tikai vienā vai otrā valstī. Tas faktiski ir visā pasaulē. Tātad, vai pastāv faktiska atšķirība starp viltus ziņām, propagandu un dezinformāciju?
Nakovs: Protams, ir. Man nepatīk termins viltus ziņas. Šis termins ir kļuvis populārāks: vairākas vārdnīcas dažādos gados to pasludināja par gada vārdu neilgi pēc iepriekšējām ASV prezidenta vēlēšanām. Viltus ziņu problēma ir tā, ka, pirmkārt, nav skaidras definīcijas. Esmu ieskatījies vārdnīcās, kā tās definē terminu. Viena no galvenajām vārdnīcām teica, ka mēs vispār nedefinēsim šo terminu, jo tas ir kaut kas pašsaprotams — mums ir “ziņas”, mums ir “viltus”, un tās ir ziņas, kas ir viltotas; tas ir kompozīcijas; to izmantoja 19. gadsimtā — nav ko definēt. Dažādi cilvēki tam piešķir atšķirīgu nozīmi. Dažiem cilvēkiem viltus ziņas ir tikai ziņas, kas viņiem nepatīk, neatkarīgi no tā, vai tās ir nepatiesas. Taču viltus ziņu galvenā problēma ir tā, ka tās patiešām maldina cilvēkus un diemžēl pat dažas lielas faktu pārbaudes organizācijas, koncentrējoties tikai uz vienu lietu neatkarīgi no tā, vai tā ir patiesa vai nē.
Es dodu priekšroku terminam dezinformācija, un lielākā daļa pētnieku, kas strādā ar to, dod priekšroku. Un šis ir termins, ko izmanto tādas lielākās organizācijas kā Apvienoto Nāciju Organizācija, NATO, Eiropas Savienība. Un dezinformācijai ir ļoti skaidra definīcija. Tam ir divas sastāvdaļas. Pirmkārt, tas ir kaut kas nepatiess, un, otrkārt, tam ir ļaunprātīgs nolūks: nodoms nodarīt ļaunumu. Un atkal lielākā daļa pētījumu, lielākā daļa centienu, daudzas faktu pārbaudes iniciatīvas ir vērstas uz to, vai kaut kas ir patiess vai nē. Un parasti tā ir otrā daļa, kas patiesībā ir svarīga. Daļa, vai pastāv ļaunprātīgs nolūks. Un tas ir tas, par ko runāja sers Tims Berners-Lī, kad viņš pirmo reizi runāja par ziņu ieroci. Galvenā viltus ziņu problēma — ja jūs runājat ar žurnālistiem, viņi jums to pateiks — galvenā viltus ziņu problēma nav tā, ka tās ir nepatiesas. Problēma ir tā, ka tas ir politisks ierocis.
Un propaganda. Kas ir propaganda? Propaganda ir termins, kas ir ortogonāls dezinformācijai. Atkal dezinformācijai ir divas sastāvdaļas. Tas ir nepatiess, un tam ir ļaunprātīgs nolūks. Propagandai ir arī divas sastāvdaļas. Viens ir tas, ka kāds mēģina mūs par kaut ko pārliecināt. Un, otrkārt, ir iepriekš noteikts mērķis. Tagad mums vajadzētu pievērst uzmanību. Propaganda nav patiesa; tas nav meli. Tas nav labi; tas nav slikti. Tā nav definīcijas daļa. Tātad, ja valdībai ir kampaņa, lai pārliecinātu sabiedrību vakcinēties, varat apgalvot, ka tas ir labs mērķis, vai arī pieņemsim, ka Grēta Tūnberga cenšas mūs nobiedēt, ka simtiem sugu katru dienu izmirst. Tas ir propagandas paņēmiens: apelēt uz bailēm. Bet jūs varat apgalvot, ka tas ir labs mērķis. Tātad propaganda nav slikta; tas nav labi. Tā nav taisnība; tas nav meli.
Laurels: Bet propagandas mērķis ir kaut ko darīt. Un, piespiežot šo mērķi, tas patiešām ir pievilcīgs šim baiļu faktoram. Tāda ir atšķirība starp dezinformāciju un propagandu, ir bailes.
Nakovs: Nē, bailes ir tikai viens no paņēmieniem. Mēs esam to izskatījuši. Tātad daudzi pētījumi ir vērsti uz bināro klasifikāciju. Vai tā ir taisnība? Vai tas ir nepatiess? Vai tā ir propaganda? Vai tā nav propaganda? Mēs esam ieskatījušies mazliet dziļāk. Mēs esam pētījuši, kādi paņēmieni ir izmantoti propagandas veikšanai. Un atkal var runāt par propagandu, var runāt par pārliecināšanu vai sabiedriskajām attiecībām, vai masu komunikāciju. Būtībā tā ir viena un tā pati lieta. Apmēram vienai un tai pašai lietai dažādi termini. Un attiecībā uz propagandas paņēmieniem ir divi veidi. Pirmais veids ir apelācija uz emocijām: tā var būt pievilcība bailēm, tā var būt apelācija spēcīgām emocijām, tā var būt apelācija patriotiskām jūtām utt., Un tā tālāk. Un otra puse ir loģiskas kļūdas: tādas lietas kā melnbaltās maldības. Piemēram, jūs esat ar mums vai pret mums. Vai bandwagon. Bandwagon ir kā, ak, jaunākā aptauja liecina, ka 57% balsos par Hilariju, tāpēc mēs esam vēstures labajā pusē, jums ir jāpievienojas mums.
Ir vairāki citi propagandas paņēmieni. Ir sarkanā siļķe, ir tīša apmulsināšana. Mēs esam izskatījuši 18 no tiem: puse no tiem apelē uz emocijām, un puse no tiem izmanto noteikta veida loģikas kļūdas vai salauztu loģisko argumentāciju. Mēs esam izveidojuši rīkus, lai tos atklātu tekstos, lai jūs patiešām varētu tos parādīt lietotājam un padarīt to nepārprotamu, lai cilvēki varētu saprast, kā ar tiem tiek manipulēts.
Laurels: Tāpēc Covid-19 pandēmijas kontekstā Pasaules Veselības organizācijas ģenerāldirektors teica, es citēju: Mēs ne tikai cīnāmies ar epidēmiju; mēs cīnāmies ar infodēmiju. Kā jūs definējat infodēmiju? Kādas ir dažas no šīm metodēm, kuras mēs varam izmantot, lai izvairītos no kaitīga satura?
Nakovs: Infodēmija, tas ir kaut kas jauns. Patiesībā MIT Technology Review apmēram pirms gada, pagājušā gada februārī, bija lielisks raksts, kurā par to tika runāts. Covid-19 pandēmija ir izraisījusi pirmo globālo sociālo mediju infodēmiju. Un atkal aptuveni tajā pašā laikā Pasaules Veselības organizācija februārī savā tīmekļa vietnē bija piecu galveno prioritāšu saraksts cīņā pret pandēmiju, un cīņa ar infodēmiju bija otrajā vietā, otrajā vietā. piecas prioritātes. Tātad, tā noteikti ir liela problēma. Kas ir infodēmija? Tā ir pandēmijas un iepriekš pastāvošās dezinformācijas saplūšana, kas jau bija sociālajos medijos. Tas ir arī politiskās un veselības dezinformācijas sajaukums. Pirms tam politiskā daļa un, teiksim, pretvakseru kustība, bija atsevišķi. Tagad viss ir sajaukts kopā.
Laurels: Un tā ir reāla problēma. Es domāju, ka Pasaules Veselības organizācijai būtu jārūpējas par cīņu pret pandēmiju, bet tad tās sekundārās rūpes ir cīņa ar dezinformāciju. Atrast cerību šādās bailēs ir ļoti grūti. Tātad viens no projektiem, pie kura strādājat, saucas Tanbih. Un Tanbih ir ziņu apkopotājs, vai ne? Tas atklāj dezinformāciju. Tātad pašam projektam ir vairāki mērķi. Viens no tiem ir ziņās atklāt nostāju, neobjektivitāti un propagandu. Otrais mērķis ir veicināt dažādus viedokļus un piesaistīt lietotājus. Bet tad trešais ir ierobežot viltus ziņu ietekmi. Kā Tanbih darbojas?
Nakovs: Tanbih patiešām sāka darboties kā ziņu apkopotājs, un tas ir kļuvis par kaut ko diezgan lielāku, par projektu, kas ir megaprojekts Kataras skaitļošanas pētniecības institūtā. Un tas aptver cilvēkus no vairākām institūta grupām, un tas ir izstrādāts sadarbībā ar MIT. Mēs sākām projektu ar mērķi izstrādāt rīkus, kurus mēs faktiski varam nodot galalietotāju rokās. Un mēs nolēmām to darīt kā daļu no ziņu apkopotāja, domājot par kaut ko līdzīgu Google ziņām. Un, kad lietotāji lasa ziņas, mēs viņiem signalizējam, ja kaut kas ir propagandisks, un sniedzam viņiem pamatinformāciju par avotu. Mēs jau iepriekš analizējam medijus un veidojam mediju profilus. Tāpēc mēs rādām, stāstām lietotājiem, cik lielā mērā saturs ir propagandisks. Mēs viņiem sakām, vai ziņas ir no uzticama avota vai nē, vai tās ir neobjektīvas: kreisā, centra, labā novirze. Vai tas ir galēji: galēji kreisi, galēji labēji. Tāpat, vai tas ir neobjektīvs attiecībā uz konkrētām tēmām.
Un tas ir kaut kas ļoti noderīgs. Tātad, iedomājieties, ka lasāt kādu rakstu, kas skeptiski vērtē globālo sasilšanu. Ja mēs jums sakām, lūk, šī ziņu redakcija vienmēr ir bijusi ļoti neobjektīva tādā pašā veidā, tad jūs, iespējams, to uztversit ar sāls graudu. Mēs arī rādām atskaites perspektīvu, ierāmēšanu. Ja padomā par to, Covid-19, Brexit, par jebkuru nozīmīgu notikumu var ziņot no dažādām perspektīvām. Piemēram, ņemsim Covid-19. Tam ir veselības aspekts, tas ir skaidrs, bet tam ir arī ekonomisks aspekts, pat politisks aspekts, tam ir dzīves kvalitātes aspekts, tam ir cilvēktiesību aspekts, juridiskais aspekts. Tādējādi mēs profilējam plašsaziņas līdzekļus un ļaujam lietotājiem redzēt, kāda ir viņu perspektīva.
Kas attiecas uz multivides profiliem, mēs tos vēl vairāk pakļaujam kā pārlūkprogrammas spraudni, lai, apmeklējot dažādas vietnes, jūs faktiski varētu noklikšķināt uz spraudņa un iegūt ļoti īsu pamatinformāciju par vietni. Varat arī noklikšķināt uz saites, lai piekļūtu detalizētākam profilam. Un tas ir ļoti svarīgi: uzmanība tiek pievērsta avotam. Atkal lielākā daļa pētījumu ir vērsti uz to, vai šis apgalvojums ir patiess vai nē? Un vai šī ziņa ir patiesa vai nē? Tā ir tikai puse no problēmas. Otra puse patiesībā ir, vai tas ir kaitīgs, kas parasti tiek ignorēts.
Otra lieta ir tāda, ka mēs nekādā gadījumā nevaram pārbaudīt katru apgalvojumu pasaulē. Ne manuāli, ne automātiski. Manuāli par to nevar runāt. Apmēram pirms diviem gadiem MIT Media Lab veica pētījumu, kurā viņi ir veikuši lielu pētījumu par daudziem, daudziem tvītiem. Un ir pierādīts, ka nepatiesa informācija sniedzas sešas reizes tālāk un izplatās daudz ātrāk nekā reāla informācija. Bija vēl viens pētījums, kas ir daudz mazāk slavens, bet man tas šķiet ļoti svarīgs, un tas liecina, ka 50% no dažu ļoti vīrusu viltus ziņu izplatības dzīves laikā notiek pirmajās 10 minūtēs. Pirmajās 10 minūtēs! Manuāla faktu pārbaude aizņem vienu vai divas dienas, dažreiz nedēļu.
Automātiska faktu pārbaude? Kā mēs varam pārbaudīt pretenzijas faktus? Labi, ja mums paveicas, ja tiek apgalvots, ka ASV ekonomika pagājušajā gadā pieauga par 10%, šo apgalvojumu mēs varam automātiski viegli pārbaudīt, ieskatoties Vikipēdijā vai kādā statistikas tabulā. Bet, ja viņi saka, šajā mazajā pilsētiņā pirms divām minūtēm bija bumba? Mēs nevaram to īsti pārbaudīt, jo, lai to pārbaudītu automātiski, mums no kaut kurienes ir jābūt informācijai. Mēs vēlamies redzēt, ko mediji par to rakstīs vai kā lietotāji uz to reaģēs. Un abiem ir vajadzīgs laiks, lai uzkrātos. Tātad būtībā mums nav informācijas, lai to pārbaudītu. Ko mēs varam darīt? Tas, ko mēs piedāvājam, ir virzīties uz lielāku precizitāti, koncentrēties uz avotu. Un to dara žurnālisti. Žurnālisti pēta: vai ir divi neatkarīgi uzticami avoti, kas to apgalvo?
Tāpēc mēs analizējam medijus. Pat ja slikti cilvēki sociālajos medijos ievieto prasību, viņi, iespējams, ievietos saiti uz vietni, kurā var atrast visu stāstu. Tomēr viņi nevar izveidot jaunu viltus ziņu vietni katram viltus apgalvojumam, ko viņi izsaka. Viņi gatavojas tos izmantot atkārtoti. Tādējādi mēs varam uzraudzīt, kuras ir visbiežāk izmantotās vietnes, un varam tās iepriekš analizēt. Un man patīk teikt, ka mēs varam pārbaudīt viltus ziņas, pirms tās pat tika uzrakstītas. Jo brīdis, kad tas ir uzrakstīts, brīdis, kad tas tiek ievietots sociālajos medijos un ir saite uz vietni, ja šī vietne ir mūsu augošajā nepārtraukti analizējamo vietņu datubāzē, mēs varam uzreiz pateikt, vai šī ir uzticama vietne. . Protams, uzticamās vietnēs var būt arī slikta informācija, bet arī labas vietnes dažreiz var būt nepareizas. Bet mēs varam sniegt jums tūlītēju priekšstatu.
Papildus ziņu apkopotājam mēs sākām meklēt iespēju veikt analīzi, bet arī izstrādājam rīkus mediju lietotprasmei, kas parāda cilvēkiem tekstā izceltās smalkās propagandas metodes: konkrētās propagandas norises vietas un tās specifisko veidu. Visbeidzot, mēs veidojam rīkus, kas var atbalstīt faktu pārbaudītāju darbu. Un tās atkal ir problēmas, kuras parasti netiek ņemtas vērā, bet ir ārkārtīgi svarīgas faktu pārbaudītājiem. Proti, ko vispirms ir vērts pārbaudīt. Apsveriet prezidenta debates. Ir pateikts vairāk nekā 1000 teikumu. Jūs kā faktu pārbaudītājs varat pārbaudīt varbūt 10 vai 20 no tiem. Kuras no tām jūs vispirms pārbaudīsit faktus? Kuras ir interesantākās? Mēs varam palīdzēt noteikt prioritāti. Vai arī katru dienu ir miljoniem un miljoniem tvītu par Covid-19. Un kuru no tiem jūs vēlētos pārbaudīt kā faktu pārbaudītāju?
Otra problēma ir iepriekš pārbaudītu apgalvojumu atklāšana. Mūsdienās viena problēma ar faktu pārbaudes tehnoloģijām ir kvalitāte, bet otrā daļa ir uzticamības trūkums. Iedomājieties interviju ar politiķi. Vai varat nolikt politiķi pie vietas? Iedomājieties sistēmu, kas automātiski veic runas atpazīšanu, kas ir vienkārša, un pēc tam veic faktu pārbaudi. Un pēkšņi jūs sakāt: Ak, X kungs, mans AI man saka, ka tagad ar 96% iespējamība, ka melo. Vai varat to pastāstīt sīkāk? Kāpēc tu melo? Tu to nevari darīt. Jo jūs neuzticaties sistēmai. Jūs nevarat nostādīt politiķi reāllaikā vai politisko debašu laikā. Bet, ja sistēma atgriežas un saka: viņš tikko teica kaut ko, ko ir pārbaudījusi šī uzticamā faktu pārbaudes organizācija. Un šeit ir apgalvojums, ko viņš izvirzīja, un šeit ir apgalvojums, kas tika pārbaudīts ar faktiem, un redziet, mēs zinām, ka tas ir nepatiess. Tad jūs varat viņu nolikt uz vietas. Tas ir kaut kas tāds, kas potenciāli var mainīt žurnālistiku.
Laurels: Tātad, atgriežoties pie šī punkta par analīzi. Lai uzzinātu par tā tehniskajām detaļām, kā Tanbihs izmanto mākslīgo intelektu un dziļos neironu tīklus, lai analizētu šo saturu, ja tajā ir tik daudz datu, tik daudz tvītu?
Nakovs: Tanbihs sākotnēji īsti nekoncentrējās uz tvītiem. Tanbihs galvenokārt koncentrējās uz galvenajiem plašsaziņas līdzekļiem. Kā jau teicu, mēs analizējam visas ziņu vietas, lai mēs būtu gatavi. Jo atkal pastāv ļoti spēcīga saikne starp sociālajiem medijiem un vietnēm. Nepietiek tikai ar pretenzijas ievietošanu tīmeklī un tās izplatīšanu. Tas var izplatīties, bet cilvēki to uztvers kā baumas, jo nav avota, nav turpmāka apstiprinājuma. Tātad, jūs joprojām vēlaties izpētīt vietni. Un tad, kā jau teicu, ieskatoties avotā, jūs varat iegūt priekšstatu, vai vēlaties uzticēties šim apgalvojumam citu informācijas avotu vidū. Un otrādi: kad mēs profilējam medijus, mēs analizējam mediju publicētā tekstu.
Tātad, mēs teiktu: labi, apskatīsim dažus simtus vai dažus tūkstošus šī mērķa ziņu izlaiduma rakstu. Tad mēs arī izpētītu, kā šis medijs sevi reprezentē sociālajos medijos. Daudzām no šīm vietnēm ir arī sociālo mediju konti: kā cilvēki reaģē uz to, kas ir publicēts Twitter, Facebook? Un tad, ja plašsaziņas līdzekļiem ir cita veida kanāli, piemēram, ja viņiem ir YouTube kanāls, mēs iesim uz to un analizēsim arī to. Tāpēc mēs pētīsim ne tikai to, ko viņi saka, bet arī to, kā viņi to saka, un tas ir kaut kas, kas nāk no runas signāla. Ja emocijām ir daudz pievilcības, daļu no tām varam atklāt tekstā, bet daļu patiesībā varam iegūt no toņa.
Mēs arī skatāmies, ko citi raksta par šo mediju, piemēram, kas par viņiem ir rakstīts Vikipēdijā. Un mēs to visu saliekam kopā. Mēs arī analizējam šajā vietnē ievietotos attēlus. Mēs analizējam savienojumus starp vietnēm. Attiecības starp vietni un tās lasītājiem, dažādu vietņu pārklāšanās lietotāju ziņā. Un tad mēs izmantojam dažāda veida grafu neironu tīklus. Tātad, runājot par neironu tīkliem, mēs izmantojam dažāda veida modeļus. Tas galvenokārt ir dziļi kontekstualizēts teksta attēlojums, kura pamatā ir transformatori; tas ir tas, ko jūs parasti darāt ar īsziņām mūsdienās. Mēs izmantojam arī grafiku neironu tīklus un attēlu analīzei izmantojam dažāda veida konvolucionālos neironu tīklus. Un runas analīzei mēs izmantojam arī neironu tīklus.
Laurels: Tātad, ko mēs iemācāmies, pētot šāda veida dezinformācijas reģionus pēc reģiona vai valodas? Kā tas faktiski var palīdzēt valdībām un veselības aprūpes organizācijām cīnīties pret dezinformāciju?
Nakovs: Pamatā mēs varam sniegt viņiem apkopotu informāciju par notiekošo, pamatojoties uz shēmu, ko esam izstrādājuši tvītu analīzei. Mēs esam izstrādājuši ļoti visaptverošu shēmu. Mēs esam pētījuši ne tikai to, vai tvīts ir patiess vai nē, bet arī to, vai tas izplata paniku, vai tas veicina sliktu ārstēšanu vai ksenofobiju, rasismu. Mēs automātiski nosakām, vai tviterī tiek uzdots svarīgs jautājums, uz kuru, iespējams, kāda valsts iestāde varētu vēlēties atbildēt. Piemēram, viens no šādiem jautājumiem pagājušajā gadā bija: vai Covid-19 vasarā pazudīs? Tas ir kaut kas, uz ko veselības aizsardzības iestādes varētu vēlēties atbildēt.
Citas lietas ir piedāvājušas padomus vai apspriest veiktās darbības un iespējamos ārstēšanas veidus. Tāpēc mēs esam pētījuši ne tikai negatīvas lietas, lietas, uz kurām jūs varētu rīkoties, mēģināt ierobežot, tādas lietas kā panika vai rasisms, ksenofobija — tādas lietas kā neēd ķīniešu ēdienu, neēd itāļu ēdienu. Vai arī tādas lietas kā varas vainošana par viņu rīcību vai bezdarbību, kam valdības varētu vēlēties pievērst uzmanību un noskaidrot, cik lielā mērā tas ir pamatoti un vai tās vēlas kaut ko darīt lietas labā. Turklāt svarīga lieta, ko politikas veidotājs varētu vēlēties, ir uzraudzīt sociālos medijus un noteikt, kad notiek diskusijas par iespējamo ārstēšanu. Un, ja tas ir labs līdzeklis, iespējams, vēlēsities pievērst uzmanību. Ja tas ir slikts līdzeklis, jūs varētu arī pateikt cilvēkiem: nelietojiet šo slikto līdzekli. Un diskusija par veikto darbību vai aicinājums rīkoties. Ja ir daudz cilvēku, kas saka slēgt frizētavas, iespējams, vēlēsities uzzināt, kāpēc viņi tā saka un vai vēlaties klausīties.
Laurels: Taisnība. Tā kā valdība vēlas uzraudzīt šo dezinformāciju ar skaidru mērķi, lai palīdzētu ikvienam neizmantot šos sliktos līdzekļus, vai ne. Neturpiniet domāt, ka šī propaganda vai dezinformācija ir patiesa. Tātad, vai tā ir valdības rīcība, lai regulētu dezinformāciju sociālajos medijos? Vai arī jūs domājat, ka tehnoloģiju uzņēmumiem pašiem tas ir jākārto?
Nakovs: Tātad tas ir labs jautājums. Pirms diviem gadiem mani uzaicināja Starpparlamentu savienības asambleja. Viņi bija uzaicinājuši trīs ekspertus, un parlamentā bija 800 deputātu no visas pasaules. Un trīs stundas viņi mums uzdeva jautājumus, būtībā apejot galveno tēmu: kādus tiesību aktus viņi, valstu parlamenti, var pieņemt, lai viņi uz visiem laikiem rastu risinājumu dezinformācijas problēmai. Un, protams, beigās tika panākta vienprātība, ka tā ir sarežģīta problēma un nav vienkārša risinājuma.
Noteikta veida tiesību aktiem noteikti ir nozīme. Daudzās valstīs daži naida runas veidi ir nelikumīgi. Un daudzās valstīs attiecībā uz vēlēšanām un reklāmām vēlēšanu laikā ir noteikti noteikumi, kas attiecas uz parastajiem plašsaziņas līdzekļiem un attiecas arī uz tīmekļa telpu. Un pēdējā laikā Apvienotajā Karalistē, Eiropas Savienībā un pat ASV ir bijuši daudz aicinājumu ieviest noteikumus. Un tās ir ļoti karstas debates, taču tā ir sarežģīta problēma, un nav vienkārša risinājuma. Un tur ir svarīgi spēlētāji, un tiem ir jāstrādā kopā.
Tātad noteikti tiesību akti? Jā. Taču nepieciešama arī sociālo mediju uzņēmumu sadarbība, jo viņu platformās notiek dezinformācija. Un viņi atrodas ļoti labā stāvoklī, patiesībā vislabākajā pozīcijā, lai ierobežotu izplatību vai kaut ko darītu. Vai arī mācīt savus lietotājus, izglītot, ka viņiem, iespējams, nevajadzētu izplatīt visu, ko viņi lasa. Un tad nevalstiskās organizācijas, žurnālisti, visas faktu pārbaudes pūles, tas arī ir ļoti svarīgi. Un es ceru, ka centieni, ko mēs kā pētnieki pieliekam šādu rīku izveidē, arī šajā ziņā būtu noderīgi.
Viena lieta, kurai mums jāpievērš uzmanība, ir tāda, ka, runājot par regulējumu ar tiesību aktiem, mums nav obligāti jādomā, ko mēs varam darīt ar šo vai citu konkrēto uzņēmumu. Mums vajadzētu vairāk domāt ilgtermiņā. Un mums jābūt uzmanīgiem, lai aizsargātu vārda brīvību. Tātad tas ir sava veida delikāts līdzsvars.
Runājot par viltus ziņām, dezinformāciju. Vienīgais gadījums, kad kāds ir pasludinājis uzvaru, un vienīgais risinājums, ko esam redzējuši reāli darbojamies, ir Somijas gadījums. Vēl 2019. gada maijā Somija oficiāli paziņoja, ka ir uzvarējusi karā pret viltus ziņām. Viņiem vajadzēja piecus gadus. Pie tā viņi sāka strādāt pēc notikumiem Krimā; viņi jutās apdraudēti un uzsāka ļoti vērienīgu medijpratības kampaņu. Tie galvenokārt bija vērsti uz skolām, bet arī bija vērsti uz universitātēm un visiem sabiedrības līmeņiem. Bet, protams, galvenokārt skolas. Viņi mācīja studentiem, kā noteikt, vai kaut kas ir neticams. Ja tas jūs pārāk dusmo, iespējams, kaut kas nav pareizi. Kā veikt, teiksim, apgriezto attēlu meklēšanu, lai pārbaudītu, vai šis rādītais attēls patiešām ir no šī notikuma vai no kaut kurienes citur. Un piecu gadu laikā viņi ir pasludinājuši uzvaru.
Tāpēc manā skatījumā medijpratība ir labākais ilgtermiņa risinājums. Un tāpēc es īpaši lepojos ar mūsu rīku precīzai propagandas analīzei, jo tas patiešām parāda lietotājiem, kā ar viņiem tiek manipulēts. Un es varu jums pateikt, ka es ceru, ka pēc tam, kad cilvēki būs mazliet mijiedarbojušies ar šādu platformu, viņi apgūs šīs metodes. Un nākamreiz viņi tos atpazīs paši. Viņiem platforma nebūs vajadzīga. Un tā notika ar mani un vairākiem citiem pētniekiem, kuri ir strādājuši pie šīs problēmas, tā notika arī ar mums, un tagad es vairs nevaru pareizi lasīt ziņas. Katru reizi, kad lasu ziņas, es pamanu šos paņēmienus, jo es tos zinu un spēju atpazīt. Ja vairāk cilvēku spēs sasniegt šo līmeni, tas būs labi.
Varbūt sociālo mediju uzņēmumi var darīt kaut ko līdzīgu, kad lietotājs reģistrējas savā platformā, viņi varētu lūgt jaunajiem lietotājiem iziet kādu digitālās pratības īso kursu un pēc tam nokārtot kaut ko līdzīgu eksāmenam. Un tad, protams, varbūt mums vajadzētu tādas valdības programmas. Somijas gadījums parāda, ka, ja valdība iejaucas un ievieš pareizās programmas, viltus ziņas ir kaut kas, ko var atrisināt. Ceru, ka viltus ziņas kļūs par surogātpastu. Tas netiks izskausts. Surogātpasts joprojām pastāv, taču tā nav tāda problēma, kāda tā bija pirms 20 gadiem.
Laurels: Un tā ir medijpratība. Un pat ja ir vajadzīgi pieci gadi, lai izskaustu šāda veida dezinformāciju vai vienkārši uzlabotu sabiedrības izpratni par medijpratību un to, kas ir dezinformācija, vēlēšanas notiek diezgan bieži. Un tā būtu lieliska vieta, kur sākt domāt par to, kā apturēt šo problēmu. Kā jūs jau teicāt, ja tas kļūst kā surogātpasts, tas kļūst par kaut ko tādu, ar ko jūs saskaraties katru dienu, bet patiesībā par to vairs nedomājat un neuztraucaties. Un tas pilnībā neapgāzīs demokrātiju. Man tas šķiet ļoti sasniedzams mērķis.
Laurels: Dr. Nakov, liels paldies, ka šodien pievienojāties mums fantastiskajai sarunai Biznesa laboratorijā.
Nakovs: Paldies, ka esat mani.
Laurels: Tas bija Dr. Preslavs Nakovs, Kataras skaitļošanas pētniecības institūta galvenais zinātnieks, ar kuru es runāju no Kembridžas, Masačūsetsas štatā, MIT un MIT Technology Review mājas, un no kura paveras skats uz Čārlza upi.
Tas ir viss šajā Business Lab epizodē. Es esmu jūsu saimnieks Laurel Ruma. Es esmu MIT Technology Review pielāgotās publicēšanas nodaļas Insights direktors. Mēs esam dibināti 1899. gadā Masačūsetsas Tehnoloģiju institūtā. Un jūs varat mūs atrast drukātā veidā, tīmeklī un pasākumos katru gadu visā pasaulē. Lai iegūtu informāciju par mums un šovu, lūdzu, apmeklējiet mūsu vietni technologyreview.com.
Raidījums ir pieejams visur, kur saņemat aplādes.
Ja jums patika šī aplāde, mēs ceram, ka veltīsit laiku, lai mūs novērtētu un sniegtu atsauksmes. Business Lab ir MIT Technology Review produkcija. Šo sēriju producēja Collective Next.
Šo aplādes epizodi veidoja Insights, MIT Technology Review pielāgotā satura nodaļa. To neizstrādāja MIT Technology Review redakcijas darbinieki.