211service.com
Pat labākais mākslīgais intelekts viltus ziņu pamanīšanai joprojām ir briesmīgs
Ilustrācija ar apmulsušu robotu, kurš tur avīzi Tehniķa kundze
Kad Facebook izpilddirektors Marks Cukerbergs solīja Kongresam, ka mākslīgais intelekts palīdzēs atrisināt viltus ziņu problēmu, viņš maz atklāja kā . Jauns pētījums mūs ir soli tuvāk tam, lai to noskaidrotu.
Plašā pētījumā, kas tiks prezentēts konferencē vēlāk šomēnes, pētnieki no MIT, Kataras skaitļošanas pētniecības institūta (QCRI) un Sofijas universitātes Bulgārijā pārbaudīja vairāk nekā 900 iespējamos mainīgos lielumus, lai prognozētu plašsaziņas līdzekļu uzticamību — iespējams, lielākais kopums, kāds jebkad piedāvāts. .
Pēc tam pētnieki apmācīja mašīnmācības modeli ar dažādām mainīgo kombinācijām, lai noskaidrotu, kuras varētu sniegt visprecīzākos rezultātus. Labākais modelis tikai 65% gadījumu precīzi apzīmēja ziņu izdevumus ar zemu, vidēju vai augstu faktisko līmeni.
Tas ir tālu no pārsteidzošiem panākumiem. Taču eksperimenti atklāj svarīgas lietas par to, kas būtu nepieciešams, lai mūsu faktu pārbaudi izmantotu ārpakalpojumā iekārtai. Preslavs Nakovs, QCRI vecākais zinātnieks un viens no pētījuma pētniekiem, saka, ka ir optimistisks, ka viltus ziņu avotus var automātiski pamanīt šādā veidā.
Bet tas nenozīmē, ka tas būs viegli.
Metode līdz neprātam
Viltus ziņu atklāšanas pētījumu sprādzienā kopš 2016. gada ASV prezidenta vēlēšanu kampaņas ir parādījušās četras galvenās pieejas: atsevišķu apgalvojumu faktu pārbaude, viltus rakstu atklāšana, troļļu meklēšana un ziņu avotu uzticamības mērīšana. Nakovs un pārējā komanda izvēlējās koncentrēties uz ceturto, jo tas ir vistuvāk dezinformācijas izcelsmei. Tas arī pētīts vismazāk.
Iepriekšējie pētījumi mēģināja raksturot ziņu avota uzticamību pēc tā, cik daudzi no tā apgalvojumiem saskanēja vai bija pretrunā apgalvojumiem, kas jau bija pārbaudīti fakti. Citiem vārdiem sakot, iekārta salīdzinātu ziņu izlaiduma faktu apgalvojumu vēsturi ar tādu vietņu kā Snopes vai PolitiFact secinājumiem. Tomēr mehānisms balstās uz cilvēka faktu pārbaudi un novērtē tirdzniecības vietas vēsturi, nevis pašreizējo tagadni. Kamēr jaunākie apgalvojumi ir manuāli pārbaudīti, jau ir par vēlu, saka Nakovs.
Lai pamanītu viltus ziņu avotu gandrīz reāllaikā, Nakovs un viņa līdzstrādnieki apmācīja savu sistēmu, izmantojot mainīgos, ko varēja tabulēt neatkarīgi no cilvēku faktu pārbaudītājiem. Tie ietvēra satura analīzi, piemēram, virsrakstu teikumu struktūru un vārdu daudzveidību rakstos; vispārīgos vietnes rādītājus, piemēram, URL struktūru un vietnes trafiku; un tirdzniecības vietas ietekmes rādītāji, piemēram, tā iesaiste sociālajos medijos un Vikipēdijas lapa, ja tāda ir.
Lai atlasītu mainīgos lielumus, pētnieki paļāvās gan uz iepriekšējiem pētījumiem — iepriekšējie pētījumi ir parādījuši, ka, piemēram, viltus ziņu rakstos mēdz būt atkārtotas vārdu izvēles, gan uz jaunām hipotēzēm.
Pārbaudot dažādas mainīgo kombinācijas, pētnieki varēja noteikt labākos ziņu avota uzticamības prognozētājus. Vai, piemēram, kādai tirdzniecības vietai bija Vikipēdijas lapa, bija pārāk liela prognozēšanas spēja; turpretim tirdzniecības vietas satiksmei nebija nekādas. Vingrinājums palīdzēja pētniekiem noteikt papildu mainīgos, ko viņi varētu izpētīt nākotnē.
Dati badā
Bet ir vēl viens šķērslis: apmācības datu trūkums — to, ko Nakovs sauc par pamata patiesību.
Lielākajai daļai mašīnmācīšanās uzdevumu ir pietiekami vienkārši pievienot apmācības datus. Ja vēlaties izveidot sistēmu, kas nosaka rakstus par sportu, varat viegli atzīmēt rakstus kā saistītus vai nesaistītus ar šo tēmu. Pēc tam datu kopu ievadiet iekārtā, lai tā varētu uzzināt sporta raksta īpašības.
Taču plašsaziņas līdzekļu marķēšana ar augstu vai zemu faktisko vērtību ir daudz jutīgāka. Tas jādara profesionāliem žurnālistiem, kuri ievēro stingras metodikas, un tas ir laikietilpīgs process. Rezultātā ir grūti izveidot stabilu apmācību datu korpusu, kas daļēji ir iemesls, kāpēc pētījuma modeļa precizitāte ir tik zema. Acīmredzamākais veids, kā palielināt precizitāti, ir iegūt vairāk treniņu datu, saka Nakovs
Pašlaik Media Bias Fact Check, organizācija, kas izvēlēta, lai sniegtu pētījuma pamatpatiesību, ir novērtējusi 2500 plašsaziņas līdzekļu avotus — mašīnmācības terminu trūkums. Taču Nakovs saka, ka organizācijas datubāze strauji aug. Papildus vairāk apmācības datu iegūšanai pētnieki arī vēlas uzlabot sava modeļa veiktspēju, izmantojot vairāk mainīgo, no kuriem daži apraksta vietnes struktūru, vai tajā ir kontaktinformācija, kā arī satura publicēšanas un dzēšanas modeļus.
Viņi arī atrodas ziņu apkopošanas platformas izveides sākumposmā, kas sniedz lasītājiem svarīgus norādījumus par katra kopīgotā stāsta un avota uzticamību.
Neskatoties uz vēl veicamo darbu, Nakovs uzskata, ka šāda tehnoloģija var palīdzēt salīdzinoši ātri atrisināt viltus ziņu epidēmiju, ja tādas platformas kā Facebook un Twitter nopietni pieliek pūles. Tas ir kā cīnīties ar surogātpastu, viņš rakstīja Skype ziņojumā. Mēs nekad pilnībā neapturēsim viltus ziņas, taču mēs varam tās kontrolēt.