Vai mākslīgais intelekts var uzvarēt karā pret viltus ziņām?

Selmana dizains

Iespējams, tā bija pirmā viltus ziņa interneta vēsturē: 1984. gadā kāds vietnē Usenet ievietoja, ka Padomju Savienība pievienojas tīklam. Tas bija nekaitīgs 1. aprīļa joks , tālu no mūsdienu ieroču dezinformācijas kampaņām un negodīgiem izdomājumiem, kuru mērķis ir ātri gūt peļņu. 2017. gadā maldinošs un ļaunprātīgi nepatiess tiešsaistes saturs ir tik ražīgs, ka mums, cilvēkiem, ir maz cerību izrakt sevi no purva. Tā vietā arvien vairāk šķiet, ka mašīnām mūs būs jāglābj.

Viens algoritms, kas paredzēts, lai apgaismotu gaismu tumsā, ir AdVerif.ai , kuru vada tāda paša nosaukuma starta programma. Mākslīgi viedā programmatūra ir izstrādāta, lai atklātu viltus stāstus, kailuma attēlojumu, ļaunprātīgu programmatūru un daudzus citus problemātiska satura veidus. AdVerif.ai, kas novembrī laida klajā beta versiju, pašlaik darbojas ar satura platformām un reklāmas tīkliem ASV un Eiropā, kas nevēlas būt saistīti ar nepatiesiem vai potenciāli aizskarošiem stāstiem.

Saskaņā ar AdVerif.ai dibinātāja Or Levi teikto, uzņēmums redzēja iespēju koncentrēties uz produktu, kas paredzēts uzņēmumiem, nevis uz kaut ko vidusmēra lietotājam. Lai gan atsevišķi patērētāji var neuztraukties par katra stāsta patiesumu, uz kura viņi noklikšķina, reklāmdevējiem un satura platformām ir ko zaudēt, mitinot vai reklamējot sliktu saturu. Un, ja viņi veic izmaiņas savos pakalpojumos, tie var efektīvi novērst ieņēmumu plūsmas cilvēkiem, kuri pelna naudu, radot viltus ziņas. Levijs saka, ka tas būtu liels solis cīņā pret šāda veida saturu.

AdVerif.ai skenē saturu, lai pamanītu pazīmes, ka kaut kas nav kārtībā, piemēram, virsrakstus, kas neatbilst pamattekstam, vai pārāk daudz lielo burtu virsrakstā. Tā arī salīdzina katru stāstu ar savu datubāzi ar tūkstošiem likumīgu un viltus stāstu, kas tiek atjaunināta katru nedēļu. Klienti redz pārskatu par katru sistēmas aplūkoto elementu ar punktiem, kas novērtē iespējamību, ka kaut kas ir viltus ziņas, satur ļaunprātīgu programmatūru vai ko citu, ko viņi ir lūguši sistēmai pievērst uzmanību, piemēram, kailuma attēlojumu. Galu galā Levi saka, ka plāno pievienot iespēju pamanīt manipulētus attēlus un izveidot pārlūkprogrammas spraudni.

Pārbaudot AdVerif.ai demonstrācijas versiju, AI atpazina Sīpols kā satīra (kurai ir apmānīja daudzus cilvēkus pagātnē). Breitbart stāsti tika klasificēti kā neuzticami, pareizi, politiski, neobjektīvi Kosmopolītisks tika uzskatīts par atstātu. Tas varēja noteikt, kad Twitter kontā tika izmantots logotips, taču saites nebija saistītas ar tajā attēloto zīmolu. AdVerif.ai ne tikai atklāja, ka stāsts vietnē Natural News ar virsrakstu Pierādījumi norāda uz to, ka Bitcoin ir NSA izstrādāts psihologs vienas pasaules digitālās valūtas ieviešanai, bija no melnajā sarakstā iekļautas vietnes, bet arī identificēja to kā viltus ziņu stāstu, kas parādījās vietnē. citas melnajā sarakstā iekļautās vietnes bez atsaucēm likumīgās ziņu organizācijās.

Daži apšaubāmi stāsti joprojām izpaužas. Vietnē ar nosaukumu Action News 3 tika publicēts ieraksts ar nosaukumu NFL spēlētājs, kurš nofotografēts, ģērbtuvē dedzinot Amerikas karogu! netika pieķerts, lai gan ir bijis izrādījās izdomājums . Lai palīdzētu sistēmai mācīties, tās viltoto stāstu melno sarakstu var atjaunināt manuāli, katru stāstu atsevišķi.

AdVerif.ai nav vienīgais jaunuzņēmums, kas saskata iespēju nodrošināt ar AI darbinātu patiesības serumu tiešsaistes uzņēmumiem. Kiberdrošības firmas jo īpaši ir ātri pievienojuši savam repertuāram robotprogrammatūras un viltus ziņu meklēšanas darbības, norādot, cik daudzas metodes izskatās līdzīgas uzlaušanai. Facebook ir tā algoritmu pielāgošana lai savās ziņu plūsmās neuzsvērtu viltus ziņas, un Google sadarbojās ar faktu pārbaudes vietne — tik tālu ar nevienmērīgi rezultāti . Pagājušā gada beigās tika uzsākts konkurss Fake News Challenge, kuru organizē MI kopienas brīvprātīgie, lai veicinātu tādu rīku izstrādi, kas varētu palīdzēt apkarot ļaunprātīgu ziņošanu.

Saistīts stāsts

Saistīts stāsts Pateicoties mašīnmācībai, kļūst viegli izveidot reālistisku videoklipu un uzdoties par kādu citu.

Delips Rao, viens no tā organizatoriem un uzņēmuma Joostware dibinātājs, kas veido mašīnmācības sistēmas, sacīja, ka viltus ziņu pamanīšanai ir tik daudz aspektu, ka izaicinājums tiks veikts vairākos posmos. Pirmais solis ir nostājas noteikšana vai viena stāsta uzņemšana un citu ziņu vietņu sakāmā par šo tēmu. Tas ļautu cilvēku faktu pārbaudītājiem paļauties uz stāstiem, lai apstiprinātu citus stāstus, un pavadīt mazāk laika, pārbaudot atsevišķus gabalus.

Fake News Challenge izlaida datu kopas komandām lietošanai, un 50 komandas iesniedza ierakstus. Talos Intelligence, Cisco kiberdrošības nodaļa, uzvarēja izaicinājumā ar algoritmu, kura pareizība bija vairāk nekā 80 procenti — tas nav gluži gatavs galvenajam laikam, taču joprojām ir iepriecinošs rezultāts. Nākamais izaicinājums varētu būt attēli ar pārklājuma tekstu (domājiet par mēmiem, bet ar viltus ziņām), formātu, kas bieži tiek reklamēts sociālajos medijos, jo tā formātu algoritmiem ir grūtāk nojaukt un saprast.

Mēs vēlamies būtībā izveidot labākos rīkus faktu pārbaudītājiem, lai tie varētu darboties ļoti ātri, sacīja Rao. Tāpat kā faktu pārbaudītājs par steroīdiem.

Pat ja tiek izstrādāta sistēma, kas efektīvi pārspēj viltus satura plūdmaiņu, maz ticams, ka ar to viss beigsies. Mākslīgā intelekta sistēmas jau tagad spēj radīt viltotu tekstu, kā arī neticami pārliecinošus attēlus un video. (skatiet īstu vai viltotu? AI padara to ļoti grūti zināt ). Varbūt tāpēc, nesen Gartnera pētījums prognozēts, ka līdz 2022. gadam lielākā daļa cilvēku attīstītajās ekonomikās redzēs vairāk nepatiesas nekā patiesas informācijas. Tajā pašā ziņojumā konstatēts, ka pat pirms tam viltotais saturs pārspēj AI spēju to atklāt, mainot to, kā mēs uzticamies digitālajai informācijai.

Tas, ko pārstāv AdVerif.ai uc Atlaidiet mums 100 gadus atpakaļ, kad runa ir par to, kā mēs lietojam ziņas). Mums kā sabiedrībai, iespējams, vēl būs jāpārvērtē, kā mēs iegūstam informāciju.

paslēpties