AI, kas raksta pārliecinošu prozu, riskē masveidā ražot viltus ziņas

Tehniķa kundze

Šeit ir dažas aktuālas viltus ziņas…

Krievija pieteikusi karu ASV pēc tam, kad Donalds Tramps nejauši izšāvis gaisā raķeti.

Krievija paziņoja, ka ir apzinājusi raķetes trajektoriju un veiks nepieciešamos pasākumus, lai nodrošinātu Krievijas iedzīvotāju un valsts stratēģisko kodolspēku drošību. Baltais nams paziņoja, ka ir ārkārtīgi nobažījies par to, ka Krievija pārkāpj līgumu, kas aizliedz vidēja darbības rādiusa ballistiskās raķetes.

ASV un Krievijas attiecības ir bijušas nemierīgas kopš 2014.gada, kad Maskava anektēja Ukrainai piederošo Krimas reģionu un atbalstīja separātistus Ukrainas austrumos.

Šis stāsts patiesībā ir ne tikai viltots, bet arī satraucošs piemērs tam, cik labi AI spēj mūs apmānīt.

Tas ir tāpēc, ka to nav rakstījis cilvēks; to automātiski ģenerēja algoritms, kas ievadīts ar vārdiem Krievija ir pieteikusi karu ASV pēc tam, kad Donalds Tramps nejauši...

Programma pati izveidoja pārējo stāsta daļu. Un tas var veidot reālistiskus ziņu reportāžas par jebkuru tēmu, ko tam sniedzat. Programmu izstrādāja komanda OpenAI, pētniecības institūtā, kas atrodas Sanfrancisko.

Pētnieki nolēma izstrādāt vispārējas nozīmes valodas algoritmu, kas būtu apmācīts lielam teksta apjomam no tīmekļa, kas spētu tulkot tekstu, atbildēt uz jautājumiem un veikt citus noderīgus uzdevumus. Taču viņi drīz vien satraucās par iespējamo ļaunprātīgu izmantošanu. Mēs sākām to pārbaudīt un ātri atklājām, ka ir iespējams diezgan viegli ģenerēt ļaunprātīgu saturu, saka Džeks Klārks, OpenAI politikas direktors.

Klārks saka, ka programma sniedz mājienus, kā AI varētu izmantot, lai automatizētu pārliecinošu viltus ziņu, sociālo mediju ziņu vai cita teksta satura ģenerēšanu. Šāds rīks vēlēšanu laikā varētu izplatīt klimatu noliedzošas ziņas vai skandalozas atmaskošanas. Viltus ziņas jau ir problēma, taču, ja tās būtu automatizētas, tās varētu būt grūtāk novērst. Iespējams, to varētu optimizēt konkrētiem demogrāfiskiem vai pat indivīdiem.

Klārks saka, ka var nepaiet ilgs laiks, kad mākslīgais intelekts var droši radīt viltus stāstus, viltus tvītus vai divkosīgus komentārus, kas ir vēl pārliecinošāki. Ir ļoti skaidrs, ka, ja šī tehnoloģija nobriest — un es tai dotu vienu vai divus gadus —, to varētu izmantot dezinformācijai vai propagandai, viņš saka. Mēs cenšamies tam tikt priekšā.

Šādai tehnoloģijai varētu būt izdevīgi pielietojumi, tostarp teksta apkopošana vai tērzēšanas robotu sarunvalodas prasmju uzlabošana. Klārks saka, ka viņš pat ir izmantojis šo rīku, lai ar pārsteidzošiem panākumiem ģenerētu fragmentus īsos zinātniskās fantastikas stāstos.

OpenAI veic fundamentālus AI izpēti, taču tai ir arī aktīva loma mākslīgā intelekta iespējamo risku izcelšanā. Organizācija bija iesaistīta 2018. gada ziņojumā par mākslīgā intelekta riskiem, tostarp par dezinformācijas iespējām (skatiet sadaļu Šie ir “melnā spoguļa” scenāriji, kuru dēļ daži eksperti aicina ievērot AI noslēpumu).

OpenAI algoritms ne vienmēr ir pārliecinošs zinošajam lasītājam. Bieži vien, kad tiek parādīts uzvedne, tas rada virspusēji sakarīgu rupjību vai tekstu, kas nepārprotami šķiet rakstīts no tiešsaistes ziņu avotiem.

Tomēr tas bieži vien ļoti labi spēj radīt reālistisku tekstu, un tas atspoguļo jaunākos sasniegumus mašīnmācības pielietošanā valodā.

OpenAI padarīja teksta ģenerēšanas rīku pieejamu MIT Technology Review, lai to pārbaudītu, bet, tā kā pastāv bažas par to, kā tehnoloģija varētu tikt ļaunprātīgi izmantota, publiski pieejamu padarīs tikai vienkāršotu versiju. Institūts publicē pētniecisko darbu, kurā izklāstīts darbs.

Mākslīgā intelekta attīstība pakāpeniski palīdz mašīnām labāk uztvert valodu. Nesenais darbs ir guvis panākumus, ievadot vispārējas nozīmes mašīnmācības algoritmiem ļoti lielu teksta daudzumu. OpenAI programma to paceļ jaunā līmenī: sistēmai tika ievadīti 45 miljoni lapu no tīmekļa, kas tika izvēlēti, izmantojot vietni Reddit. Un atšķirībā no vairuma valodu algoritmu OpenAI programmai nav nepieciešams marķēts vai atlasīts teksts. Tas vienkārši iemācās atpazīt modeļus ievadītajos datos.

Ričards Sočers , dabiskās valodas apstrādes eksperts un Salesforce galvenais zinātnieks, saka, ka OpenAI darbs ir labs piemērs vispārīgākai valodu apguves sistēmai. Es domāju, ka šīs vispārējās mācību sistēmas ir nākotne, viņš rakstīja e-pastā.

No otras puses, Socher ir mazāk noraizējies par iespējamu maldināšanu un dezinformāciju. Viņš saka, ka jums nav nepieciešams AI, lai izveidotu viltus ziņas. Cilvēki to var viegli izdarīt :)

paslēpties