Jauns rīks izmanto AI, lai pamanītu AI rakstīto tekstu

Kategorija: Mākslīgais intelekts Ievietots 26. jūlijs

AI algoritmi var ģenerēt tekstu, kas ir pietiekami pārliecinošs, lai apmānītu vidusmēra cilvēku — iespējams, nodrošinot veidu, kā masveidā ražot viltus ziņas, viltus pārskatus un viltotus sociālos kontus. Par laimi, AI tagad var izmantot arī viltota teksta identificēšanai.

Ziņas: Pētnieki no Harvardas Universitāte un MIT-IBM Watson AI laboratorija ir izstrādāja jaunu rīku lai atrastu tekstu, kas ģenerēts, izmantojot AI. Tas tiek saukts par milzīgo valodas modeļu testēšanas telpu (GLTR), un tajā tiek izmantots fakts, ka AI teksta ģeneratori paļaujas uz statistiskiem teksta modeļiem, nevis vārdu un teikumu faktisko nozīmi. Citiem vārdiem sakot, rīks var noteikt, vai jūsu lasītie vārdi šķiet pārāk paredzami, lai tos būtu uzrakstījuši cilvēka roka.

Konteksts: Dezinformācija arvien vairāk tiek automatizēta, un tehnoloģija, kas nepieciešama viltota teksta un attēlu ģenerēšanai, strauji attīstās. Ar AI darbināmi rīki, piemēram, šis, var kļūt par vērtīgiem ieročiem cīņā par viltus ziņu, dziļu viltojumu un Twitter robotu uztveršanu.

Viltot: OpenAI pētnieki nesen demonstrēja algoritmu spēj izsapņot pārsteidzoši reālistiskus fragmentus . Viņi ievadīja milzīgu teksta daudzumu lielā mašīnmācības modelī, kas iemācījās uztvert šo vārdu statistikas modeļus. Hārvardas komanda izstrādāja savu rīku, izmantojot OpenAI koda versiju, kas tika izlaista publiski.

Cik paredzami: GLTR izceļ vārdus, kas statistiski varētu parādīties pēc iepriekšējā vārda tekstā. Kā parādīts iepriekš minētajā fragmentā (no Bezgalīgs ir) , visprognozējamākie vārdi ir zaļi; mazāk paredzamas ir dzeltenas un sarkanas; un vismazāk paredzamie ir purpursarkani. Pārbaudot ar teksta fragmentiem, kas rakstīti ar OpenAI algoritmu, tas atklāj lielu paredzamību. Patiesi ziņu raksti un zinātniski kopsavilkumi satur vairāk pārsteigumu.

Prāts un mašīna: GLTR pētnieki veica arī citu eksperimentu. Viņi lūdza Hārvardas studentus identificēt AI ģenerētu tekstu — vispirms bez rīka un pēc tam ar tā izcelšanas palīdzību. Skolēni paši varēja pamanīt tikai pusi no visiem viltojumiem, bet 72%, kad viņiem tika dots rīks. Mūsu mērķis ir izveidot cilvēku un mākslīgā intelekta sadarbības sistēmas, saka darbā iesaistītais doktorants Sebastians Gērmans.

Ja jūs interesē, varat izmēģiniet to pats .