Koledžas bērna viltots, mākslīgā intelekta veidots emuārs apmānīja desmitiem tūkstošu. Tā viņš to paveica.

Ms Tech | Getty

Nedēļas sākumā Liams Pors bija dzirdējis tikai par GPT-3. Līdz beigām koledžas students bija izmantojis AI modeli, lai ražotu pilnīgi viltots emuārs zem viltus vārda.

Tas bija domāts kā jautrs eksperiments. Bet tad viens no viņa ierakstiem sasniedza pirmo vietu Hacker News. Tikai daži cilvēki pamanīja, ka viņa emuārs bija pilnībā AI radīts. Daži pat nospiež Abonēt.

Lai gan daudzi ir spekulējuši par to, kā GPT-3, līdz šim jaudīgākais valodu ģenerēšanas AI rīks, varētu ietekmēt satura veidošanu, šis ir viens no vienīgajiem zināmajiem gadījumiem, kas ilustrē potenciālu. Pieredzē visvairāk izcēlās Porrs, kurš studē datorzinātnes Kalifornijas universitātē Bērklijā: Patiesībā tas bija ļoti vienkārši, un tas bija biedējošākā daļa.

GPT-3 ir OpenAI jaunākā un lielākā valoda AI modeli, kuru Sanfrancisko pētniecības laboratorija sāka pilēt jūlija vidū. Pagājušā gada februārī OpenAI publicēja virsrakstus ar GPT-2, kas ir agrāka algoritma versija, ko tā paziņoja, ka tā tiks izmantota. aizturēt baidoties, ka tas tiks ļaunprātīgi izmantots. Lēmums nekavējoties izraisīja pretreakciju, jo pētnieki apsūdzēja laboratoriju triku izdarīšanā. Līdz novembrim laboratorija bija mainījusi pozīciju un izlaida modeli , norādot, ka līdz šim nav atklāts neviens pārliecinošs pierādījums par ļaunprātīgu izmantošanu.

Laboratorija izmantoja citu pieeju ar GPT-3; tā to neliedza un nepiešķīra publisku piekļuvi. Tā vietā tas deva algoritmu, lai atlasītu pētniekus, kuri pieteicās privātai beta versijai, lai līdz gada beigām apkopotu viņu atsauksmes un komercializētu tehnoloģiju.

Porrs iesniedza pieteikumu. Viņš aizpildīja veidlapu ar vienkāršu anketu par paredzēto lietojumu. Bet viņš arī negaidīja. Pēc sazināšanās ar vairākiem Bērklija AI kopienas locekļiem viņš ātri atrada doktorantu, kuram jau bija piekļuve. Kad absolvents piekrita sadarboties, Porrs uzrakstīja nelielu scenāriju, lai viņš varētu darboties. Tas deva GPT-3 virsrakstu un ievadu emuāra ierakstam, kā arī lika tam izspļaut vairākas pabeigtas versijas. Porra pirmais ieraksts (tā, kas tika iekļauts vietnē Hacker News) un katrs pēc tam tika kopēts un ielīmēts no vienas no izvadēm bez rediģēšanas vai bez rediģēšanas.

Kopš brīža, kad es izdomāju šo ideju un sazinājos ar doktorantu, līdz emuāra izveidošanai un pirmajam emuāram, kas kļuva plaši izplatīts, pagāja varbūt pāris stundas, viņš saka.

Porras viltotais emuāra ieraksts, kas rakstīts ar viltotu nosaukumu “adolos”, sasniedz 1. vietu pakalpojumā Hacker News. Porrs saka, ka izmantojis trīs atsevišķus kontus, lai iesniegtu un novērtētu savus ierakstus vietnē Hacker News, lai mēģinātu tos paaugstināt. Administrators teica, ka šī stratēģija nedarbojas, bet viņa klikšķu virsraksti to darīja.

Screenshot / LIAM PORR

Satura ģenerēšanas triks bez lielas rediģēšanas bija GPT-3 stipro un vājo pušu izpratne. Tas diezgan labi spēj veidot glītu valodu, un tas nav īpaši labs loģisks un racionāls, saka Porrs. Tāpēc viņš izvēlējās populāru emuāra kategoriju, kurai nav nepieciešama stingra loģika: produktivitāte un pašpalīdzība.

No turienes viņš rakstīja savus virsrakstus, izmantojot vienkāršu formulu: viņš ritināja Medium un Hacker News, lai redzētu, kas šajās kategorijās darbojas, un apkopoja kaut ko salīdzinoši līdzīgu. Vai jūtaties neproduktīvs? Varbūt jums vajadzētu beigt pārdomāt, viņš rakstīja par vienu. Drosme un radošums pārspēj inteliģenci, viņš rakstīja citam. Dažos gadījumos virsraksti neizdevās. Bet, kamēr viņš palika pie pareizajām tēmām, process bija viegls.

Pēc divu nedēļu gandrīz ikdienas amatu viņš pārtrauca darbu ar viens galīgs, noslēpumains, pašu rakstīts ziņojums . Ar nosaukumu Ko es darītu ar GPT-3, ja man nebūtu ētikas, tas raksturoja viņa procesu kā hipotētisku. Tajā pašā dienā viņš arī publicēja vairāk tieša atzīšanās savā īstajā emuārā.

Tos dažus cilvēkus, kuriem radās aizdomas par Porras viltus emuāru, citi kopienas locekļi noraidīja.

Screenshot / LIAM PORR

Porrs saka, ka vēlējies pierādīt, ka GPT-3 var uzskatīt par cilvēku rakstnieku. Patiešām, neskatoties uz nedaudz dīvaino algoritma rakstīšanas modeli un neregulārajām kļūdām, tikai trīs vai četri no desmitiem cilvēku, kas komentēja viņa populārāko ziņu vietnē Hacker News, radīja aizdomas, ka to varētu būt ģenerējis algoritms. Visus šos komentārus nekavējoties noraidīja citi kopienas locekļi.

Ekspertiem tas jau sen ir bijis satraukums, ko rada šādi valodu ģenerēšanas algoritmi. Kopš OpenAI pirmo reizi paziņoja par GPT-2, cilvēki ir domājuši, ka tas ir neaizsargāts pret ļaunprātīgu izmantošanu. Savā emuāra ierakstā laboratorija koncentrējās uz AI rīka potenciālu, lai to varētu izmantot kā a dezinformācijas masu ražotājs . Citi ir domājuši, vai to varētu izmantot, lai izputinātu surogātpasta ziņas pilns ar Google spēlei atbilstošiem atslēgvārdiem.

Porrs saka, ka viņa eksperiments parāda arī ikdienišķāku, bet joprojām satraucošu alternatīvu: cilvēki varētu izmantot rīku, lai radītu daudz klikšķēsmas satura. Viņš saka, ka, iespējams, būs tikai viduvēja emuāra satura plūdi, jo tagad barjera ienākšanai ir tik vienkārša. Es domāju, ka tiešsaistes satura vērtība tiks ievērojami samazināta.

Porrs plāno veikt vairāk eksperimentu ar GPT-3. Bet viņš joprojām gaida, lai iegūtu piekļuvi no OpenAI. Iespējams, ka viņi ir sarūgtināti, ka es to izdarīju, viņš saka. Es domāju, tas ir nedaudz muļķīgi.

Atjaunināt: Tekstam un fotoattēlu parakstiem ir pievienota papildu informācija, lai izskaidrotu, kā Liams Pors izveidoja savu emuāru un nokļuva Hacker News topā.

paslēpties