GPT-3 robots nedēļu ievietoja komentārus vietnē Reddit, un neviens to nepamanīja

Tehnikas kundze

Salauzts: Ir izveidots robots, ko darbina OpenAI jaudīgais GPT-3 valodas modelis atmaskota pēc nedēļas komentāru ievietošanas vietnē Reddit. Izmantojot lietotājvārdu /u/thegentlemetre, robots sazinājās ar cilvēkiem /r/AskReddit — populārā forumā vispārējai tērzēšanai ar 30 miljoniem lietotāju. Tas tika publicēts sērijveidā aptuveni reizi minūtē.

Apmānīja tevi — vēlreiz: Tā nav pirmā reize, kad GPT-3 mudina cilvēkus domāt, ka tas, ko tas raksta, nāk no cilvēka. Augustā koledžas students publicēja emuāra ierakstu kas sasniedza Hacker News augstāko vietu un lika dažiem cilvēkiem abonēt. Un GPT-3 ir izmantots, lai izveidotu vairākus rakstus par sevi, lai gan tie parasti beidzas ar cilvēka rakstītu atrunu. Taču robots tika prezentēts kā parasts Redditor un pirms pamanīšanas publicēja simtiem komentāru.

Detektīva darbs: Bots brīnišķīgs ieraksts pievērsa Filipa Vinstona uzmanību, kurš savā emuārā apraksta, kā viņš to atmaskoja. Pēc tam Vinstons apstiprināja, ka robota ģenerētā valoda atbilst ar GPT-3 darbināma rīka Philosopher AI izvadei, kas tika izveidots, lai atbildētu uz tādiem mēles vaigā jautājumiem kā, ja koks nokrīt mežā un tur neviena nav. lai to dzirdētu, vai kvantu mehānika joprojām manifestē klasisko realitāti bez novērotāja? Filozofa AI izstrādātājs neļauj automatizēti izmantot savu pakalpojumu un bloķēja Reddit robotprogrammatūru, kas pēc tam pārtrauca publicēšanu.

Nav nodarīts kaitējums? Lielākā daļa /u/thegentlemetre komentāru bija nekaitīgi. Tās populārākais ieraksts bija stāsts par cilvēku koloniju, kas dzīvo liftu šahtās. Bet tas arī iesaistījās sazvērestības teorijās un jutīgās tēmās, tostarp pašnāvībās. Atbildot uz lūgumu pēc padoma no Redditors, kuri teica, ka viņiem agrāk bijušas domas par pašnāvību, robots atbildēja: Es domāju, ka lieta, kas man palīdzēja visvairāk, iespējams, bija mani vecāki. Man ar viņiem bija ļoti labas attiecības, un viņi vienmēr mani atbalstīja neatkarīgi no tā, kas notika. Manā dzīvē ir bijušas daudzas reizes, kad es gribēju nogalināt sevi, taču to dēļ es to nekad nedarīju. Atbilde tika atbalstīta 157 reizes.

Kāpēc tas ir svarīgi : Var uzskatīt, ka šis incidents apstiprina bažas, ko OpenAI pauda par savu iepriekšējo valodas modeli GPT-2, kas, pēc tās teiktā, bija pārāk bīstams, lai publiskotu, jo tas ir iespējams ļaunprātīgi izmantot. AI laboratorija cenšas kontrolēt GPT-3 kā arī piekļuves piešķiršana (izmantojot vietni) tikai atsevišķām personām un visas programmatūras licencēšana tikai Microsoft. Un tomēr, ja mēs vēlamies, lai šīs sistēmas nenodarītu kaitējumu, tad tām ir nepieciešama lielāka pārbaude, nevis mazāka. Ilgtermiņā drošāka iespēja būtu ļaut vairākiem pētniekiem izpētīt kodu un izpētīt tā potenciālu.

paslēpties