OpenAI jaunais valodu ģenerators GPT-3 ir satriecoši labs un pilnīgi bezjēdzīgs

krītošie burti

Getty





Spēlējot ar GPT-3, šķiet, ka redzat nākotni, Arram Sabeti, Sanfrancisko izstrādātājs un mākslinieks, tvītoja pagājušajā nedēļā . Tas diezgan lielā mērā apkopo pēdējo dažu dienu sociālo mediju reakciju uz OpenAI jaunāko valodu ģenerējošo AI.

Vispirms OpenAI aprakstīts GPT-3 maijā publicētajā pētniecības darbā. Bet pagājušajā nedēļā tas sāka pilienu padevi programmatūru atlasītajiem cilvēkiem, kuri to pieprasīja piekļuve privātai beta versijai . Pagaidām OpenAI vēlas, lai ārējie izstrādātāji palīdzētu tam izpētīt, ko var darīt GPT-3, taču tā plāno vēlāk šogad pārvērst rīku par komerciālu produktu, piedāvājot uzņēmumiem apmaksātu AI abonementu, izmantojot mākoni.

GPT-3 ir visu laiku jaudīgākais valodas modelis. Tā priekšgājējs, GPT-2, izlaists pagājušajā gadā , jau varēja izspļaut pārliecinošas teksta straumes dažādos stilos, kad tas tika pamudināts ar sākuma teikumu. Bet GPT-3 ir liels solis uz priekšu. Modelim ir 175 miljardi parametru (vērtības, kuras neironu tīkls mēģina optimizēt apmācības laikā), salīdzinot ar GPT-2 jau 1,5 miljardiem. Un ar valodu modeļiem izmēram tiešām ir nozīme .

Sabeti saistīts ar a emuāra ieraksts kur viņš demonstrēja īsus stāstus, dziesmas, preses relīzes, tehniskās rokasgrāmatas un daudz ko citu, ko viņš bija izmantojis AI ģenerēšanai. GPT-3 var izgatavot arī noteiktu rakstnieku pastišus. Mario Klingemans, mākslinieks, kurš strādā ar mašīnmācīšanos, dalījās ar īsu stāstu ar nosaukumu “Twitter būtības nozīme”, kas rakstīts Džeroma K. Džeroma stilā un sākas šādi: Interesants fakts, ka pēdējā atlikušā sociālās dzīves forma kas Londonas iedzīvotājus joprojām interesē, ir Twitter. Mani pārsteidza šis ziņkārīgais fakts, kad kādā no savām periodiskajām brīvdienām devos uz jūras krastu un atklāju, ka visa vieta čivināt kā strazds būris. Klingemans saka, ka viss, ko viņš AI deva, bija nosaukums, autora vārds un iniciālis It. Ir pat pietiekami informatīvs raksts par GPT-3 pilnībā rakstījis GPT-3 .

Citi ir atklājuši, ka GPT-3 var ģenerēt jebkāda veida tekstu, tostarp ģitāras cilnes vai datora kodu. Piemēram, pielāgojot GPT-3 tā, lai tas radītu HTML, nevis dabisko valodu, tīmekļa izstrādātājs Šarifs Šemīms parādīja, ka viņš to var izdarīt. izveidot tīmekļa lapu izkārtojumus dodot tai uzvednes, piemēram, pogu, kas izskatās kā arbūzs, vai lielu sarkanu tekstu, kurā teikts LAIPNI MANĀ BIĻETENĀ, un zilu pogu ar uzrakstu Abonēt. Pat leģendārais kodētājs Džons Karmaks, kurš bija 3D datorgrafikas pionieris agrīnās videospēlēs, piemēram, Doom, un tagad konsultē Oculus VR CTO, bija nesatraukts : Nesenais, gandrīz nejaušais atklājums, ka GPT-3 var rakstīt kodu, rada nelielu drebuļu.

Tomēr, neskatoties uz jaunajiem trikiem, GPT-3 joprojām ir pakļauts naidīga seksistiska un rasistiska rakstura valodai. Modeļa precizēšana palīdzēja ierobežot šāda veida izvadi GPT-2.



Nav arī pārsteigums, ka daudzi ir ātri sākuši runāt par intelektu. Taču GPT-3 cilvēciskā izvade un pārsteidzošā daudzpusība ir izcilas inženierijas, nevis patiesas gudrības rezultāts. Pirmkārt, mākslīgais intelekts joprojām rada smieklīgus gaudotājus, kas atklāj pilnīgu veselā saprāta trūkumu. Taču pat tās panākumiem trūkst dziļuma, jo vairāk lasāms kā izgriezt un ielīmēt darbi, nevis oriģinālie skaņdarbi.



Nav skaidrs, kas tieši notiek GPT-3 iekšienē. Taču šķiet, ka tas ir labs, sintezējot citur internetā atrastu tekstu, padarot to par sava veida plašu, eklektisku albumu, kas izveidots no miljoniem un miljoniem teksta fragmentu, ko pēc pieprasījuma salīmē savādos un brīnišķīgos veidos.

Tas nenozīmē OpenAI sasniegumu samazināšanu. Un šādam rīkam ir daudz jaunu lietojumu — gan labs (no labāku tērzēšanas robotu darbināšanas līdz palīdzībai cilvēkiem kodēt), gan slikts (no labāku dezinformācijas robotu darbināšanas līdz palīdzībai bērniem krāpties, pildot mājasdarbus).

Taču, kad parādās jauns AI pavērsiens, tas pārāk bieži tiek aprakts ažiotāžā. Pat Sems Altmans, kurš kopā ar Elonu Masku nodibināja OpenAI, mēģināja tonizē lietas : GPT-3 ažiotāža ir pārāk liela. Tas ir iespaidīgs (paldies par jaukajiem komplimentiem!), taču tam joprojām ir nopietnas nepilnības un dažreiz tas pieļauj ļoti muļķīgas kļūdas. AI mainīs pasauli, taču GPT-3 ir tikai ļoti agrīns ieskats. Mums vēl daudz kas jāizdomā.

Mums ir zema latiņa, kad runa ir par pamanīšanas inteliģenci . Ja kaut kas izskatās gudrs, ir viegli pieļaut, ka tas tā ir. Lielākais triks, ko AI jebkad izmēģinājis, bija pārliecināt pasauli par tās esamību. GPT-3 ir milzīgs solis uz priekšu, taču tas joprojām ir cilvēku radīts rīks ar visiem no tā izrietošajiem trūkumiem un ierobežojumiem.

paslēpties