Kā salabot Microsoft aizskarošo tērzēšanas robotu, izmantojot Mārvina Minska un Improvizācijas komēdijas padomus

Microsoft tērzēšanas robots Tay tika ātri likvidēts pagājušajā nedēļā pēc tam, kad tas sāka tviterī izplatīt aizvainojošus paziņojumus, sludinot homofobiju, rasismu un antisemītismu, vienlaikus izdarot uzbrukumus konkrētām personām.

Tomēr saistībā ar Taju joprojām cirkulē trīs nedaudz nepiemēroti termini: AI, mācīšanās un gudrāks.

Mēs varam visu dienu strīdēties par AI būtību un to, cik tuvu vai tālu dažādas sistēmas ir cilvēka domāšanai, taču tā ir saruna, kas šeit vienkārši nav aktuāla. Sistēma tika izstrādāta, lai iekļautu tekstu no mijiedarbības ar lietotājiem gan personiskajās atbildēs, gan tvītos. Ir grūti piemērot vārdu apguvi šim statistiski virzītajam vārdu virkņu ierakstīšanas, sadalīšanas un atkārtotas salikšanas procesam, nemaz nerunājot par visas sistēmas izsaukšanu AI.

Acīmredzamie Tay labojumi jau ir ierosināti. Izstrādātāji varētu sniegt sistēmai tādu terminu sarakstu, no kuriem jāizvairās, neļaut tai mācīties no viena lietotāja, neļaut tai izteikt publisku izteikumu, pamatojoties uz tikko apgūto materiālu, vai pat likt cilvēkam kontrolēt to, ko tā saka.

Tomēr neviens no šiem smalkajiem inženiertehniskajiem labojumiem faktiski neatrisinātu robota problēmas sakni: Tay vienkārši nezināja, ko tas saka. Visi labojumi ir paredzēti, lai palīdzētu sistēmai, kas nav tik spilgta, iziet cauri sarunām, neizklausoties gluži ļauni. Tie ir izstrādāti, lai Tay izskatītos gudrāks, patiesībā nepadarot to gudrāku.

Tātad, ko tas nozīmētu padarīt Tay šķiet gudrāks faktiski padarot to gudrāku ?

Vienu pieeju var redzēt Siri un viņas māsās (tās parasti tiek apzīmētas kā sievietes), piemēram, Cortana. Šīs sistēmas atpazīst atslēgvārdus, kas saistīti ar diezgan šauriem uzdevumiem, un atpazīst programmatiskas atbildes. Viņiem ir ievērojams spēks rīkoties un radīt precīzas atbildes jomās, kuras viņi saprot. Bet Microsoft komanda aiz Tay nepārprotami mēģināja kaut ko padarīt plašāku sarunvalodu.

Spektra otrā galā ir AI pilnīga pieeja, kurā sistēma nekad neredz dienasgaismu, kamēr tai nav piekļuves visām zināšanām, kas nepieciešamas, lai pilnībā saprastu visu, kas tai tiek teikts, visu, ko šie izteikumi nozīmē, un pilnu savu paziņojumu ietekmi.

Programmatūrai, kas atbilstu šiem kritērijiem, būtu nepieciešams bagātīgs un pilnīgs pasaules attēlojums, milzīga secinājumu noteikumu bibliotēka, kas darbojas katru reizi, kad tiek atklāts jauns fakts, un spēja ģenerēt valodu, pamatojoties uz katru ideju un ideju kombināciju, ar kuru tā saskaras vai izdomā neatkarīgi. Tas ir riskants 20 gadu pētniecības projekts, nevis produkta ceļvedis.

Tomēr ir vidusceļš starp teikumu sagriešanu un sagriešanu un mēģinājumu izveidot kaut ko tādu, kas var saprast visu radīšanu. Tas ietver tikai nelielas zināšanas sistēmai, kas ir pietiekami, lai atpazītu, kad lietotājs mēģina spēlēt sistēmu. Jums nav jāzina viss. Jums vienkārši jāzina, kad kāds ar jums jaucas.

Ņemot vērā, ka Microsoft izlaiduma piezīmes Tay teica, ka komandā bija improvizācijas komiķi, esmu pārsteigts, ka tas nebija izvēlētais maršruts.

Es personīgi esmu ņēmusi pietiekami daudz ieteikumu no publikas, lai zinātu, ka katrā vecmeitu ballītē piedzērusies jauna sieviete aizmugurē kliegs nepiedienīgus ieteikumus, kurus viņa nožēlos nākamos divus gadus. Kad tas notiek, jums ir divas izvēles: vai nu ievērot ieteikumu un pārvērst to par ainu, nepadarot to traucējošu, vai arī pieklājīgi pateikt. Pirmā lieta, ko dzirdēju no priekšpuses, bija “pastkaste”, un doties tālāk. Svarīgi ir zināt, kad tas notiek, un izstrādāt rīcības plānu, kā to risināt.

Nekas tā neitralizē iebiedētāju tik labi, ja tiek izsaukts. Manuprāt, ja Tajs norādītu, ka tas zināja, ka tas tiek spēlēts viens pret vienu mijiedarbībā, un sniegtu attiecinājumu uz tikko uzzinātajiem faktiem, izmantojot tos publiskos tvītā, ar kaunpilno efektu būtu bijis pietiekami, lai apturētu pat visnejaukākos uzbrukumus. .

Lieliski sarunu biedri nezina visu. Viņi zina sarunu. Un sistēma, kas neko nezina par pasauli, bet zina, kā mijiedarboties un neapvainot, būtu izcila. Bet, lai reaģētu uz spēli, ir jāatpazīst, kad tā tiek spēlēta.

Nelaiķis Mārvins Minskis teica: Nedaudz semantikas iet tālu. Sistēmām, piemēram, Tay, nav jāzina viss par pasauli, taču tām ir jāzina, ko tās dara un ko lietotāji ar tām darīs. Izšķirošais mazliet, ko Tay pietrūka, bija spēja zināt, kad tas tiek atskaņots, un spēja atbildēt līdzīgi.

Es ceru, ka Tay drīz atgriezīsies tiešsaistē. Vēl jo vairāk, es ceru, ka tas veic Reddit AMA, kur tas izskaidro katra sava tvīta avotu un mācības, ko tas ir guvis no iebiedēšanas skolas pagalmā, kas ir internets.

Kristians Hamonds ir Ziemeļrietumu universitātes datorzinātņu profesors un galvenais zinātnieks un līdzdibinātājs Naratīvā zinātne , kas piedāvā programmatūru, kas automātiski ģenerē rakstiskas atskaites no datiem . Neviens nesaprotamu iemeslu dēļ viņš uz skatuves ir pavadījis apmēram 20 gadus, improvizēdams kopā ar cilvēkiem, kas ir daudz talantīgāki par viņu.

paslēpties