Deepfake rīku izveidei nav jābūt bezatbildīgai. Lūk, kā.

Facebook izplatīts piemērs, kurā divas sievietes gatavo kafiju: viena ir viltojums. Facebook

Sintētisko datu nesēju tehnoloģijām, ko tautā dēvē par dziļajiem viltojumiem, ir reāls pozitīvas ietekmes potenciāls. Piemēram, balss sintēze ļaus mums runāt simtiem valodu savā balsī. Video sintēze var palīdzēt mums simulēt pašbraucošu automašīnu negadījumus, lai izvairītos no kļūdām nākotnē. Un teksta sintēze var paātrināt mūsu spēju rakstīt gan programmas, gan prozu.

Taču šie sasniegumi var radīt milzīgas izmaksas, ja mēs neesam uzmanīgi: tās pašas pamatā esošās tehnoloģijas var arī nodrošināt maldināšanu ar globālām sekām.

Par laimi, mēs varam gan nodrošināt šīs tehnoloģijas solījumu, gan mazināt tās briesmas. Tas prasīs tikai smagu darbu.

Tas, par ko es šeit strīdos, ir domāts kā aicinājums rīkoties, lai veiktu šo darbu — un ceļvedis, lai atbalstītu tos no mums, kuri veido šādu tehnoloģiju neatkarīgi no tā, vai mēs veicam revolucionārus pētījumus, izstrādājam jaunus produktus vai vienkārši veidojam atklātu avota sistēmas izklaidei. Tas attiecas arī uz tiem, kas iegulda vai finansē šādu darbu, žurnālistiem, kuri varētu palīdzēt nodrošināt, ka tehnoloģiju radītāji nopietni uztver savu ietekmi, kā arī šo tehnoloģiju radītāju draugiem vai ģimenei.

Mēs varam ilgāk izvairīties no atbildības, sakot, ka mēs neko nevaram darīt, ja cilvēki ļaunprātīgi izmanto mūsu rīkus. Jo ir lietas, ko mēs varam darīt; vienkārši mēs bieži neuztraucamies. Vēl viens arguments, ka šī tehnoloģija tiks izstrādāta jebkurā gadījumā, nav pilnīgi nepatiess, taču tam, kā un kad ir liela nozīme, un tas var mainīties mūsu izvēles rezultātā. (Lai uzzinātu vairāk par to, tostarp par draudu modelēšanu, lūdzu, skatiet mūsu pilns papīrs , jo īpaši 2. sadaļa par to, kas rada kaitējumu.) Visbeidzot, mēs nevaram slēpties aiz banāla atzīšanas, ka vienmēr ir bijusi maldināšana, vienlaikus ignorējot būtiskās atšķirības pakāpē un ietekmē.

Deepfake tehnoloģijas izmaksas nav tikai teorētiskas. Sintētiski sejas maiņas video tracināt žurnālistus klusēt ; tiek izmantotas sintētiskās balsis lieli krāpnieciski darījumi , un sintētiskās sejas ir it kā atbalstīja spiegošanu . Tas viss ir par spīti pašreizējām problēmām, kas saistītas ar uzlauztas beta kvalitātes programmatūras izmantošanu. Šķēršļi sintētisko datu nesēju lietošanai joprojām ir pārāk augsti, lai tehnoloģija būtu saistoša lielākajai daļai ļaunprātīgo dalībnieku, taču, tā pārejot no kļūdainajām beta versijām un nonākot miljardu cilvēku rokās, mums ir pienākums izvairīties sliktākajā gadījumā scenāriji apgrūtinot dziļo viltojumu izmantošanu ļaunumam. Kā?

1. pieeja: ierobežojiet to, kas var izmantot rīku... un kā

Mēs varam darīt vairākas lietas, kas samazina ļaunprātīgas izmantošanas iespējamību. Viena acīmredzama, vienkārša un efektīva pieeja ir rūpīgi vet tie, kas var izmantot rīku. Tas ir tas, kas patīk uzņēmumiem Sintēzija dara — būtībā strādā tikai ar pārbaudītiem uzņēmuma klientiem.

Alternatīva ir ierobežot lietošanu : lai ierobežotu to, ko lietotāji var sintezēt vai manipulēt. Piemēram, ir iespējams izveidot rīkus, lai nodrošinātu, ka var manipulēt tikai ar noteiktām iepriekš izvēlētām balsīm vai sejām. Tas ir kas Humen , piemēram, dara — nodrošina ierobežotu kustību kopu, ko persona ģenerētajā videoklipā var veikt.

Tomēr daudzām sistēmām tās var nebūt piemērotas. Tātad, ko vēl var darīt?

2. pieeja: ļaunprātīgas izmantošanas novēršana

Sintētisko datu nesēju rīkiem, kas ir vispārīgi un var būt plaši pieejami, joprojām ir daudzi iespējamie veidi, kā samazināt ļaunprātīgu izmantošanu. Šeit ir daži piemēri.

• Skaidra atklāšana: Pieprasiet, lai sintezētie mediji būtu skaidri norādīti kā tādi, jo īpaši materiāls, kas var tikt izmantots maldināšanai. Iespējams, rīki to var atbalstīt, izvades failos iekļaujot skaidrus vizuālus vai skaņas paziņojumus, piemēram, redzamus brīdinājumus vai mutiskus paziņojumus. Vismaz metadatos jānorāda, kā multivide tika sintezēta vai ar to tika manipulēts.
• Piekrišanas aizsardzība: Pieprasiet to personu piekrišanu, par kurām uzdodas. Balss klonēšanas rīks Lyrebird pieprasa lietotājiem runāt noteiktas frāzes, lai modelētu savu balsi. Tas apgrūtina uzdošanos par kādu bez piekrišanas, kas būtu ļoti iespējams, ja tas vienkārši ģenerētu balsis, izmantojot jebkuru sniegto datu kopu. Tas, protams, attiecas tikai uz rīkiem, kas nodrošina uzdošanos par citu personu.
• Atklāšanas draudzīgums: Pārliecinieties, ka sintezēto datu nesēju nav ārkārtīgi grūti noteikt; pastāvīgi atjaunināt detektora rīkus; sadarboties ar tiem, kas strādā ar atklāšanu, lai viņi būtu informēti par jaunumiem.
• Slēptās ūdenszīmes: Ieguliet kontekstu par sintēzi vai pat oriģinālo datu nesēju, izmantojot spēcīgas ūdenszīmes, gan izmantojot metodes, kas ir pieejamas ikvienam, izmantojot atbilstošus rīkus, gan pieejas, kas ir slepenas un grūti noņemamas. (Piemēram, Modulate.ai ūdenszīmes audio, ko tas ģenerē, savukārt produktiem, piemēram, Imatag un to atvērtā pirmkoda ekvivalenti ļauj izmantot ūdenszīmes attēliem.)
• Lietošanas žurnāli: Saglabājiet informāciju par lietojumu un mediju rezultātiem tā, lai pētnieki un žurnālisti varētu piekļūt, lai noteiktu, vai, piemēram, video, iespējams, ir sintezēts, izmantojot noteiktu rīku. Tas varētu ietvert sintēzes laikspiedolu saglabāšanu ar spēcīgu jaucējfunkciju vai multivides iegulšanu.
• Lietošanas ierobežojumi: Nodrošiniet un izpildiet līguma lietošanas noteikumus, kas aizliedz nevēlamas darbības un sodi par tām, piemēram, mēģinājumu noņemt informāciju vai ūdenszīmes vai citu cilvēku piekrišanas pārkāpšanu. Šīs pieejas spēcīgākā versija ietver nepārprotamu tehnoloģijas atļauto lietojumu vai iegūto rezultātu izstrādi.

Ne visas šīs stratēģijas ir piemērojamas katrai sistēmai. Dažiem var būt savs risks, un neviens no tiem nav ideāls vai pietiekams pats par sevi. Tie visi ir daļa no dziļas aizsardzības, kur vairāk ir vairāk. Pat ja mums ir pārbaude vai ierobežojumi, šīs pieejas joprojām padara sistēmu izturīgāku pret pretiniekiem. Un, lai gan šo noteikumu ievērošana varētu vislabāk darboties programmatūrai kā pakalpojumu sistēmām, kuras tiek piegādātas, neatklājot nekādu pirmkodu, tie joprojām var sniegt zināmu vērtību atvērtā pirmkoda rīkiem un modeļiem: daudziem sliktiem dalībniekiem nebūs tehnisko iespēju iegūt ap šiem aizsardzības pasākumiem. ( Pilns papīrs pēta, kad vispirms publicēt pirmkodu).

Atbalstīt ētiskus dziļās viltošanas rīkus

Mūsdienu konkurences uzņēmējdarbības vidē var būt grūti attaisnot papildu darbu, lai pasargātu cilvēkus no kaitējuma, līdz notiek neatgriezeniska katastrofa. Tātad, kā mēs varam nodrošināt, ka šīs pieejas tiek ieviestas, pirms nav par vēlu? Šeit ir četras lietas, ko finansētāji, valdības, žurnālisti un sabiedrība var darīt tagad, lai atbalstītu tos, kas ražo ētiskus sintētisko mediju rīkus.

Padariet pareizo darbību vienkāršāku

Tas nozīmē, ka mums ir jāiegulda pētniecībā visās šajās jomās, lai mums būtu plaši pieejami, labi finansēti atvērtā pirmkoda rīki šo pieeju īstenošanai. Informācijas drošības vēsture liecina, ka, ja var izmantot viegli lietojamus atvērtā pirmkoda rīkus, lai nodrošinātu drošību, daudz vairāk lietu kļūst drošas. Šeit darbojas tā pati loģika: mums vismaz steidzami ir jāatvieglo standartizētu izpaušanas metadatu, ūdenszīmju un reģistrēšanas nodrošināšana. Mums ir arī nepieciešami pētījumi, lai noskaidrotu, vai ir iespējams noteikt noteikšanu apmācītos modeļos pirms izplatīšanas. Bez šāda veida infrastruktūras un pētniecības mēs redzēsim, ka daudzi labi iecerēti jauni rīki tiks izmantoti šausminošā veidā.

Veicināt zināšanas par ļaunprātīgas izmantošanas mazināšanu

Tāpat kā privātuma un drošības jomā, mums ir jāatbalsta kopienas, kas koncentrējas uz sistēmu nostiprināšanu un sliktu dalībnieku uzrunāšanu, un uzņēmumiem ir jāmaksā cilvēkiem, lai viņi veiktu šo darbu, vai nu kā konsultantiem, vai mājās.

Izvairieties no bezatbildīgu rīku finansēšanas, veidošanas un izplatīšanas

Ja uzņēmums vai rīks vismaz nemēģina samazināt ļaunprātīgas izmantošanas iespēju, finansētājiem un izstrādātājiem tas nav jāatbalsta. Rīku ražotājiem, kuri neievieš iepriekš minēto paraugpraksi, ir jābūt ļoti pamatotiem iemesliem, un lietotņu veikaliem tie pēc noklusējuma ir jāpieprasa.

Izveidojiet normas, saucot cilvēkus pie atbildības

Ja viņi ir nolaidīgi, mums vajadzētu viņus izsaukt — pat ja viņi ir mūsu ieguldījumi, kolēģi, draugi vai ģimene. Mēs varam izveidot ētikas normas, uzslavējot tos, kuri dara pareizi, un spiežot tos, kas nedara, darīt labāk.

Organizācijām, kas attīsta dziļo viltojumu tehnoloģiju, piemēram, Nvidia, Adobe, Facebook un Google, ir jāiegulda lieli līdzekļi visās iepriekš minētajās jomās. Riska kapitālistiem un fondiem arī būtu jādara savs ieguldījums, atbalstot šo darbu, un jābūt uzmanīgiem, ko viņi atbalsta.

Šī ir tikai viena daļa no daudz plašāka nepieciešamo pūļu kopuma, un daudzos gadījumos tie var atpirkt mums tikai nedaudz vairāk laika. Tas nozīmē, ka ir obligāti jānodrošina, lai platformas un politikas veidotāji šo laiku izmantotu saprātīgi, lai padarītu mūsu informācijas ekosistēmu noturīgāku.

Mūsu pagātne ir piesātināta ar tiem, kas vēlējās, lai būtu rūpīgāk iepazīstinājuši ar saviem izgudrojumiem, un mums ir tikai viena nākotne. Nesabojāsim to.

— Avivs Ovadja ir uzņēmuma dibinātājs Pārdomāts tehnoloģiju projekts un nerezidents Vācijas Māršala fonda demokrātijas nodrošināšanas aliansē. Skatiet pilnu rakstu par sintētisko mediju pētījumu negatīvās ietekmes mazināšanu, kura autors ir Džesa Vitstona, šeit .

paslēpties