211service.com
Deep viltojumi ir atrisināmi, taču neaizmirstiet, ka sekli viltojumi jau ir plaši izplatīti
Džeremijs Portjē
Tehnoloģiju nozarei ir unikāla iespēja cīnīties ar dziļo viltojumu — viltus audio un video, kas radīti, izmantojot mākslīgo intelektu, problēmu —, pirms tie kļūst par plaši izplatītu problēmu, uzskata cilvēktiesību aizstāvis Sems Gregorijs.
Taču viņš brīdina, ka lielajām kompānijām joprojām ir ļoti tālu, lai risinātu plaši izplatīto un postošāku problēmu, kas saistīta ar rupjāku viltus dezinformāciju.
Gregorijs ir programmas vadītājs uzņēmumā Liecinieks , kurā galvenā uzmanība pievērsta video izmantošanai cilvēktiesību jomā — vai nu aktīvisti un upuri, lai atklātu pārkāpumus, vai autoritāri režīmi, lai apspiestu domstarpības. Pirmdien, runājot ar MIT Technology Review organizētā pasākuma EmTech Digital auditoriju, viņš sacīja, ka pašlaik redzamie dziļie viltojumi ir klusums pirms vētras.
Ļaunprātīgi sintētiskie datu nesēji vēl nav plaši izplatīti, rīki vēl nav kļuvuši mobili — tie nav produkti, sacīja Gregorijs. Šis brīdis, pēc viņa domām, sniedz neparastu iespēju dziļo viltojumu radītājiem atrast veidus, kā ar tiem cīnīties, pirms sliktie aktieri spēj plaši izmantot tehnoloģiju.
Viņš teica, ka mēs varam būt aktīvi un pragmatiski, risinot šos draudus publiskajai sfērai un mūsu informācijas ekosistēmai. Mēs varam sagatavoties, nekrist panikā.
Lai gan dziļi viltojumi var būt zināmā mērā priekšā galvenajam virzienam, jau tagad ir problemātiski dezinformācijas plūdi, kas vēl nav atrisināti. Mūsdienās viltus informācija parasti neizmanto AI vai sarežģītas tehnoloģijas. Drīzāk vienkārši triki, piemēram, nepareiza satura marķēšana, lai diskreditētu aktīvistus vai izplatītu nepatiesu informāciju, var būt graujoši efektīvi, dažkārt pat izraisot nāvējošu vardarbību, kā tas notika Mjanmā.
Ar šiem 'seklajiem viltojumiem' es domāju desmitiem tūkstošu videoklipu, kas pašlaik visā pasaulē tiek izplatīti ar ļaunprātīgu nolūku — tie ir veidoti nevis ar sarežģītu mākslīgo intelektu, bet bieži vien ir vienkārši nomainīti un atkārtoti augšupielādēti, apgalvojot, ka notikums vienā vietā tikko noticis citā, sacīja Gregorijs. .
Piemēram, viņš teica, ka viens video, kurā redzams, ka cilvēks tiek sadedzināts dzīvs, ir atkārtoti izmantots un atkārtoti attiecināts uz aktieriem Kotdivuārā, Dienvidsudānā, Kenijā un Birmā, katru reizi kūdot uz vardarbību.
Vēl viens drauds bija pieaugošā ideja, ka mēs nevaram uzticēties nekam, ko redzam, kas vairumā gadījumu ir vienkārši nepatiess, sacīja Gregorijs. Šīs idejas izplatība ir svētība autoritāriem un totalitāriem visā pasaulē.
Viņš piebilda, ka trauksmains stāstījums tikai pastiprina reālās briesmas, ar kurām mēs saskaramies: ticamu noliedzamību un uzticības sabrukumu.
Marks Latonero, cilvēktiesību vadītājs plkst Dati un sabiedrība , bezpeļņas institūts, kas nodarbojas ar datu lietojumiem, piekrita, ka tehnoloģiju uzņēmumiem būtu jādara vairāk, lai risinātu šādas problēmas. Lai gan Microsoft, Google, Twitter un citu darbinieku darbinieki koncentrējas uz cilvēktiesībām, viņš teica, ka viņiem būtu jādara daudz vairāk pirms tehnoloģiju ieviešanas, nevis pēc tam.
Viņš teica, ka tagad ir īstais laiks uzņēmumiem, pētniekiem un citiem veidot ļoti spēcīgo saikni ar pilsonisko sabiedrību un dažādu valstu birojiem, kur varētu tikt laist klajā jūsu produkti. Sazinieties ar cilvēkiem, kuri ir vistuvāk šo valstu problēmām. Veidojiet šīs alianses tagad. Kad kaut kas noiet greizi — un tā arī notiks — mēs varam sākt veidot pamatu sadarbībai un zināšanu apmaiņai.