AI lietotne, kas izģērba sievietes, parāda, kā viltotie viltojumi kaitē visneaizsargātākajiem

Sievietes attēls ar izplūdušu ķermeni Tehnikas kundze/ Oriģinālais attēls: Getty

Pēdējos mēnešos ir pieaugusi uzmanība ap viltotiem viltojumiem un sintētiskajiem medijiem. Taču, lai gan saruna galvenokārt ir vērsta uz tās iespējamo ietekmi uz politiku, vairāki cilvēktiesību un tehnoloģiju ētikas eksperti ir brīdinājuši, ka nav ņemts vērā vēl viens iespējamais kaitējums: iespējamās postošās sekas sievietēm un citām neaizsargātām iedzīvotāju grupām, uz kurām tehnoloģija ir vērsta, bet nevar. aizsargāt sevi.

Tagad jaunākais dziļo viltojumu eksperiments — lietotne DeepNude, kas izģērba sieviešu fotogrāfijas — izspēlē šos murgus. Pirmo reizi ziņoja Vice , tā izmantoja ģeneratīvus pretinieku tīklus jeb GAN, lai sieviešu apģērbu nomainītu pret ļoti reālistiskiem kailiem ķermeņiem. Raksts ātri izraisīja vīrusu pretreakciju, un lietotnes veidotājs to slēdza.

Lietojumprogramma DeepNude pierāda mūsu lielākās bailes par unikālo veidu, kā audiovizuālos rīkus var izmantot pret sievietēm, saka Mutale Nkonde, Datu un sabiedrības pētniecības institūta līdzstrādnieks, kurš konsultēja kongresā pārstāves Ivetas Klārkas iesniegto likumprojektu, kas radītu mehānismus upuriem. šādu ļaunprātīgu dziļu viltojumu, lai meklētu tiesiskās aizsardzības līdzekli par kaitējumu reputācijai.

Lietotne bija īpaši paredzēta sievietēm. Vice atklāja, ka programmatūra ģenerēja tikai sievietes ķermeņa attēlus, pat ja tai tika piešķirts vīrieša attēls. Anonīmais veidotājs apstiprināja, ka viņš ir apmācījis GAN algoritmu tikai sieviešu kailfotogrāfijās — šajā gadījumā vairāk nekā 10 000 no tām —, jo tās bija vieglāk atrast tiešsaistē. Tomēr viņš arī plānoja galu galā izveidot vīriešu versiju.

Lai gan dziļās viltojumos nebija attēloti sieviešu īstie ķermeņi — tie ir pilnībā sintezēti ar algoritmu —, tie tomēr varēja nodarīt būtisku emocionālu un reputācijas kaitējumu. Attēlus var viegli sajaukt ar īstu lietu un izmantot kā atriebības pornogrāfiju vai spēcīgu līdzekli sieviešu apklusināšanai. Faktiski tas ir noticis iepriekš: a sieviete žurnāliste Indijā viņa seja tika uzpotēta porno video pēc tam, kad viņa sāka atklāt valdības korupciju. Tas uzreiz kļuva par vīrusu, pakļaujot viņu intensīvai uzmākšanai un izvarošanas draudiem, un viņai vairākus mēnešus nācās palikt bezsaistē.

Deepfakes nav jauns drauds; manipulēti mediji ir bijuši jau ilgi pirms AI. Taču tehnoloģija ir paātrinājusi un paplašinājusi esošās tendences, saka Sems Gregorijs, cilvēktiesību bezpeļņas organizācijas Witness programmas direktors. Algoritmi ir padarījuši daudz vieglāk daudz vairāk cilvēku radīt arvien pārliecinošākus viltotus medijus. Tādējādi viss, ko cilvēki agrāk izmantoja manipulētos plašsaziņas līdzekļos, piemēram, uzbrukumi žurnālistiem, korupcija vai neskaidru pierādījumu, kļūs arvien ierastāks un bīstami grūti pamanāms.

Viņš saka, ka lietotne neatšķiras. Sieviešu seksuāla vardarbība, kuras pamatā ir tēli, jau pastāvēja kā problēma. Tagad dziļi viltojumi pievieno degvielu liesmām.

Pēc tās pašas loģikas Nkonde uztraucas, ka sievietes nebūs vienīgie neaizsargātie dziļo viltojumu mērķi. Mazākumtautības, LGBTQ cilvēki un citas grupas, kas bieži ir pakļautas visnopietnākajai tiešsaistes uzmākšanai, arī kļūs par upuriem, lai gan, iespējams, dažādos veidos. 2016. gada ASV prezidenta kampaņas laikā, piemēram, Krievijas operatīvie darbinieki izmantoja viltotas afroamerikāņu personas un saistītos attēlus kā daļa no Facebook dezinformācijas kampaņas, lai palielinātu rasu spriedzi amerikāņu vidū.

Tas bija jauns veids vēlētāju apspiešanai, un tas notika ar cilvēku identitātes piesavināšanos tiešsaistē, saka Nkonde. Deepfake tehnoloģija būtu vēl viens dabisks līdzeklis ļaunprātīgiem dalībniekiem, kas izliekas par cilvēkiem, lai netraucētu kopienas un citādi nodarītu kaitējumu.

Tātad, kur mēs ejam no šejienes? Gan Nkonde, gan Gregorijs jau iepriekš ir dalījuši līdzīgus ieteikumus ar MIT Technology Review: uzņēmumiem un pētniekiem, kas ražo rīkus dziļiem viltojumiem, arī jāiegulda pretpasākumos, un sociālo mediju un meklēšanas uzņēmumiem šie pretpasākumi ir jāintegrē tieši savās platformās. Nkonde arī mudina regulatorus rīkoties ātri. Ja valdība neatradīs veidu, kā aizsargāt patērētāju tiesības, šādas lietotnes izplatīsies, viņa saka.

Tehnoloģija nav neitrāla, saka Gregorijs. Šī [DeepNude] lietotne nav paredzēta divkāršai lietošanai. Tas ir paredzēts vienreizējai lietošanai ļaunprātīgiem nolūkiem, un tas tiek veidots amorāli.

Viņš piebilst, ka mums patiešām jākoncentrējas uz ģeneratīvo mediju rīku izveides un kopīgošanas ētiku. Mums tas būtu atkārtoti jāsauc.

paslēpties