Šis mākslīgais intelekts ļauj viltot savu balsi, lai runātu kā Baraks Obama

Tehnikas kundze | Getty attēli

Iepazīstieties ar manu alter ego, Keitiju:

Akcents, emocijas un intonācija ir mana. Bet kaut kā tagad es izklausos kā jauna sieviete ar augstu balsi.

Manu sievišķo balss ādu radīja Modulate.ai , uzņēmums, kas atrodas Kembridžā, Masačūsetsā. Uzņēmums izmanto mašīnmācīšanos, lai kopētu, modelētu un manipulētu ar balss īpašībām jaunā jaudīgā veidā.

Tehnoloģija sniedzas daudz tālāk par vienkāršiem balss filtriem, kas ļauj jums izklausīties kā Kylo Ren. Izmantojot šo pieeju, reāllaikā ir iespējams pieņemt jebkuru vēlamo vecumu, dzimumu vai toni. Vai arī uzņemties slavenības balsi. Ja vēlos, es varu noturēt ilgu telefona sarunu Keitijas aizsegā.

Es apmeklēju Modulate galveno biroju, lai uzzinātu par uzņēmuma tehnoloģijām un ambīcijām un apspriestu ētiskās sekas, ko rada AI izmantošana, lai kopētu kāda cita balsi. Skaņas izolētā kabīnē es izmēģināju dažus uzņēmuma balss apvalkus.

Šeit ir mana patiesā balss:

Un šeit tas tiek barots caur citu personu:

Un tiek mainīta starp abām personām reāllaikā.

Balss modelēšanas tehnoloģija nav ideāla; katra jauna balss ir nedaudz raiba. Bet tas ir ļoti labs, un tas uzlabojas, izmantojot vairāk jūsu balss datu. Un tas parāda, kā mašīnmācības sasniegumi strauji sāk mainīt digitālo realitāti. Module izmanto ģeneratīvos pretrunīgos tīklus (GAN), lai uztvertu un modelētu balss signāla audio īpašības. GAN sastāda divus neironu tīklus viens pret otru, lai pārliecinoši uztvertu un reproducētu datu kopas īpašības (skatiet GANfather).

Mašīnmācība ir ļāvusi videoklipā apmainīt divu cilvēku sejas, izmantojot programmatūru, kuru var lejupielādēt bez maksas no interneta (vēlreiz skatiet sadaļu Fake America Great ). AI pētnieki izmanto GAN un citas metodes, lai manipulētu ar vizuālām ainām un pat pilnībā uzburtu viltus sejas .

Modulate savā vietnē piedāvā Baraka Obamas demonstrācijas balss apvalku, un līdzdibinātājs un izpilddirektors Maiks Papass sacīja, ka, ņemot vērā pietiekami daudz apmācības datu, to būtu iespējams izveidot ikvienam. Taču viņš piebilst, ka uzņēmums bez īpašnieka atļaujas nedos slavenību balss apvalku. Viņš arī uzstāj, ka maldināšana nav galvenais.

Pappas saka, ka šī nav tehnoloģija, kas paredzēta cilvēku atdarināšanai. Tas ir izveidots, lai sniegtu jums jaunas iespējas.

Modulate ir vērsta uz tiešsaistes spēlēm, piemēram, Fornite vai Call of Duty, kurās spēlētāji var tērzēt ar svešiniekiem, izmantojot mikrofonu. Tas var uzlabot spēles gaitu, taču tas var arī atvērt durvis ļaunprātīgai izmantošanai un uzmākšanai.

Kad mēs vēlamies mijiedarboties tiešsaistē un gūt patiesi dziļu pieredzi, balsis ir ļoti svarīgas, saka Pappas. Bet daži cilvēki nevēlas faktiski izteikt savu balsi. Dažos gadījumos varbūt es vienkārši vēlos palikt anonīms. Citos gadījumos es uztraucos, ka es atklāšu savu vecumu vai dzimumu un saņemšu uzmākšanos.

Čārlza ziepes NYU profesors, kurš pēta dezinformācijas izplatību, saka, ka šī tehnoloģija šķiet ievērojami progresīvāka nekā citas balss modifikācijas tehnoloģijas. Un viņš saka, ka veids, kā AI tagad var manipulēt ar video un audio, var būtiski mainīt plašsaziņas līdzekļus. Mums jāsāk domāt par to, kas ir realitāte, viņš saka.

'Līdz šim balss konvertēšanas tehnoloģijas kvalitāte ir bijusi zema, lai varētu viegli atšķirt konvertētu balsi,' piebilst Tuomas Virtanens , balss sintēzes un manipulāciju eksperts Tamperes Universitātē Somijā. 'Bet es varu iedomāties, ka tuvākajā nākotnē kvalitāte būs pietiekami laba, lai konversiju nevarētu viegli noteikt.'

Module apzinās, ka tā tehnoloģija var tikt ļaunprātīgi izmantota. Uzņēmums apgalvo, ka centīsies nodrošināt, ka jebkuram klientam, kas kopē kādas personas balsi, ir šīs personas atļauja. Tā ir arī izstrādājusi audio ūdenszīmju tehnoloģiju, ko varētu izmantot, lai noteiktu kopētu balsi. Tas var parādīt brīdinājumu, piemēram, ja kāds zvana laikā izmanto viltus balsi.

'Mēs savā uzņēmumā esam ieviesuši ētiskus drošības pasākumus no paša sākuma,' saka līdzdibinātājs un tehnoloģiju direktors Kārters Hafmans, 'sākot ar to, kā mēs izplatām mūsu tehnoloģiju, līdz tam, kā mēs izvēlamies piedāvātās balss apvalkus, un beidzot ar ūdenszīmēm mūsu audio, lai to varētu uztvert jutīgos. sistēmas.

Modulis varētu ierobežot savas tehnoloģijas ļaunprātīgu izmantošanu, taču iespējams, ka citi izstrādās līdzīgu tehnoloģiju neatkarīgi un padarīs to pieejamu cilvēkiem, lai tās varētu ļaunprātīgi izmantot. Jautājums ir, cik plaši tas varētu tikt ļaunprātīgi izmantots, un cik saprātīgi par to kļūs sabiedrība?

Pappas ir optimistisks, ka mākslīgā intelekta viltošanas potenciāls bieži ir pārspīlēts. Viņš saka, ka tas noteikti ir kaut kas tāds, ko vēlaties to apzināties, taču tas nav kaut kas tāds, kur sabiedrības šķautnes sabrūk. Mums ir instrumenti, lai to risinātu.

paslēpties