Jauns triks katru reizi var viltot runas atpazīšanas AI

Kategorija: Mākslīgais intelekts Ievietots 10. janvāris

Ņemot vērā audio viļņu formu, pētnieki tagad var izveidot praktiski identisku versiju, kas liek runas atpazīšanas programmatūrai pārrakstīt kaut ko citu.

Priekšvēsture: Nelabvēlīgi piemēri ir apmānījuši daudzus datorredzes algoritmus. Lai gan visi neironu tīkli ir pakļauti šādiem uzbrukumiem, pētniekiem ir mazāk panākumu ar audio. Iepriekšējie uzbrukumi varēja veikt tikai smalkas programmatūras dzirdamās izmaiņas.

Kas jauns: Bērklija pētnieki parādīja ka tie var uzņemt viļņu formu un pievienot trokšņa slāni, kas katru reizi apmāna DeepSpeech — vismodernāko runas pārveidošanas AI. Izmantojot šo paņēmienu, mūzika var izklausīties kā patvaļīga runa AI vai neskaidras balsis, lai tās netiktu pārrakstītas.

Sagatavojieties kairinājumam: Iedomājieties, ka atskaņojat mūzikas videoklipu no YouTube savos skaļruņos un ļaujiet Alexa dzirdēt pasūtījumu divas tonnas krēmveida kukurūzas . Laipni lūdzam AI uzbrukuma ellē.