211service.com
DeepMind jautā, kā AI palīdzēja pārvērst internetu par atbalss kameru
JAUNKUNDZE. TEHNIKA | FOTOATTĒLI: YOUTUBE Tehnikas kundze | Fotogrāfijas: YouTube
Viens no mūsdienās visizplatītākajiem mašīnmācības lietojumiem ir ieteikumu algoritmi. Netflix un YouTube izmanto tos, lai piedāvātu jums jaunas pārraides un videoklipus; Google un Facebook tos izmanto, lai sakārtotu saturu jūsu meklēšanas rezultātos un ziņu plūsmā. Lai gan šie algoritmi nodrošina daudz ērtības, tiem ir dažas nevēlamas blakusparādības. Jūs, iespējams, jau esat par tiem dzirdējuši: filtru burbuļi un atbalss kameras.
Bažas par šīm sekām nav nekas jauns. 2011. gadā Eli Pariser, tagad Upworthy izpilddirektors, brīdināja par filtru burbuļiem uz TED skatuves. Vēl pirms tam savā grāmatā republika.com , Hārvardas tiesību profesors Cass Sunstein precīzi prognozēja grupas polarizācijas efektu, ko veicina interneta attīstība un kas galu galā apdraudēs veselīgu demokrātiju. Facebook nepastāvētu vēl trīs gadus.
Abas idejas tika ātri popularizētas pēc 2016. gada ASV vēlēšanām, kas izraisīja atbilstošu pētījumu pieaugumu. Tagad paša Google AI meitasuzņēmums DeepMind papildina stipendiju kopumu. (Labāk vēlu nekā nekad, vai ne?)
In jaunu papīru , pētnieki analizēja, kā dažādi ieteikumu algoritmi var paātrināt vai palēnināt abas parādības, kuras pētnieki definē atsevišķi. Viņi saka, ka atbalss kameras pastiprina lietotāju intereses, atkārtoti saskaroties ar līdzīgu saturu. Salīdzinājumam, filtru burbuļi sašaurina satura jomu, kuram lietotāji ir pakļauti. Abi ir piemēri akadēmiskajā runā par deģenerētām atgriezeniskās saites cilpām. Augstāks deģenerācijas līmenis šajā gadījumā attiecas uz spēcīgāku filtra burbuļa vai atbalss kameras efektu.
Viņi veica piecu dažādu ieteikumu algoritmu simulācijas, kas piešķīra dažādas prioritātes, lai precīzi paredzētu, kas tieši lietotājam interesē, nevis nejauši reklamējot jaunu saturu. Viņi atklāja, ka algoritmi, kas precizitātei tika piešķirta lielāka prioritāte, izraisīja daudz ātrāku sistēmas deģenerāciju. Citiem vārdiem sakot, labākais veids, kā cīnīties pret filtru burbuļiem vai atbalss kamerām, ir izstrādāt algoritmus tā, lai tie būtu pētnieciskāki, parādot lietas, kas mazāk noteikti piesaista jūsu interesi. Var palīdzēt arī vispārējās informācijas kopuma paplašināšana, no kuras izriet ieteikumi.
Džozefs A. Konstans, Minesotas universitātes datorzinātņu profesors, kurš iepriekš vadījis pētījumiem par filtru burbuļiem, saka, ka DeepMind analīzes rezultāti nav pārsteidzoši. Viņš saka, ka pētnieki jau sen ir sapratuši spriedzi starp precīzu prognozēšanu un efektīvu izpēti ieteikumu sistēmās.
Neraugoties uz iepriekšējiem pētījumiem, kas liecina, ka lietotāji pacietīs zemāku precizitātes līmeni, lai gūtu labumu no dažādiem ieteikumiem, izstrādātāji joprojām nevēlas izstrādāt savus algoritmus šādā veidā. Konstans saka, ka vienmēr ir vieglāk “būt taisnībai”, iesakot drošas izvēles.
Konstans arī kritizē DeepMind pētījumu par pieeju filtru burbuļiem un atbalss kamerām kā mašīnmācības simulācijām, nevis interaktīvām sistēmām, kurās iesaistīti cilvēki - arī pētnieki atzīmēja ierobežojumu. Viņš saka, ka mani vienmēr uztrauc darbs, kas aprobežojas ar simulācijas pētījumiem (vai bezsaistes datu analīzi). Cilvēki ir sarežģīti. No vienas puses, mēs zinām, ka viņi augstu vērtē dažādību, bet, no otras puses, mēs zinām arī to, ka, ja mēs pārāk izstiepsim ieteikumus — līdz vietai, kur lietotāji jūt, ka neesam uzticami, mēs varam pilnībā zaudēt lietotājus.
Labojums: Virsraksts tika atjaunināts, lai labāk atspoguļotu pētījuma apjomu.