Kā Facebook izmanto mašīnmācīšanos, lai atklātu viltotus kontus

Viltus Facebook konts Tehnikas kundze

2019. gadā Facebook vidēji samazinājās tuvu 2 miljardiem viltoti konti ceturksnī. Krāpnieki izmanto šos viltotos kontus, lai izplatītu surogātpastu, pikšķerēšanas saites vai ļaunprātīgu programmatūru. Tas ir ienesīgs bizness, kas var būt postošs jebkuram nevainīgam lietotājam, ko tas notver.

Facebook tagad publicē informāciju par mašīnmācības sistēmu, ko tā izmanto, lai risinātu šo izaicinājumu. Tehnoloģiju gigants izšķir divu veidu viltus kontus. Pirmkārt, ir lietotāju nepareizi klasificēti konti, uzņēmumu vai mājdzīvnieku personīgie profili, kas ir paredzēti lapām. Ar tiem rīkoties ir samērā vienkārši — tie vienkārši tiek pārveidoti par lapām. Savukārt kontu pārkāpšana ir nopietnāka. Tie ir personas profili, kas iesaistās krāpniecībā un surogātpasta sūtīšanā vai citādi pārkāpj platformas pakalpojumu sniegšanas noteikumus. Konti, kas pārkāpj noteikumus, ir jānoņem pēc iespējas ātrāk, neizraisot pārāk plašu tīklu un neaizķerot arī reālus kontus.

Lai to izdarītu, Facebook izmanto manuāli kodētus noteikumus un mašīnmācīšanos, lai bloķētu viltus kontu pirms tā izveides vai pirms tā aktivizēšanās. Citiem vārdiem sakot, pirms tas var kaitēt īstiem lietotājiem. Pēdējais posms ir pēc viltus konta publicēšanas. Šajā gadījumā noteikšana kļūst daudz sarežģītāka un tiek ieviesta jaunā mašīnmācīšanās sistēma, kas pazīstama kā dziļā entītiju klasifikācija (DEC).

Iedziļināties

DEC iemācās atšķirt viltotus un īstus lietotājus pēc to savienojuma modeļiem tīklā. Tā sauc šīs dziļās funkcijas, un tās ietver tādas lietas kā lietotāja draugu vidējais vecums vai dzimuma sadalījums. Facebook izmanto vairāk nekā 20 000 dziļu funkciju, lai raksturotu katru kontu, nodrošinot momentuzņēmumu par to, kā katrs profils darbojas, lai apgrūtinātu uzbrucēju spēli ar sistēmu, mainot taktiku.

Sistēma sākas, izmantojot lielu skaitu zemas precizitātes mašīnā ģenerētu uzlīmju. Tie tiek ģenerēti, izmantojot dažādus noteikumus un citus mašīnmācības modeļus, kas novērtē, vai lietotāji ir īsti vai viltoti. Kad šie dati tiek izmantoti, lai apmācītu neironu tīklu, modelis tiek precīzi noregulēts ar nelielu augstas precizitātes ar roku marķētu datu partiju, ko ģenerē cilvēki visā pasaulē, kuriem ir izpratne par vietējām kultūras normām.

Galīgā klasifikācijas sistēma var identificēt vienu no četriem viltotu profilu veidiem: nelikumīgi konti, kas nereprezentē personu, uzbrucēju pārņemti uzlauzti reālu lietotāju konti, surogātpasta izplatītāji, kas atkārtoti sūta ieņēmumus ģenerējošus ziņojumus, un krāpnieki, kuri manipulē ar lietotājiem personas informācijas izpaušana. Facebook saka, ka kopš DEC ieviešanas platformā viltoto kontu skaits ir saglabājies aptuveni 5% apmērā no ikmēneša aktīvajiem lietotājiem.

Sīkāka informācija par Facebook tīrīšanas pasākumiem tiek sniegta saistībā ar bažām par manipulācijām gaidāmajās ASV prezidenta vēlēšanās, īpaši saistībā ar viltojumiem. Decembrī New York Times ziņots koordinēta dezinformācijas kampaņa, izmantojot dziļos viltojumus, lai masveidā izveidotu viltus kontus ar pārliecinošām profila bildēm.

Vēlēšanu aizsardzība

Facebook komanda sacīja, ka tā izlaišanas laiks bija tikai nejaušība. Šeit ir runa tikai par pārkāpumu konstatēšanu kopumā; tas nav īpaši mērķēts uz jebkāda veida vēlēšanu tēmām, saka Daniels Bernhards, Facebook kopienas integritātes komandas inženieru vadītājs. Taču DEC papildinātu citus platformas centienus apkarot vēlēšanu manipulācijas. Tā kā sistēma paļaujas uz dziļām funkcijām, lai klasificētu katru profilu kategorijās, tā būs noturīga, lai to varētu apmānīt, piemēram, dziļi viltoti profila attēli.

Avivs Ovadja, kurš nodibināja bezpeļņas organizāciju Thoughtful Technology Project un pēta platformas dizainu un pārvaldību, saka, ka Facebook centieni būt pārredzamākiem ar tīrīšanas procedūrām ir slavējami. Viņš saka, ka var būt patiešām noderīgi un spēcīgi rūpīgi runāt par arhitektūras lēmumiem un drošības sistēmu darbības veidiem, ko var līdzināties citi uzņēmumi. Tā kā uzņēmumiem, piemēram, Facebook, ir ievērojami vairāk resursu, ko ieguldīt nekā mazākiem uzņēmumiem, ir lietderīgi veikt šo zināšanu apmaiņu.

Taču arī tīrīšanas darbiem ir tāls ceļš ejams. Ar 2,5 miljardiem aktīvo lietotāju mēnesī 5% joprojām ir 125 miljoni viltus kontu. Arī mašīnmācīšanās sniegs tikai tik tālu: neatkarīgi no tā, cik daudz datu modelis ir apmācīts, tas nekad nepārtvers visus sliktos kontus ar nevainojamu precizitāti. Lai uzlabotu platformu, visticamāk, būs jāizmanto citas cilvēku un mašīnu kombinācijas.

Atjaunināt: Iepriekšējā šī raksta versijā bija minēti novecojuši skaitļi par Facebook DEC sistēmas ietekmi. Tie ir atjaunināti, lai atspoguļotu jaunāko informāciju.

paslēpties