Tādā veidā Facebook AI meklē sliktas lietas

Kategorija: Mākslīgais intelekts Ievietots 29. novembris

Konteksts: Lielāko daļu Facebook moderēšanas tagad automātiski veic uzņēmuma mašīnmācības sistēmas, samazinot mokošā satura daudzumu, kas tā moderatoriem jāpārskata. Savā jaunākajā kopienas standartu izpildes ziņojums , kas publicēts šī mēneša sākumā, uzņēmums apgalvoja, ka 98% teroristu video un fotoattēlu tiek noņemti, pirms kāds tos var redzēt, nemaz nerunājot par ziņošanu.

Tātad, ko mēs šeit redzam? Uzņēmums ir apmācījis savas mašīnmācības sistēmas, lai identificētu un marķētu videoklipos objektus — no ikdienišķa, piemēram, vāzes vai cilvēkiem, līdz bīstamiem, piemēram, ieročiem vai nažiem. Facebook AI izmanto divas galvenās pieejas, lai meklētu bīstamu saturu. Viens no tiem ir izmantot neironu tīklus, kas meklē zināmo objektu pazīmes un uzvedību un marķē tos ar atšķirīgu ticamības procentu (kā redzams iepriekš redzamajā videoklipā).

Notiek apmācības: Šie neironu tīkli ir apmācīti, izmantojot iepriekš marķētu videoklipu kombināciju, ko sagatavojuši recenzenti, lietotāju ziņojumi un drīzumā arī Londonas Metropolitēna policijas uzņemtie videoklipi. Neironu tīkli var izmantot šo informāciju, lai uzminētu, kas varētu tikt rādīts visā sižetā un vai tajā ir kāda uzvedība vai attēli, kas būtu jāatzīmē. Šonedēļ preses brīfingā tā sniedza sīkāku informāciju par to, kā tās sistēmas darbojas.

Tad kas? Ja sistēma nolemj, ka video failā ir problemātiski attēli vai uzvedība, tā var to automātiski noņemt vai nosūtīt cilvēka satura pārskatītājam. Ja tas pārkāpj noteikumus, Facebook pēc tam var izveidot hash — unikālu skaitļu virkni, lai to apzīmētu un izplatītu to visā sistēmā, lai cits atbilstošais saturs tiktu automātiski dzēsts, ja kāds mēģina to atkārtoti augšupielādēt. Šos jaucējus var kopīgot ar citiem sociālo mediju uzņēmumiem, lai tie varētu arī noņemt pārkāpuma faila kopijas.

Šie [Metropolitan Police] videoklipi mums ir neticami noderīgi. Teroristu notikumi, par laimi, ir reti, taču tas nozīmē, ka apmācības datu apjoms ir tik mazs, zvana laikā sacīja inženieru menedžeris Nikola Bortinjona.

Viena vājā vieta: Facebook joprojām cīnās, lai automatizētu izpratni par valodas nozīmi, niansēm un kontekstu. Tāpēc uzņēmums paļaujas uz to, ka cilvēki ziņo par lielāko daļu iebiedēšanas un uzmākšanās ziņojumu, kas pārkāpj uzņēmuma noteikumus: tikai 16% no šīm ziņām identificē tā automatizētās sistēmas. Tehnoloģijai attīstoties, mēs varam sagaidīt, ka šis skaitlis palielināsies. Tomēr viens no lielākajiem izaicinājumiem šajā jomā joprojām ir panākt, lai mākslīgais intelekts patiešām saprastu valodu.

Lielāka bilde: Martā terorists nogalināja 49 cilvēkus divās mošejās Kraistčērčā, Jaunzēlandē. Viņš tiešraidē straumēja slaktiņu Facebook, un pēc tam vairākus mēnešus vietnē cirkulēja tā video. Tas bija modināšanas zvans nozarei. Ja tas atkārtojas tagad, pastāv lielāka iespēja, ka tas tiks noķerts un ātrāk noņemts.