Kāpēc bērniem ir nepieciešama īpaša aizsardzība pret AI ietekmi

Ludovičs Toinels / Unsplash

Algoritmi var mainīt bērnu dzīves gaitu. Bērni mijiedarbojas ar Alexas, kas var ierakstīt viņu balss datus un ietekmēt viņu runu un sociālo attīstību. Viņi bingo videoklipus pakalpojumā TikTok un YouTube, ko viņiem nodrošina ieteikumu sistēmas, kas galu galā veido viņu pasaules uzskatus.

Algoritmus arvien vairāk izmanto arī, lai noteiktu, kāda ir viņu izglītība, vai viņi saņems veselības aprūpi un pat to, vai viņu vecāki tiek uzskatīti par piemērotiem par viņiem rūpēties . Dažreiz tam var būt postošas ​​sekas: pagājušajā vasarā, piemēram, tūkstošiem studentu zaudēja uzņemšanu universitātē pēc algoritmi — izmantoja pandēmijas dēļ atcelto standartizēto testu vietā — neprecīzi prognozēja savu akadēmisko sniegumu.

Citiem vārdiem sakot, bērni bieži vien ir priekšgalā, kad runa ir par AI lietošanu un izmantošanu, un tas var radīt viņiem traumas. Tā kā viņi attīstās intelektuāli, emocionāli un fiziski, viņi ir ļoti pielāgojami, saka Stīvs Voslū, Apvienoto Nāciju Organizācijas Bērnu fonda Unicef ​​digitālās savienojamības politikas speciālists.

Voslū vadīja a jaunu vadlīniju kopumu Unicef ​​izstrādāts, lai palīdzētu valdībām un uzņēmumiem izstrādāt AI politiku, kas ņem vērā bērnu vajadzības. Deviņas jaunās vadlīnijas, kas tika publicētas 16. septembrī, ir kulminācija vairākām konsultācijām ar politikas veidotājiem, bērnu attīstības pētniekiem, AI praktiķiem un bērniem visā pasaulē. Tie arī ņem vērā ANO Konvenciju par bērna tiesībām, cilvēktiesību līgumu, kas ratificēts 1989. gadā.

Vadlīnijas nav paredzētas kā vēl viens AI principu kopums, no kuriem daudzi jau saka vienu un to pašu. Šā gada janvārī, Hārvardas Berkmana Kleina centra apskats no 36 redzamākajiem dokumentiem, kas nosaka valsts un uzņēmumu AI stratēģijas, tika atrastas astoņas kopīgas tēmas, tostarp privātums, drošība, godīgums un izskaidrojamība.

Drīzāk UNICEF vadlīnijas ir paredzētas, lai papildinātu šīs esošās tēmas un pielāgotu tās bērniem. Piemēram, mākslīgā intelekta sistēmām nevajadzētu būt tikai izskaidrojamām — tām ir jābūt izskaidrojamām bērniem. Viņiem jāņem vērā arī bērnu unikālās attīstības vajadzības. Vosloo saka, ka bērniem ir papildu tiesības nekā pieaugušajiem. Tiek lēsts, ka tie veido vismaz vienu trešdaļu tiešsaistes lietotāju. Mēs šeit nerunājam par mazākuma grupu, viņš norāda.

Papildus AI radītā kaitējuma mazināšanai principu mērķis ir veicināt tādu AI sistēmu izstrādi, kas varētu uzlabot bērnu izaugsmi un labklājību. Piemēram, ja tie ir labi izstrādāti, ir parādīti uz AI balstīti mācību rīki uzlabot bērnu kritiskās domāšanas un problēmu risināšanas prasmes , un tie var būt noderīgi bērniem ar mācīšanās traucējumiem. Emocionālie mākslīgā intelekta asistenti, lai gan tie ir salīdzinoši jauni, varētu sniegt garīgās veselības atbalstu, un ir pierādīts, ka tie uzlabo autisma bērnu sociālās prasmes. Seju atpazīšana, ko izmanto ar rūpīgiem ierobežojumiem, varētu palīdzēt identificēt bērnus, kuri ir nolaupīti vai tirgoti.

Bērni ir arī jāizglīto par AI un jāmudina piedalīties tā attīstībā. Runa nav tikai par to aizsardzību, saka Vosloo. Tas nozīmē viņu pilnvarošanu un aģentūras piešķiršanu, lai viņi varētu veidot savu nākotni.

Runājot par nelabvēlīgajām grupām, protams, bērni ir visnelabvēlīgākie.

Ji Zen

Unicef ​​nav vienīgais, kas domā par šo problēmu. Dienu pirms šo pamatnostādņu projektu iznākšanas Pekinas Mākslīgā intelekta akadēmija (BAAI), organizācija, kuru atbalsta Ķīnas Zinātnes un tehnoloģiju ministrija un Pekinas pašvaldības valdība, atklāja. AI principu kopums arī bērniem.

Paziņojums seko gadu pēc BAAI izlaišanas Pekinas AI principiem , kas tiek saprasts kā vadošās vērtības Ķīnas nacionālajā AI attīstībā. Jaunie principi, kas ir izklāstīti īpaši bērniem, ir paredzēti kā konkrēta vispārīgāko principu īstenošana, saka Yi Zeng, BAAI AI Ētikas un ilgtspējīgas attīstības pētniecības centra direktors, kurš vadīja to projektu izstrādi. Tie cieši saskan ar Unicef ​​vadlīnijām, skarot arī privātumu, godīgumu, izskaidrojamību un bērnu labklājību, lai gan dažas detaļas ir vairāk saistītas ar Ķīnas bažām. Piemēram, pamatnostādnēs bērnu fiziskās veselības uzlabošanai ir ietverta AI izmantošana, lai palīdzētu cīnīties ar vides piesārņojumu.

Lai gan abi centieni nav formāli saistīti, arī laiks nav nejaušs. Pēc mākslīgā intelekta principu plūdiem pēdējos gados, abi galvenie izstrādātāji saka, ka bērniem piemērotāku vadlīniju izstrāde bija loģisks nākamais solis. Runājot par nelabvēlīgākā situācijā esošām grupām, bērni, protams, ir visnelabvēlīgākie, saka Zengs. Tāpēc mums patiešām ir [jāsniedz] īpaša aprūpe šai cilvēku grupai. Komandas savā starpā apspriedās, izstrādājot attiecīgos dokumentus. Kad Unicef ​​rīkoja konsultāciju semināru Austrumāzijā, Zengs tajā piedalījās kā runātājs.

Unicef ​​tagad plāno īstenot virkni izmēģinājuma programmu ar dažādām partnervalstīm, lai novērotu, cik praktiskas un efektīvas ir to vadlīnijas dažādos kontekstos. BAAI ir izveidojusi darba grupu ar pārstāvjiem no dažiem lielākajiem uzņēmumiem, kas virza valsts nacionālo AI stratēģiju, tostarp izglītības tehnoloģiju uzņēmuma TAL, plaša patēriņa elektronikas uzņēmuma Xiaomi, datorredzes uzņēmuma Megvii un interneta giganta Baidu. Cerība ir panākt, lai viņi sāktu ievērot principus savos produktos un ietekmētu citus uzņēmumus un organizācijas darīt to pašu.

Gan Vosloo, gan Zeng cer, ka, formulējot unikālās bažas, ko mākslīgais intelekts rada bērniem, vadlīnijas veicinās izpratni par šiem jautājumiem. Mēs nonākam pie tā ar plaši atvērtām acīm, saka Voslū. Mēs saprotam, ka šī ir sava veida jauna teritorija daudzām valdībām un uzņēmumiem. Tātad, ja laika gaitā mēs redzētu vairāk piemēru, kad bērni ir iekļauti mākslīgā intelekta vai politikas izstrādes ciklā, vairāk rūpēsieties par to, kā tiek vākti un analizēti viņu dati — ja mēs redzētu, ka AI ir padarīta bērniem vai viņu aprūpētājiem saprotamāku, tas būtu ieguvums. priekš mums.

paslēpties