Podcast: stāsts par mākslīgo intelektu, ko stāstījuši cilvēki, kuri to izgudroja

Laipni lūdzam Biju Tur Kad , jauns mutvārdu vēstures projekts no In Machines We Trust apraide. Tajā ir stāsti par to, kā notika mākslīgā intelekta un skaitļošanas sasniegumi, ko stāstījuši cilvēki, kas tos redzējuši. Šajā pirmajā epizodē mēs tiekamies ar Džozefu Atiku, kurš palīdzēja izveidot pirmo komerciāli dzīvotspējīgo sejas atpazīšanas sistēmu.

Kredīti:

Šo sēriju producēja Dženifera Stronga, Entonijs Grīns un Emma Cillekensa ar Lindsijas Maskato palīdzību. To rediģēja Maikls Reilijs un Mets Honans. To miksējis Garets Langs, skaņu dizainu un mūziku autors Džeikobs Gorskis.

Pilns atšifrējums:

[TR ID]

Dženifera: Es esmu Dženifera Stronga, raidījuma vadītāja In Machines We Trust .

Es vēlos jums pastāstīt par kaut ko, pie kā mēs jau kādu laiku esam strādājuši aizkulisēs.

To sauc Biju Tur Kad .

Tas ir mutvārdu vēstures projekts, kurā ir stāsti par to, kā notika mākslīgā intelekta un skaitļošanas sasniegumi… kā stāstīja cilvēki, kas tos bija aculiecinieki.

Džozefs Atiks: Un, kad es iegāju istabā, tas pamanīja manu seju, izvilka to no fona un izrunāja: es redzu Džozefu, un tas bija brīdis, kad mati uz muguras... Es jutu, ka kaut kas ir noticis. Mēs bijām liecinieki.

Dženifera: Mēs sākam lietas ar vīrieti, kurš palīdzēja izveidot pirmo sejas atpazīšanas sistēmu, kas bija komerciāli dzīvotspējīga... 90. gados...

[IMWT ID]

Es esmu Džozefs Atiks. Šodien es esmu ID for Africa izpildpriekšsēdētājs. Tā ir humānās palīdzības organizācija, kuras mērķis ir nodrošināt cilvēkiem Āfrikā digitālo identitāti, lai viņi varētu piekļūt pakalpojumiem un izmantot savas tiesības. Bet es ne vienmēr esmu bijis humanitārajā jomā. Pēc tam, kad es ieguvu doktora grādu matemātikā, kopā ar saviem līdzstrādniekiem panācu dažus būtiskus sasniegumus, kas noveda pie pirmās komerciāli dzīvotspējīgās sejas atpazīšanas. Tāpēc cilvēki mani dēvē par sejas atpazīšanas un biometrijas nozares dibinātāju. Algoritms tam, kā cilvēka smadzenes atpazītu pazīstamas sejas, kļuva skaidrs, kamēr mēs veicām pētījumus, matemātiskos pētījumus, kamēr es biju Prinstonas Padziļināto pētījumu institūtā. Bet tas bija tālu no priekšstata par to, kā jūs to īstenotu.

Tas bija ilgs programmēšanas un neveiksmju, programmēšanas un neveiksmju mēnešu periods. Un kādu nakti, agrā rītā, mēs tikko bijām pabeiguši algoritma versiju. Mēs iesniedzām avota kodu apkopošanai, lai iegūtu palaišanas kodu. Un mēs izgājām ārā, es izkāpu, lai dotos uz mazgāšanās telpu. Un tad, kad es iegāju atpakaļ istabā un avota kodu bija apkopojusi mašīna un tas bija atgriezies. Un parasti pēc kompilēšanas tas palaiž to automātiski, un, kad es iegāju istabā, tas pamanīja cilvēku, kas ieiet telpā, un tas pamanīja manu seju, izvilka to no fona un izrunā: Es redzu Džozefu. un tas bija brīdis, kad mati uz muguras — es jutu, ka kaut kas ir noticis. Mēs bijām liecinieki. Un es sāku zvanīt citiem cilvēkiem, kuri vēl bija laboratorijā, un katrs no viņiem ienāca istabā.

Un tas teiktu: es redzu Normanu. Es redzētu Pāvilu, es redzētu Jāzepu. Un mēs pamīšus skraidījām pa istabu, lai redzētu, cik daudz tā var pamanīt telpā. Tas bija patiesības brīdis, kurā, es teiktu, vairāku gadu darbs beidzot noveda pie izrāviena, lai gan teorētiski nekāds papildu izrāviens nebija vajadzīgs. Tas vien, ka mēs izdomājām, kā to īstenot, un beidzot redzējām, ka spēja darboties bija ļoti, ļoti atalgojoša un apmierinoša. Mēs bijām izveidojuši komandu, kas drīzāk ir izstrādes komanda, nevis pētniecības komanda, kas koncentrējās uz visu šo iespēju ieviešanu personālā datora platformā. Un tā bija komerciālās sejas atpazīšanas dzimšana, es teiktu, ka 1994. gadā.

Manas bažas sākās ļoti ātri. Es redzēju nākotni, kurā nebija kur slēpties, visur izplatoties kamerām un datoru pārveidošanai par precēm un datoru apstrādes spējām kļūstot arvien labākām un labākām. Un tā 1998. gadā es lobēju nozari un teicu: mums ir jāsaliek kopā principi atbildīgai lietošanai. Un es kādu laiku jutos labi, jo man šķita, ka esam to izdarījuši pareizi. Es jutu, ka esam ieviesuši atbildīgas lietošanas kodu, kas jāievēro neatkarīgi no ieviešanas. Tomēr šis kods neizturēja laika pārbaudi. Un iemesls tam ir tas, ka mēs neparedzējām sociālo mediju parādīšanos. Būtībā laikā, kad 1998. gadā izveidojām kodu, mēs teicām, ka vissvarīgākais elements sejas atpazīšanas sistēmā bija zināmo cilvēku atzīmētā datu bāze. Mēs teicām, ja es neesmu datu bāzē, sistēma būs akla.

Un bija grūti izveidot datu bāzi. Mēs varētu izveidot ne vairāk kā tūkstošus 10 000, 15 000, 20 000, jo katrs attēls bija jāskenē un jāievada ar roku — pasaule, kurā mēs dzīvojam šodien, mēs tagad esam režīmā, kurā esam izlaiduši zvēru no maisa. barojot tai miljardiem seju un palīdzot, atzīmējot sevi. Hm, tagad mēs atrodamies pasaulē, kurā ir grūti kontrolēt un prasīt, lai ikviens būtu atbildīgs par sejas atpazīšanas izmantošanu. Un tajā pašā laikā internetā netrūkst pazīstamu seju, jo jūs varat vienkārši nokasīt, kā tas nesen ir noticis dažos uzņēmumos. Un tāpēc es sāku krist panikā 2011. gadā un uzrakstīju publicētu rakstu, kurā teikts, ka ir pienācis laiks nospiest panikas pogu, jo pasaule virzās virzienā, kur seju atpazīšana būs visuresoša un sejas būs visur pieejamas. datu bāzēs.

Un toreiz cilvēki teica, ka esmu trauksmes cēlējs, bet šodien viņi saprot, ka tas ir tieši tas, kas notiek šodien. Un tad uz kurieni mēs ejam no šejienes? Esmu lobējis likumdošanu. Es esmu lobējis tiesiskos regulējumus, kas uzliek jums pienākumu izmantot kāda cilvēka seju bez viņa piekrišanas. Un tāpēc tā vairs nav tehnoloģiska problēma. Mēs nevaram ierobežot šo jaudīgo tehnoloģiju ar tehnoloģiskiem līdzekļiem. Ir jābūt kaut kādiem tiesiskiem regulējumiem. Mēs nevaram pieļaut, ka tehnoloģija iet mums pārāk daudz priekšā. Apsteidzot mūsu vērtības, apsteidzot to, ko mēs uzskatām par pieņemamu.

Jautājums par piekrišanu joprojām ir viens no grūtākajiem un sarežģītākajiem jautājumiem, kad tas attiecas uz tehnoloģijām, tikai paziņojums kādam nenozīmē, ka ar to pietiek. Manuprāt, piekrišana ir jāinformē. Viņiem ir jāsaprot, ko tas nozīmē. Un ne tikai teikt: labi, mēs pierakstījāmies, un ar to pietika. Mēs teicām cilvēkiem, un, ja viņi negribēja, viņi varēja doties jebkur.

Un es arī atklāju, ka ir tik viegli savaldzināties ar spilgtām tehnoloģiskām iezīmēm, kas var sniegt mums īstermiņa priekšrocības mūsu dzīvē. Un tad mēs apzināmies, ka esam atteikušies no kaut kā pārāk vērtīga. Un līdz tam laikam mēs esam padarījuši iedzīvotāju jutīgumu un esam nonākuši līdz vietai, kur nevaram atkāpties. Tieši par to es uztraucos. Mani uztrauc fakts, ka seju atpazīšana caur Facebook un Apple un citu darbu. Es nesaku, ka tas viss ir nelikumīgi. Liela daļa no tā ir likumīga.

Mēs esam nonākuši pie punkta, kad sabiedrība var kļūt nomākta un kļūt desensibilizēta, jo viņi to redz visur. Un varbūt pēc 20 gadiem tu iziesi no savas mājas. Jums vairs nebūs cerību, ka tā nebūtu. To neatpazīs desmitiem cilvēku, kuriem jūs šķērsojat ceļā. Es domāju, ka tajā brīdī sabiedrība būs ļoti satraukta, jo mediji sāks ziņot par gadījumiem, kad cilvēki tika vajāti. Tika mērķēti cilvēki, cilvēki pat tika atlasīti, pamatojoties uz viņu tīro vērtību uz ielas, un nolaupīti. Es domāju, ka tā ir liela atbildība mūsu rokās.

Un tāpēc es domāju, ka jautājums par piekrišanu turpinās vajāt nozari. Un, kamēr šis jautājums nebūs rezultāts, iespējams, tas netiks atrisināts. Es domāju, ka mums ir jānosaka ierobežojumi attiecībā uz to, ko var izdarīt ar šo tehnoloģiju.

Mana karjera man arī ir iemācījusi, ka būt pārākam priekšā nav laba lieta, jo sejas atpazīšana, kādu mēs to pazīstam šodien, faktiski tika izgudrota 1994. gadā. Taču lielākā daļa cilvēku domā, ka to izgudroja Facebook un mašīnmācīšanās algoritmi, kas ir tagad izplatās visā pasaulē. Būtībā man kādā brīdī man bija jāatkāpjas no valsts izpilddirektora amata, jo es ierobežoju tehnoloģiju izmantošanu, ko mans uzņēmums gatavojās veicināt, jo baidījos no negatīvām sekām cilvēcei. Tāpēc es uzskatu, ka zinātniekiem ir jābūt drosmei plānot nākotni un redzēt sava darba sekas. Es nesaku, ka viņiem vajadzētu pārtraukt gūt panākumus. Nē, jums ir jāiet ar pilnu spēku, jāpanāk vairāk sasniegumu, taču mums arī jābūt godīgiem pret sevi un būtībā jābrīdina pasaule un politikas veidotāji, ka šim izrāvienam ir plusi un mīnusi. Un tāpēc, izmantojot šo tehnoloģiju, mums ir nepieciešami daži norādījumi un ietvari, lai pārliecinātos, ka tā tiek novirzīta pozitīvai lietojumprogrammai, nevis negatīvai.

Dženifera: Es biju tur, kad... ir mutvārdu vēstures projekts, kurā ir stāsti par cilvēkiem, kuri ir bijuši liecinieki vai radījuši sasniegumus mākslīgā intelekta un skaitļošanas jomā.

Vai jums ir kāds stāsts, ko pastāstīt? Zini kādu, kas to dara? Nosūtiet mums e-pastu uz [email protected].

[MIDROLL]

[KREDĪTI]

Dženifera: Šī sērija tika ierakstīta Ņujorkā 2020. gada decembrī, un to producēju es ar Entonija Grīna un Emmas Cillekensas palīdzību. Mūs rediģē Maikls Reilijs un Mets Honans. Mūsu miksu inženieris ir Garets Langs... ar skaņu dizainu un mūziku, ko autors Džeikobs Gorskis.

Paldies, ka klausījāties, es esmu Dženifera Stronga.

[TR ID]

paslēpties