Tumšais noslēpums AI sirdī

Neviens īsti nezina, kā vismodernākie algoritmi dara to, ko viņi dara. Tā varētu būt problēma. Autors

• Vils Naits arhīva lapa

2017. gada 11. aprīlis

Kīts Rankins

Pagājušajā gadā Ņūdžersijas štata Monmutas apgabala klusajos ceļos tika izlaista dīvaina pašbraucoša automašīna. Eksperimentālais transportlīdzeklis, ko izstrādājuši mikroshēmu ražotāja Nvidia pētnieki, pēc izskata neatšķīrās no citām autonomām automašīnām, taču tas neatšķīrās no Google, Tesla vai General Motors demonstrētā, un tas parādīja mākslīgā intelekta pieaugošo spēku. Automašīna neievēroja nevienu inženiera vai programmētāja sniegtu norādījumu. Tā vietā tas pilnībā paļāvās uz algoritmu, kas bija iemācījies braukt, skatoties, kā to dara cilvēks.

Iegūt automašīnu šādā veidā bija iespaidīgs varoņdarbs. Taču tas ir arī nedaudz satraucoši, jo nav pilnībā skaidrs, kā automašīna pieņem lēmumus. Informācija no transportlīdzekļa sensoriem nonāk milzīgā mākslīgo neironu tīklā, kas apstrādā datus un pēc tam sniedz komandas, kas nepieciešamas, lai darbinātu stūri, bremzes un citas sistēmas. Šķiet, ka rezultāts atbilst atbildēm, ko varētu sagaidīt no cilvēka vadītāja. Bet ko tad, ja kādu dienu tas izdarītu ko negaidītu — ietriecās kokā vai apsēdās pie zaļās gaismas? Pašreizējā situācijā varētu būt grūti noskaidrot, kāpēc. Sistēma ir tik sarežģīta, ka pat inženieriem, kas to izstrādājuši, var rasties grūtības, lai noskaidrotu iemeslu jebkurai darbībai. Un jūs to nevarat jautāt: nav acīmredzama veida, kā izveidot šādu sistēmu tā, lai tā vienmēr varētu izskaidrot, kāpēc tā darīja to, ko tā darīja.

Šis stāsts bija daļa no mūsu 2017. gada maija numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Šī transportlīdzekļa noslēpumainais prāts norāda uz draudošu problēmu ar mākslīgo intelektu . Automašīnas pamatā esošā AI tehnoloģija, kas pazīstama kā dziļā mācīšanās, pēdējos gados ir izrādījusies ļoti spēcīga problēmu risināšanā, un tā ir plaši izmantota tādiem uzdevumiem kā attēlu paraksti, balss atpazīšana un valodas tulkošana. Tagad ir cerība, ka tās pašas metodes spēs diagnosticēt nāvējošas slimības, pieņemt lēmumus par miljonu dolāru tirdzniecībā un veikt neskaitāmas citas darbības, lai pārveidotu veselas nozares.

Taču tas nenotiks vai tam nevajadzētu notikt, ja vien mēs neatradīsim veidus, kā padarīt tādas metodes kā dziļa mācīšanās saprotamākas to veidotājiem un atbildīgākas lietotāju priekšā. Pretējā gadījumā būs grūti paredzēt, kad var rasties neveiksmes, un tas ir neizbēgami. Tas ir viens no iemesliem, kāpēc Nvidia automašīna joprojām ir eksperimentāla.

Jau tagad tiek izmantoti matemātiskie modeļi, lai palīdzētu noteikt, kurš nosacīti atbrīvots, kurš ir apstiprināts aizdevumam un kurš tiek pieņemts darbā. Ja jūs varētu piekļūt šiem matemātiskajiem modeļiem, būtu iespējams saprast to pamatojumu. Taču bankas, militārpersonas, darba devēji un citi tagad pievērš uzmanību sarežģītākām mašīnmācības pieejām, kas varētu padarīt automatizētu lēmumu pieņemšanu vispār neizdibināmu. Padziļinātā mācīšanās, visizplatītākā no šīm pieejām, ir principiāli atšķirīgs datoru programmēšanas veids. Tā ir problēma, kas jau ir aktuāla, un tā būs daudz aktuālāka nākotnē, saka Tommi Jaakkola, MIT profesors, kurš strādā ar mašīnmācības lietojumiem. Neatkarīgi no tā, vai tas ir investīciju lēmums, medicīnisks lēmums vai varbūt militārs lēmums, jūs nevēlaties paļauties tikai uz 'melnās kastes' metodi.

Jau pastāv arguments, ka iespēja iztaujāt AI sistēmu par to, kā tā nonāca pie secinājumiem, ir likumīgas pamattiesības. Sākot ar 2018. gada vasaru, Eiropas Savienība var pieprasīt, lai uzņēmumi varētu sniegt lietotājiem paskaidrojumus par lēmumiem, ko automatizētās sistēmas sasniedz. Tas var būt neiespējami pat sistēmām, kas šķiet salīdzinoši vienkāršas, piemēram, lietotnēs un vietnēs, kurās tiek izmantota dziļa apmācība, lai rādītu reklāmas vai ieteiktu dziesmas. Datori, kas nodrošina šos pakalpojumus, ir ieprogrammējuši sevi, un viņi to ir darījuši mums nesaprotamā veidā. Pat inženieri, kas veido šīs lietotnes, nevar pilnībā izskaidrot savu uzvedību.

Tas rada prātam neaptveramus jautājumus. Tehnoloģijai attīstoties, mēs drīzumā varētu pārkāpt kādu slieksni, kuru pārsniedzot, lai izmantotu mākslīgo intelektu, ir nepieciešams lēciens ticībā. Protams, arī mēs, cilvēki, ne vienmēr varam patiesi izskaidrot savus domāšanas procesus, taču mēs atrodam veidus, kā intuitīvi uzticēties un novērtēt cilvēkus. Vai tas būs iespējams arī ar mašīnām, kas domā un pieņem lēmumus savādāk nekā cilvēks? Mēs nekad iepriekš neesam veidojuši iekārtas, kas darbojas tā, kā to veidotāji nesaprot. Cik labi mēs varam sagaidīt saziņu un sapratni ar inteliģentām iekārtām, kas varētu būt neparedzamas un neizdibināmas? Šie jautājumi mani aizveda ceļojumā uz AI algoritmu izpēti, sākot no Google līdz Apple un daudzām vietām starp tām, tostarp uz tikšanos ar vienu no mūsu laika izcilākajiem filozofiem.

Mākslinieks Adams Feriss izveidoja šo attēlu un tālāk redzamo, izmantojot programmu Google Deep Dream, kas pielāgo attēlu, lai stimulētu dziļā neironu tīkla modeļa atpazīšanas iespējas. Attēli tika izgatavoti, izmantojot neironu tīkla vidēja līmeņa slāni. Ādams Feriss

2015. gadā pētniecības grupa Sinaja kalna slimnīcā Ņujorkā tika iedvesmota pielietot padziļinātu mācīšanos slimnīcas plašajā pacientu ierakstu datubāzē. Šajā datu kopā ir simtiem mainīgo lielumu par pacientiem, kas iegūti no viņu testu rezultātiem, ārsta apmeklējumiem un tā tālāk. Iegūtā programma, kuru pētnieki nosauca par dziļo pacientu, tika apmācīta, izmantojot datus no aptuveni 700 000 indivīdu, un, pārbaudot jaunus ierakstus, tā izrādījās neticami laba slimības prognozēšanā. Bez speciālista norādījumiem Deep Patient bija atklājis slimnīcas datos paslēptus modeļus, kas, šķiet, liecināja par to, kad cilvēki bija ceļā uz dažādām slimībām, tostarp aknu vēzi. Ir daudz metožu, kas diezgan labi var paredzēt slimības no pacienta ierakstiem, saka Džoels Dadlijs, kurš vada Sinaja kalna komandu. Bet viņš piebilst, ka tas bija daudz labāk.

Mēs varam izveidot šos modeļus, bet nezinām, kā tie darbojas.

Tajā pašā laikā Deep Patient ir nedaudz mulsinošs. Šķiet, ka tas pārsteidzoši labi paredz psihisku traucējumu, piemēram, šizofrēnijas, rašanos. Bet, tā kā ārstiem ir ļoti grūti paredzēt šizofrēniju, Dudlijs prātoja, kā tas ir iespējams. Viņš joprojām nezina. Jaunais rīks nesniedz nekādu priekšstatu par to, kā tas to dara. Ja kaut kas līdzīgs Deep Patient patiešām palīdzēs ārstiem, tas ideālā gadījumā sniegs viņiem pamatojumu prognozei, pārliecinās viņus, ka tas ir precīzs, un attaisnos, piemēram, zāļu izmaiņu, ko kādam izraksta. Mēs varam uzbūvēt šos modeļus, Dudlijs ar nožēlu saka, taču mēs nezinām, kā tie darbojas.

Mākslīgais intelekts ne vienmēr ir bijis šāds. Jau no paša sākuma pastāvēja divas domas par to, cik saprotamam vai izskaidrojamam vajadzētu būt AI. Daudzi uzskatīja, ka visjēdzīgāk ir izveidot mašīnas, kas domā saskaņā ar noteikumiem un loģiku, padarot to iekšējo darbību pārredzamu ikvienam, kurš vēlas izpētīt kādu kodu. Citi uzskatīja, ka inteliģence vieglāk radīsies, ja mašīnas smeltos iedvesmu no bioloģijas un mācītos, novērojot un piedzīvojot. Tas nozīmēja datorprogrammēšanas pagriešanu uz galvas. Tā vietā, lai programmētājs rakstītu komandas, lai atrisinātu problēmu, programma ģenerē savu algoritmu, pamatojoties uz piemēra datiem un vēlamo izvadi. Mašīnmācīšanās paņēmieni, kas vēlāk attīstījās par mūsdienu jaudīgākajām AI sistēmām, sekoja pēdējam ceļam: mašīna būtībā programmē pati sevi.

Sākumā šai pieejai bija ierobežots praktisks pielietojums, un 20. gadsimta 60. un 70. gados tā lielākoties aprobežojās tikai ar lauka nomalēm. Tad interesi atjaunoja daudzu nozaru datorizācija un lielu datu kopu parādīšanās. Tas iedvesmoja izstrādāt jaudīgākas mašīnmācības metodes, īpaši jaunas versijas tādam, kas pazīstams kā mākslīgais neironu tīkls. Deviņdesmitajos gados neironu tīkli varēja automātiski digitalizēt ar roku rakstītas rakstzīmes.

Taču tikai šīs desmitgades sākumā pēc vairākiem gudriem pielāgojumiem un uzlabojumiem ļoti lieli vai dziļi neironu tīkli demonstrēja dramatiskus automatizētās uztveres uzlabojumus. Padziļināta mācīšanās ir atbildīga par mūsdienu AI eksploziju. Tā ir piešķīrusi datoriem neparastas spējas, piemēram, spēju atpazīt izrunātos vārdus gandrīz tikpat labi, kā to varētu cilvēks, prasmi, kas ir pārāk sarežģīta, lai iekodētu iekārtā ar roku. Padziļināta mācīšanās ir mainījusi datora redzi un ievērojami uzlabojusi mašīntulkošanu. Tagad to izmanto, lai vadītu visu veidu galvenos lēmumus medicīnā, finansēs, ražošanā un ne tikai.

Ādams Feriss

Jebkuras mašīnmācības tehnoloģijas darbība pēc būtības ir nepārskatāmāka pat datorzinātniekiem nekā ar roku kodēta sistēma. Tas nenozīmē, ka visas turpmākās AI metodes būs vienlīdz nezināmas. Bet pēc savas būtības dziļā mācīšanās ir īpaši tumša melnā kaste.

Jūs nevarat vienkārši ieskatīties dziļā neironu tīklā, lai redzētu, kā tas darbojas. Tīkla argumentācija ir iestrādāta tūkstošiem simulētu neironu uzvedībā, kas ir sakārtoti desmitiem vai pat simtiem sarežģīti savstarpēji saistītu slāņu. Katrs no pirmā slāņa neironiem saņem ievadi, piemēram, attēla pikseļa intensitāti, un pēc tam veic aprēķinu pirms jauna signāla izvadīšanas. Šīs izejas kompleksā tīklā tiek ievadītas nākamā slāņa neironiem un tā tālāk, līdz tiek iegūta kopējā izvade. Turklāt ir process, kas pazīstams kā atpakaļpavairošana, kas pielāgo atsevišķu neironu aprēķinus tā, lai tīkls varētu iemācīties radīt vēlamo rezultātu.

Daudzi dziļā tīkla slāņi ļauj atpazīt lietas dažādos abstrakcijas līmeņos. Piemēram, sistēmā, kas izstrādāta, lai atpazītu suņus, apakšējie slāņi atpazīst vienkāršas lietas, piemēram, kontūras vai krāsas; augstākie slāņi atpazīst sarežģītākas lietas, piemēram, kažokādas vai acis; un augšējais slānis to visu identificē kā suni. To pašu pieeju, rupji runājot, var izmantot arī citām ievadēm, kas liek mašīnai pašai sevi mācīt: skaņām, kas veido vārdus runā, burtiem un vārdiem, kas tekstā veido teikumus, vai stūres kustībām, kas nepieciešamas braukšanai.

Tā varētu būt daļa no inteliģences būtības, ka tikai daļa no tā ir pakļauta racionālam izskaidrojumam. Daži no tiem ir tikai instinktuāli.

Ir izmantotas ģeniālas stratēģijas, lai mēģinātu uztvert un tādējādi sīkāk izskaidrot, kas notiek šādās sistēmās. 2015. gadā Google pētnieki pārveidoja uz dziļām mācībām balstītu attēlu atpazīšanas algoritmu, lai tā vietā, lai fotogrāfijās pamanītu objektus, tas tos ģenerētu vai pārveidotu. Efektīvi palaižot algoritmu pretējā virzienā, viņi varētu atklāt funkcijas, ko programma izmanto, lai atpazītu, piemēram, putnu vai ēku. The iegūtie attēli , ko veidojis projekts, kas pazīstams kā Deep Dream, demonstrēja groteskus, citplanētiešiem līdzīgus dzīvniekus, kas izplūst no mākoņiem un augiem, un halucinācijas pagodas, kas zied mežos un kalnu grēdās. Attēli pierādīja, ka dziļai mācībai nav jābūt pilnībā neizdibināmai; viņi atklāja, ka algoritmi izmanto pazīstamus vizuālos elementus, piemēram, putna knābi vai spalvas. Taču attēli arī liecināja par to, cik dziļa mācīšanās atšķiras no cilvēka uztveres, jo tā var radīt kaut ko no artefakta, ko mēs zinātu ignorēt. Google pētnieki atzīmēja, ka tad, kad tā algoritms ģenerēja hanteles attēlus, tas ģenerēja arī cilvēka roku, kas to turēja. Mašīna bija secinājusi, ka lietas sastāvdaļa ir roka.

Ir panākts turpmāks progress, izmantojot idejas, kas aizgūtas no neirozinātnes un kognitīvās zinātnes. Vaiomingas Universitātes docenta Džefa Klūna vadītā komanda ir izmantojusi optisko ilūziju AI ekvivalentu, lai pārbaudītu dziļos neironu tīklus. 2015. gadā Klūna grupa parādīja, kā daži attēli var apmānīt šādu tīklu, lai uztvertu lietas, kas tur nav, jo attēli izmanto sistēmas meklētos zemā līmeņa modeļus. Viens no Klūna līdzstrādniekiem Džeisons Josinskis arī izveidoja rīku, kas darbojas kā smadzenēs iestrēgusi zonde. Viņa rīks ir vērsts uz jebkuru neironu tīkla vidū un meklē attēlu, kas to visvairāk aktivizē. Attēli, kas parādās, ir abstrakti (iedomājieties impresionistisku flamingo vai skolas autobusu), izceļot mašīnas uztveres spēju noslēpumaino raksturu.

Šis agrīnais mākslīgais neironu tīkls Kornela aeronautikas laboratorijā Bufalo, Ņujorkā, ap 1960. gadu, apstrādāja gaismas sensoru ievadi.

Ferriss tika iedvesmots palaist Kornela mākslīgo neironu tīklu caur Deep Dream, veidojot attēlus augšā un apakšā. Ādams Feriss

Tomēr mums ir vajadzīgs vairāk nekā tikai ieskats AI domāšanā, un nav viegla risinājuma. Tā ir aprēķinu mijiedarbība dziļā neironu tīklā, kas ir izšķiroša augstāka līmeņa modeļu atpazīšanai un sarežģītu lēmumu pieņemšanai, taču šie aprēķini ir matemātisko funkciju un mainīgo lielumu purvs. Ja jums būtu ļoti mazs neironu tīkls, jūs varētu to saprast, saka Jaakkola. Bet, tiklīdz tas kļūst ļoti liels un tajā ir tūkstošiem vienību vienā slānī un varbūt simtiem slāņu, tas kļūst diezgan nesaprotams.

Birojā blakus Jaakkolai atrodas Regīna Barzilaja, MIT profesore, kura ir apņēmusies piemērot mašīnmācību medicīnā. Pirms pāris gadiem, 43 gadu vecumā, viņai tika diagnosticēts krūts vēzis. Diagnoze pati par sevi bija šokējoša, taču Barzilaja bija arī noraizējusies par to, ka progresīvās statistikas un mašīnmācīšanās metodes netiek izmantotas, lai palīdzētu onkoloģiskajos pētījumos vai vadītu. pacienta ārstēšana. Viņa saka, ka mākslīgajam intelektam ir milzīgs potenciāls revolucionizēt medicīnu, taču šī potenciāla apzināšanās nozīmēs ne tikai medicīniskos ierakstus. Viņa plāno izmantot vairāk neapstrādātu datu, kas, pēc viņas teiktā, pašlaik netiek pietiekami izmantoti: attēlveidošanas dati, patoloģijas dati, visa šī informācija.

Cik labi mēs varam saprasties ar mašīnām, kuras ir neparedzamas un neizdibināmas?

Pēc tam, kad viņa pagājušajā gadā pabeidza vēža ārstēšanu, Barzilay un viņas studenti sāka strādāt ar ārstiem Masačūsetsas vispārējā slimnīcā, lai izstrādātu sistēmu, kas spēj iegūt patoloģijas ziņojumus, lai identificētu pacientus ar īpašām klīniskām īpašībām, kuras pētnieki varētu vēlēties izpētīt. Tomēr Barzilay saprata, ka sistēmai būs jāpaskaidro tās pamatojums. Tāpēc viņa kopā ar Jaakkolu un studentu pievienoja soli: sistēma izvelk un izceļ teksta fragmentus, kas reprezentē tās atklāto modeli. Barzilay un viņas studenti arī izstrādā padziļinātas mācīšanās algoritmu, kas spēj atrast agrīnas krūts vēža pazīmes mammogrammas attēlos, un viņu mērķis ir dot šai sistēmai zināmu spēju izskaidrot arī tās pamatojumu. Jums patiešām ir jābūt cilpai, kurā sadarbojas mašīna un cilvēks, saka Barzilay.

ASV armija iegulda miljardus projektos, kas izmantos mašīnmācīšanos, lai vadītu transportlīdzekļus un lidmašīnas, identificētu mērķus un palīdzētu analītiķiem izsijāt milzīgus izlūkošanas datu kaudzes. Šeit vairāk nekā jebkur citur, pat vairāk nekā medicīnā, ir maz vietas algoritmiskajiem noslēpumiem, un Aizsardzības departaments ir noteicis izskaidrojamību kā galveno klupšanas akmeni.

Deivids Gunings, Aizsardzības progresīvo pētījumu projektu aģentūras programmas vadītājs, pārrauga trāpīgi nosaukto Explainable Artificial Intelligence programmu. Sudrabamatains aģentūras veterāns, kurš iepriekš pārraudzīja DARPA projektu, kas galu galā noveda pie Siri izveides, Gunings saka, ka automatizācija iezogas neskaitāmās militārās jomās. Izlūkošanas analītiķi pārbauda mašīnmācīšanos kā veidu, kā noteikt modeļus plašā novērošanas datu apjomā. Tiek izstrādāti un pārbaudīti daudzi autonomi sauszemes transportlīdzekļi un lidaparāti. Bet karavīri, iespējams, nejutīsies ērti robotu tankā, kas viņiem neko neizskaidro, un analītiķi nevēlēsies rīkoties, pamatojoties uz informāciju bez jebkāda pamatojuma. Bieži vien šo mašīnmācīšanās sistēmu būtība ir tāda, ka tās rada daudz viltus trauksmes signālu, tāpēc Intel analītiķim patiešām ir nepieciešama papildu palīdzība, lai saprastu, kāpēc tika sniegts ieteikums, saka Gunings.

Šā gada martā DARPA izvēlējās 13 projektus no akadēmiskajām aprindām un nozares, lai saņemtu finansējumu Gunninga programmas ietvaros. Dažas no tām varētu balstīties uz darbu, ko vadīs Vašingtonas universitātes profesors Karloss Guestrins. Viņš un viņa kolēģi ir izstrādājuši veidu, kā mašīnmācības sistēmas var nodrošināt savu rezultātu pamatojumu. Būtībā, izmantojot šo metodi, dators automātiski atrod dažus piemērus no datu kopas un sniedz tos īsā paskaidrojumā. Sistēma, kas izstrādāta, lai, piemēram, klasificētu e-pasta ziņojumu kā no terorista, savā apmācībā un lēmumu pieņemšanā var izmantot daudzus miljonus ziņojumu. Taču, izmantojot Vašingtonas komandas pieeju, tā varētu izcelt noteiktus ziņojumā atrodamos atslēgvārdus. Guestrin grupa ir arī izstrādājusi veidus, kā attēlu atpazīšanas sistēmas var dot mājienus par viņu argumentāciju, izceļot attēla daļas, kas bija vissvarīgākās.

Ādams Feriss

Viens no šīs pieejas un citiem līdzīgiem trūkumiem, piemēram, Barzilay’s, ir tas, ka sniegtie paskaidrojumi vienmēr tiks vienkāršoti, kas nozīmē, ka daļa svarīgas informācijas var tikt pazaudēta. Mēs neesam sasnieguši visu sapni, kur AI sarunājas ar jums, un tas spēj izskaidrot, saka Guestrins. Mēs esam tālu no patiesi interpretējama AI.

Lai tas kļūtu par problēmu, tai nav jābūt tādai lielai situācijai kā vēža diagnostika vai militārie manevri. Zināt AI argumentāciju arī būs ļoti svarīgi, lai tehnoloģija kļūtu par izplatītu un noderīgu mūsu ikdienas dzīves sastāvdaļu. Toms Grūbers, kurš vada Siri komandu uzņēmumā Apple, saka, ka izskaidrojamība ir galvenais viņa komandas apsvērums, cenšoties padarīt Siri par gudrāku un spējīgāku virtuālo palīgu. Grūbers neapspriedīs konkrētus Siri nākotnes plānus, taču ir viegli iedomāties, ka, saņemot restorāna ieteikumu no Siri, jūs vēlēsities uzzināt, kāds bija pamatojums. Ruslans Salahutdinovs, Apple mākslīgā intelekta pētījumu direktors un Kārnegija Melona universitātes asociētais profesors, skaidrojamību uzskata par cilvēku un viedo mašīnu attiecību attīstības pamatu. Tas ieviesīs uzticību, viņš saka.

Saistīts stāsts

Lasiet Tālāk Mašīnas, kas patiesi saprot valodu, būtu neticami noderīgas. Bet mēs nezinām, kā tos izveidot.

Tāpat kā daudzus cilvēka uzvedības aspektus nav iespējams detalizēti izskaidrot, iespējams, AI nevarēs izskaidrot visu, ko tas dara. Pat ja kāds var sniegt jums saprātīgu skaidrojumu [viņai vai viņas rīcībai], tas, iespējams, ir nepilnīgs, un tas ļoti labi varētu attiekties uz AI, saka Klūns no Vaiomingas universitātes. Tā var būt tikai daļa no inteliģences būtības, ka tikai daļa no tā ir pakļauta racionālam izskaidrojumam. Daļa no tā ir tikai instinktuāla, vai zemapziņas, vai neizdibināma.

Ja tas tā ir, tad kādā posmā mums var nākties vienkārši uzticēties AI spriedumam vai arī to neizmantot. Tāpat šajā spriedumā būs jāiekļauj sociālā inteliģence. Tāpat kā sabiedrība ir balstīta uz paredzamās uzvedības līgumu, mums būs jāizstrādā AI sistēmas, lai ievērotu mūsu sociālās normas un atbilstu tām. Ja mēs vēlamies izveidot robotu tankus un citas nogalināšanas mašīnas, ir svarīgi, lai to lēmumu pieņemšana atbilstu mūsu ētiskajiem spriedumiem.

Lai izpētītu šos metafiziskos jēdzienus, es devos uz Tufta universitāti, lai tiktos ar Danielu Denetu, slavenu filozofu un kognitīvo zinātnieku, kurš pēta apziņu un prātu. Deneta jaunākās grāmatas nodaļa, No baktērijām līdz Baham un atpakaļ enciklopēdisks traktāts par apziņu liecina, ka pati intelekta evolūcijas dabiska sastāvdaļa ir tādu sistēmu radīšana, kas spēj veikt uzdevumus, ko to radītāji neprot darīt. Jautājums ir, kādi pielāgojumi mums ir jādara, lai to darītu gudri — kādus standartus mēs prasām no viņiem un no sevis? viņš man stāsta savā pārblīvētajā birojā universitātes idilliskajā pilsētiņā.

Viņam ir arī brīdinājuma vārds par izskaidrojamības meklējumiem. Es domāju, ka jebkurā gadījumā, ja mēs izmantosim šīs lietas un paļausimies uz tām, tad pēc iespējas stingrāk sapratīsim, kā un kāpēc viņi mums sniedz atbildes, viņš saka. Taču, tā kā var nebūt ideālas atbildes, mums jābūt tikpat piesardzīgiem attiecībā uz mākslīgā intelekta skaidrojumiem kā vienam pret otru — neatkarīgi no tā, cik gudra šķiet mašīna. Ja tas nevar labāk nekā mēs izskaidrot, ko tas dara, viņš saka, tad neuzticieties tam.

paslēpties