Nē, eksperti neuzskata, ka superinteliģentais AI apdraud cilvēci

Ja jūs ticat visam, ko lasāt, jūs, iespējams, uztrauc superinteliģenta, slepkava AI. The Aizbildnis , britu laikraksts, brīdināja nesen mēs esam kā bērni, kas spēlējas ar bumbu, un nesen Newsweek virsraksts skan: Mākslīgais intelekts nāk, un tas varētu mūs iznīcināt.

Daudzus šādus virsrakstus, kuru pamatā ir komentāri, piemēram, Īlons Masks un Stīvens Hokings, ir spēcīgi ietekmējis viena cilvēka darbs: profesors Niks Bostroms, filozofiskā traktāta autors. Superinteliģence: ceļi, briesmas un stratēģijas .

Bostroms ir Oksfordas filozofs, bet kvantitatīvs risku novērtējums ir aktuāra zinātnes nozare. Viņu var saukt par pasaulē pirmo ievērojamo aktuāra filozofu, lai gan šis termins šķiet oksimorons, ņemot vērā, ka filozofija ir konceptuālu argumentu arēna un riska novērtējums ir uz datiem balstīts statistikas uzdevums.

Tātad, ko saka dati? Bostroms apkopo četru dažādu grupu aptauju rezultātus, piemēram, dalībniekus konferencē ar nosaukumu AI filozofija un teorija, kas notika 2011. gadā Salonikos, Grieķijā, un Grieķijas Mākslīgā intelekta asociācijas biedrus (viņš nesniedz atbilžu rādītājus vai formulējumu jautājumu, un viņš neņem vērā paļaušanos uz Grieķijā savāktajiem datiem).

Viņa atklājumi ir parādīti kā varbūtība, ka cilvēka līmeņa AI tiks sasniegts līdz noteiktam laikam:

Līdz 2022. gadam: 10 procenti.

Līdz 2040. gadam: 50 procenti.

Līdz 2075. gadam: 90 procenti.

Šis četru aptauju kopums ir galvenais datu avots par cilvēka līmeņa inteliģences parādīšanos vairāk nekā 300 filozofisku argumentu, fabulu un metaforu lappušu garumā.

Lai iegūtu precīzāku novērtējumu par nozares vadošo pētnieku viedokli, es vērsos pie Amerikas Mākslīgā intelekta asociācijas biedriem, pētnieku grupas, kas ir atzīta par nozīmīgu, ilgstošu ieguldījumu šajā jomā.

2016. gada marta sākumā AAAI manā vārdā nosūtīja anonīmu aptauju, uzdodot šādu jautājumu 193 stipendiātiem:

Niks Bostroms savā grāmatā ir definējis superinteliģenci kā 'saprātu, kas ir daudz gudrāks par labākajām cilvēka smadzenēm praktiski visās jomās, tostarp zinātniskajā jaunradē, vispārējā gudrībā un sociālajās prasmēs'. Kad, jūsuprāt, mēs sasniegsim Superinteliģenci?

Apmēram nākamās nedēļas laikā atbildēja 80 stipendiāti (atbilžu rādītājs 41 procents), un viņu atbildes ir apkopotas zemāk:

Būtībā, pēc 92,5 procentu aptaujāto domām, superinteliģence ir ārpus paredzamā horizonta. Šo interpretāciju apstiprina arī stipendiātu rakstiskie komentāri.

Lai gan aptauja bija anonīma, 44 stipendiāti izvēlējās sevi identificēt, tostarp Džefs Hintons (dziļās mācīšanās gaismeklis), Eds Feigenbaums (Stenfords, Tjūringa balvas ieguvējs), Rodnijs Brūks (vadošais robotiķis) un Pīters Norvigs (Google).

Respondenti arī dalījās ar vairākiem komentāriem, tostarp šādiem:

Vairāk nekā 25 gadus. Visticamāk, gadsimtiem. Bet ne nekad.

Mēs konkurējam ar miljoniem gadu ilgušo cilvēka smadzeņu evolūciju. Mēs varam rakstīt viena mērķa programmas, kas var konkurēt ar cilvēkiem un dažreiz izceļas, taču pasaule nav glīti sadalīta vienas problēmas jautājumos.

Niks Bostroms ir profesionāls biedu izplatītājs. Viņa institūta uzdevums ir atrast eksistenciālus draudus cilvēcei. Viņš tos redz visur. Man ir kārdinājums viņu dēvēt par mākslīgā intelekta “Donaldu Trampu”.

Aptauju zinātniskā vērtība, protams, ir ierobežota. Viņi ir ļoti jutīgi pret jautājumu formulējumu, respondentu atlasi utt. Tomēr tas ir vienīgais datu avots, pie kura vērsās pats Bostroms.

Vēl viena metodoloģija būtu ekstrapolēt no pašreizējā AI stāvokļa uz nākotni. Tomēr tas ir grūti, jo mums nav kvantitatīvu mērījumu par pašreizējo cilvēka līmeņa intelekta stāvokli. Mēs esam sasnieguši superinteliģenci tādās galda spēlēs kā šahs un Go (skatiet Google AI Masters Go desmitgadi agrāk, nekā gaidīts), taču mūsu programmām astotās klases dabaszinātņu pārbaudēs netika sasniegts augstāks par 60 procentiem, kā liecina Alena institūta pētījums (sk. Labākā AI programma joprojām iztur astotās pakāpes zinātnes pārbaudi) jeb vairāk nekā 48 procentus vienkāršu teikumu skaidrībā (skatiet stingrāku Tjūringa testu, kas atklāj tērzēšanas robotu stulbumu).

Pastāv daudzas pamatotas bažas par AI, sākot no tā ietekmes uz darbavietām un beidzot ar izmantošanu autonomās ieroču sistēmās un pat līdz iespējamajam superinteliģences riskam. Tomēr prognozes, ka superinteliģence ir paredzamā horizontā, netiek atbalstīti ar pieejamiem datiem. Turklāt nelaimju prognozēs bieži vien netiek ņemti vērā iespējamie AI ieguvumi medicīnisku kļūdu novēršanā, autoavāriju samazināšanā un daudz ko citu.

Visbeidzot, iespējams, ka AI sistēmas varētu sadarboties ar cilvēkiem, lai izveidotu simbiotisku superinteliģenci. Tas ļoti atšķirtos no kaitīgā un autonomā veida, ko iecerējis profesors Bostroms.

Orens Etcioni ir Alena Mākslīgā intelekta institūta izpilddirektors un Vašingtonas universitātes datorzinātņu profesors.

Atjaunināts 2016. gada 2. novembrī:

Es priecājos, ka profesori Dafo un Rasels, kuri atbildēja uz manu rakstu šeit, un šķiet, ka es piekrītu trīs būtiskos jautājumos. Pirmkārt, mums vajadzētu atturēties no ad hominem uzbrukumiem. Šeit man ir jāpiedāvā atvainošanās: man nevajadzēja citēt anonīmo AAAI stipendiātu, kurš pielīdzināja doktoru Bostromu Donaldam Trampam. Es negribēju izteikt savu balsi šim salīdzinājumam; Es patiesi atvainojos Bostromam par šo nepareizo soli pa e-pastu, atvainošanos, ko viņš laipni pieņēma. Otrkārt, mums kā zinātniekiem ir jānovērtē apgalvojumi par AI risku pamatojoties uz datiem. Tas bija mans galvenais īss raksts , un rakstā tika piedāvāti unikāli dati par šo tēmu. Treškārt, mēs piekrītam arī tam, ka plašsaziņas līdzekļi ir nepareizi atspoguļojuši Bostroma darba ietekmi — tēma, kas rada lielas bažas, ko zināmā mērā mazināja Baltā nama ziņojums par AI . Protams, mēs atšķiras daudzās detaļās un argumentu sarežģītībā, taču laiks rādīs.

paslēpties