Civilizācijas spēle var palīdzēt cilvēkiem izprast AI eksistenciālos draudus

Kategorija: Mākslīgais intelekts Ievietots 08. janvāris

Kembridžas universitātes pētnieki izveidoja civilizācijas spēles modeli, kas ļauj cilvēkiem izaugt un pieradināt cilvēku pārspējošu superinteliģenci.

Spēle: Šahars Avins no universitātes Eksistenciālā riska izpētes centra saka spēle ļauj spēlētājiem veidot AI R&D jaudu savā virtuālajā pasaulē. Panākumi ir gudrāks par cilvēku AI. Vienlaikus tiek palielināts negodīgs AI risks, un tas tiek mazināts, tikai veicot drošības pētījumus.

Mērķis: Mēs vēlējāmies pārbaudīt savu izpratni par jēdzieniem, kas saistīti ar mākslīgā superintelekta radīto eksistenciālo risku, izvietojot tos ierobežotā, bet bagātīgā pasaules simulatorā, [un arī pārbaudīt, kā] spēlētāji reaģē … ja viņiem tiek dota iespēja pašiem pieņemt AI lēmumus, Avins man teica.

Bailes vai pieņemšana: Projekts ir arī informatīvs rīks, kas nopietnas problēmas sniedz plašākai auditorijai. Avins apzinās, ka tas varētu iemūžināt bailes par AI. Viņš tomēr apgalvo, ka spēlētāji redz risku, bet arī redz viņu rīcībā esošo rīku klāstu, lai to mazinātu.