Upozorenja dolaze sa svih strana - umjetna inteligencija predstavlja egzistencijalni rizik za čovječanstvo i mora se zauzdati prije nego što bude prekasno.
Ali koji su to scenariji katastrofe i kako bi mašine mogle izbrisati čovječanstvo? Većina scenarija katastrofe počinje isto: mašine će nadmašiti ljudske kapacitete, izmaknuti ljudskoj kontroli i odbiti da ih se isključi.
- Jednom kad dobijemo mašine koje imaju cilj samoodržanja, u nevolji smo - rekao je stručnjak za umjetnu inteligenciju Džošua Bengio (Yoshua).
Eksplozija inteligencije
Budući da te mašine još ne postoje, zamišljanje kako bi mogle ugroziti čovječanstvo često je prepušteno filozofiji i naučnoj fantastici. Filozof Nik Bostrom (Nick) pisao je o “eksploziji inteligencije” za koju kaže da će se dogoditi kada superinteligentne mašine počnu dizajnirati vlastite mašine.
Ilustrirao je tu ideju pričom o superinteligentnoj umjetnoj inteligenciji u fabrici spajalica. Umjetna inteligencija dobila je zadatak da maksimizira proizvodnju spajalica i tako “pretvara najprije Zemlju, a zatim sve veće dijelove vidljivog svemira u spajalice”. Mnogi su Bostromove ideje odbacili kao naučnu fantastiku zato što je zasebno tvrdio da je čovječanstvo računalna simulacija i podržavao teorije bliske eugenici.
Ipak, njegova su razmišljanja o umjetnoj inteligenciji bila iznimno utjecajna, nadahnuvši i Ilona Maska (Elon Musk) i profesora Stivena Hokinga (Stephen Hawking).
Ako superinteligentne mašine žele uništiti čovječanstvo, svakako im treba fizički oblik. Crvenooki kiborg Arnolda Švarcenegera (Schwarzenegger), poslan iz budućnosti da prekine ljudski otpor pomoću umjetne inteligencije u filmu “Terminator”, pokazao se zanimljivom slikom, posebno za medije. Ali stručnjaci su odbacili tu ideju.
Naučna fantastika
- Malo je vjerovatno da će ovaj koncept naučne fantastike postati stvarnost u nadolazećim desetljećima ako će uopće ikada postati stvarnost - napisala je grupa ''Stop Killer Robots'' u izvještaju za 2021.
Međutim, grupa je upozorila da je davanje mašinama moći da donose odluke o životu i smrti egzistencijalni rizik. Stručnjakinja za robote Kerstin Dautenhahn s Univerziteta ''Waterloo'' u Kanadi umanjila je te strahove. Rekla je za AFP da umjetna inteligencija vjerovatno neće dati mašinama veće sposobnosti razmišljanja ili ih prožeti željom da ubiju sve ljude.
- Roboti nisu zli - rekla je, iako je priznala da ih programeri mogu natjerati da čine zle stvari.
