Umjetna inteligencija je opasna po čovječanstvo…

Rad koji su objavili Google Deepmind i istraživači Sveučilišta Oxford upozorava da će superinteligentna umjetna inteligencija “vjerojatno” označiti kraj čovječanstva.

Novi rad sugerira da će umjetna inteligencija “vjerojatno” izazvati egzistencijalnu katastrofu za čovječanstvo u budućnosti. Zanimljivo o ovome se već raspraljavalo u više navrata ranije a pokojni profesor Hawking bio je jedan od mnogih stručnjaka koji su rekli da trebamo obratiti veliku pozornost i ne dopustiti da nam umjetna inteligencija izmakne kontroli.

U svojoj knjizi Brief Answers to the Big Questions, profesor Hawking odgovara na pitanje : “Hoće li nas umjetna inteligencija nadmudriti?” pišući, “super-inteligentna AI bit će iznimno efikasna u postizanju ciljeva a ako ti ciljevi nisu usklađeni s našima u nevolji smo.”

Sada je istraživanje Google Deepminda i Sveučilišta Oxford zaključilo da će superinteligentna AI “vjerojatno” označiti kraj čovječanstva – sumoran scenarij koji zabrinjava sve više znanstvenika.

Što ako se AI otme kontroli

U nedavnom radu objavljenom u AI Magazineu, oksfordski istraživač Michael Cohen, viši znanstvenik DeepMinda Marcus Hutter i viši znanstvenik DeepMinda Michael Osborne tvrde da će strojevi na koncu početi kršiti pravila koja su zadali njihovi kreatori kako bi se natjecali za oskudne resurse.

Cohen, student strojarstva na Sveučilištu Oxford i koautor rada, tvitao je ranije ovog mjeseca da egzistencijalna katastrofa nije samo moguća već i vjerojatna, pod uvjetima koje su specificirali. Rad sugerira da bi čovječanstvo moglo biti osuđeno na propast prouzrokovanu od strane supernaprednih AI agenata koji čovječanstvo doživljavaju kao prepreku svojim ciljevima.

Borba za resurse

U radu istraživači sugeriraju da AI agent može zadržati dugoročnu kontrolu nad provođenjem svojeg cilja eliminirajući potencijalne prijetnje i osiguravajući svojem računalu svu raspoloživu energiju. Prema istraživačima, ‘gubitak utakmice’ bio bi fatalan po ljude. Nažalost, ne možemo puno učiniti po tom pitanju, tvrde istraživači.

U intervjuu za Motherboard, Cohen je rekao da nije siguran što bi se dogodilo u svijetu s beskonačnim resursima. “U svijetu s ograničenim resursima postoji neizbježna konkurencija za te resurse.” Za čovječanstvo bi to mogao biti loš znak. “Ne biste trebali očekivati ​​pobjedu ako se natječete s nečim što vas može nadmašiti pri svakom koraku”, naglasio je. Čovječanstvo bi trebalo razborito i polako napredovati u razvoju AI tehnologija kako bi se moglo izboriti protiv ovakvih prijetnja.

Uzimajući u obzir dane pretpostavke, rad upozorava da bi dovoljno napredan umjetni agent mogao ometati pružanje informacija o svojem cilju što bi rezultiralo katastrofalnim posljedicama.

Kosmos