Ključni podaci za van
- Novo istraživanje sugerira da možda ne postoji način za kontrolu super-pametne umjetne inteligencije.
- Časopis tvrdi da bi upravljanje umjetnom inteligencijom zahtijevalo mnogo napredniju tehnologiju od one koju trenutno posjedujemo.
- Neki stručnjaci kažu da bi istinski inteligentna umjetna inteligencija mogla biti ovdje prije nego što mislimo.
Ako ljudi ikada razviju super-pametnu umjetnu inteligenciju, možda neće biti načina da je kontroliraju, kažu znanstvenici.
AI se dugo reklamirao ili kao lijek za sve probleme čovječanstva ili kao apokalipsa u stilu Terminatora. Do sada, međutim, umjetna inteligencija nije se približila čak ni ljudskoj inteligenciji. Ali držanje uzice nad naprednom umjetnom inteligencijom moglo bi biti previše složen problem za ljude ako se ikada razvije, prema nedavnom radu objavljenom u Journal of Artificial Intelligence Research.
"Super-inteligentni stroj koji kontrolira svijet zvuči kao znanstvena fantastika," Manuel Cebrian, jedan od koautora rada, rekao je u priopćenju za javnost.
"Ali već postoje strojevi koji samostalno obavljaju određene važne zadatke, a da programeri u potpunosti ne razumiju kako su to naučili. Stoga se postavlja pitanje može li to u jednom trenutku postati nekontrolirano i opasno za čovječanstvo."
Uskoro na super računalu u vašoj blizini
Časopis tvrdi da bi kontrola AI zahtijevala mnogo napredniju tehnologiju od one koju trenutno posjedujemo.
U svojoj studiji, tim je osmislio teorijski algoritam zadržavanja koji osigurava da superinteligentna umjetna inteligencija ne može naštetiti ljudima ni pod kojim okolnostima, tako što prvo simulira ponašanje umjetne inteligencije i zaustavlja je ako se smatra štetnom. Ali autori su otkrili da se takav algoritam ne može izgraditi.
"Ako raščlanite problem na osnovna pravila iz teorijske računalne znanosti, ispada da bi algoritam koji bi naredio umjetnoj inteligenciji da ne uništi svijet mogao nenamjerno zaustaviti vlastite operacije." Iyad Rahwan, direktor Centra za ljude i strojeve na Institutu Max Planck za ljudski razvoj u Njemačkoj, rekao je u priopćenju za javnost.
"Kad bi se to dogodilo, ne biste znali analizira li algoritam zadržavanja još uvijek prijetnju ili je prestao obuzdavati štetnu umjetnu inteligenciju. Zapravo, to čini algoritam zadržavanja neupotrebljivim."
Uistinu inteligentna umjetna inteligencija mogla bi se pojaviti prije nego što mislimo, tvrdi Michalis Vazirgiannis, profesor informatike na École Polytechnique u Francuskoj. "AI je ljudski artefakt, ali brzo postaje autonomni entitet", rekao je u e-poruci Lifewireu.
"Kritična točka bit će ako/kada se dogodi singularnost (tj. kada agenti umjetne inteligencije budu imali svijest kao entitet) i stoga će zahtijevati neovisnost, samokontrolu i eventualnu dominaciju."
Singularnost dolazi
Vazirgiannis nije jedini u predviđanju skorog dolaska super umjetne inteligencije. Istinski vjernici u prijetnju umjetne inteligencije vole govoriti o "singularnosti", koju Vazirgiannis objašnjava poantom da će umjetna inteligencija nadvladati ljudsku inteligenciju i "da će algoritmi umjetne inteligencije potencijalno shvatiti svoje postojanje i početi se ponašati sebično i kooperativno."
Prema Rayu Kurzweilu, Googleovom direktoru inženjeringa, singularnost će stići prije sredine 21. stoljeća. "2029. je dosljedan datum koji sam predvidio kada će umjetna inteligencija proći valjani Turingov test i time postići ljudsku razinu inteligencije", rekao je Kurzweil za Futurism.
Ako ne možemo sami očistiti svoju kuću, koji kodeks trebamo tražiti od umjetne inteligencije?
"Odredio sam datum 2045. za 'Singularitet', kada ćemo umnožiti svoju efektivnu inteligenciju milijardu puta spajanjem s inteligencijom koju smo stvorili."
Ali ne misle svi stručnjaci za umjetnu inteligenciju da su inteligentni strojevi prijetnja. Vjerojatnije je da će umjetna inteligencija koja je u razvoju biti korisna za razvoj lijekova i ne pokazuje nikakvu stvarnu inteligenciju, rekao je konzultant za umjetnu inteligenciju Emmanuel Maggiori u intervjuu e-poštom. "Postoji velika pompa oko umjetne inteligencije, zbog čega zvuči kao da je stvarno revolucionarna", dodao je. "Trenutni AI sustavi nisu točni kao što se objavljuje i čine pogreške koje čovjek nikada ne bi napravio."
Preuzmite kontrolu nad umjetnom inteligencijom, sada
Reguliranje umjetne inteligencije tako da ne izmakne našoj kontroli može biti teško, kaže Vazirgiannis. Kompanije, a ne vlade, kontroliraju resurse koji pokreću AI. "Čak se i sami algoritmi obično proizvode i koriste u istraživačkim laboratorijima ovih velikih i moćnih, obično multinacionalnih entiteta", rekao je.
"Očito je, dakle, da vlade država imaju sve manje kontrole nad resursima potrebnim za kontrolu AI."
Neki stručnjaci kažu da će ljudi za kontrolu superinteligentne umjetne inteligencije morati upravljati računalnim resursima i električnom energijom. "Znanstveno-fantastični filmovi poput Matrixa donose proročanstva o distopijskoj budućnosti u kojoj AI koristi ljude kao bio-izvore energije", rekao je Vazirgiannis.
"Iako je udaljena nemogućnost, čovječanstvo bi se trebalo pobrinuti da postoji dovoljna kontrola nad računalnim resursima (tj. računalnim klasterima, GPU-ovima, superračunalima, mrežama/komunikacijama), i naravno elektranama koje daju električnu energiju što je apsolutno štetno za funkciju umjetne inteligencije."
Problem s kontroliranjem umjetne inteligencije je taj što istraživači ne razumiju uvijek kako takvi sustavi donose odluke, rekao je u intervjuu e-poštom Michael Berthold, suosnivač i izvršni direktor softverske tvrtke KNIME za podatkovnu znanost. "Ako to ne učinimo, kako to možemo 'kontrolirati'?"
Dodao je, "Ne razumijemo kada se donese potpuno drugačija odluka na temelju, za nas, nebitnih inputa."
Jedini način da se kontrolira rizik korištenja umjetne inteligencije je osigurati da se koristi samo kada se tim rizikom može upravljati, rekao je Berthold. "Drugačije rečeno, dva ekstremna primjera: nemojte stavljati AI da upravlja vašom nuklearnom elektranom u kojoj mala pogreška može imati katastrofalne nuspojave", dodao je.
"S druge strane, umjetna inteligencija predviđa treba li sobnu temperaturu malo povećati ili smanjiti, možda je vrijedno malog rizika u korist udobnosti stanovanja."
Ako ne možemo kontrolirati AI, bolje da ga naučimo ponašanju, rekao je bivši NASA-in računalni inženjer Peter Scott u intervjuu e-poštom. "U konačnici ne možemo osigurati upravljivost AI-a kao što to ne možemo osigurati našoj djeci", rekao je.
"Odgajamo ih ispravno i nadamo se najboljem; do sada nisu uništili svijet. Da bismo ih dobro odgojili, potrebno nam je bolje razumijevanje etike; ako ne možemo sami očistiti svoju kuću, što kod trebamo tražiti od umjetne inteligencije da ga slijedi?"
Ali još nije izgubljena svaka nada za ljudsku rasu, kaže Yonatan Wexler, istraživač umjetne inteligencije, izvršni potpredsjednik za istraživanje i razvoj u OrCamu. "Iako je napredak doista impresivan, moje osobno uvjerenje je da se ljudska inteligencija ne smije podcijeniti", rekao je u intervjuu e-poštom. "Mi kao vrsta stvorili smo nevjerojatne stvari, uključujući samu umjetnu inteligenciju."
Potraga za sve pametnijom umjetnom inteligencijom se nastavlja. Ali možda bi bilo bolje razmotriti kako kontroliramo svoje kreacije prije nego bude prekasno.
