Pitanje umjetne inteligencije svakako je jedno od najprisutnijih u suvremenoj kulturi i društvu koji su uvelike oblikovani usponom i razvojem tehnologije. I sam razvoj umjetne inteligencije na određeni se način doživljava kao jedna logička, da ne kažemo prirodna, posljedica tehnološke evolucije modernoga doba. Međutim, koliko god to možda na prvi pogled tako izgledalo, tehnologija još uvijek nije glavni subjekt ljudske povijesti: zasad je ona još uvijek samo sredstvo ostvarenja onih ciljeva koje pred nju postavljaju ljudi – ona je protetička ruka čovjekove zamisli. To naravno ne znači da ona to možda jednoga dana, u bližoj ili daljnjoj budućnosti, neće i postati: s usponom superinteligencije i možebitne pojave tehnološke singularnosti – koju neki smatraju i putem bez povratka za čovječanstvo.
Eksplozivni bljesak
U svom znanstvenom bestseleru Superinteligencija: putevi, opasnosti i strategije Nick Bostrom definira superinteligenciju kao „bilo kakvu inteligenciju koja u velikoj mjeri nadmašuje kognitivne učinke ljudi u skoro svim područjima od interesa”. Riječ je zapravo o informacijskom sustavu koji naglo povećava svoju inteligenciju u kratkom vremenu nadilazeći kognitivne sposobnosti prosječnoga ljudskog bića: ona u sebi objedinjuje brzinu, kvalitetu i sadržaj u mjeri koja će daleko nadmašiti čovjekove sposobnosti.
Međutim, iako se prema njoj teži i ubrzano „radi” na procesu njezina stvaranja, samo pitanje posljedica koje to može imati za čovjeka vrlo je složeno i prožeto neizvjesnostima – čak i ako ne uzmemo u obzir pitanje hoće li i kada do nje doći, u čemu se znanstvenici poprilično razilaze. Riječ je o procesu u čiji konačni rezultat znanstvenici nisu baš sigurni. Naime, pojava superinteligencije može dovesti do eksplozije inteligencije koja će čovjeka ostaviti daleko iza sebe. Ako to bude pod kontrolom neke grupe ljudi, oni mogu doći u situaciju da zavladaju svijetom za samo nekoliko godina. Ako ljudi ne uspiju kontrolirati eksploziju inteligencije, tj. ako dođe do njezina „bijega”, ona sama može zavladati svijetom još i brže. Prisutni osjećaj tjeskobe u znanstvenim krugovima Bostrom ovako sažima: „Kada si glup, pametnije je sigurnije; ali kada si pametan, pametnije je opasnije.”
Drugim riječima, mogući su različiti scenariji koje treba dobro promisliti prije nego što dođe do pojave superinteligencije: treba na vrijeme pripraviti put, odrediti genetski kod te inteligencije jer kasnije, nakon njezina buđenja, može biti prekasno. Riječ je procesu koji može izmaknuti kontroli: u tom se kontekstu vrlo znakovito i govori o eksploziji inteligencije. Naime, dok se i može govoriti o stvaranju umjetne inteligencije, u slučaju superinteligencije prije je riječ o iznenadnoj pojavi, tj. trenutku kad će se razviti autonomna umjetna inteligencija daleko moćnija od ljudske i koji se naziva tehnološka singularnost. Singularnost je u biti put bez povratka: trenutak u povijesti kad će bujica tehnološkoga razvitka biti toliko brza, toliko neodoljiva da će ljudski život biti nepovratno izmijenjen. Sam pak naziv singularnost vrlo je znakovit i asocira na singularnost o kojoj se govori u teoriji Velikoga praska: prvobitna točka beskonačnoga pritiska i gustoće koja je prethodila Velikom prasku – nakon kojega više ništa nije bilo isto.
Tu singularnu narav pojavnosti superinteligencije možemo si predočiti bolje ako imamo na umu da je ona konačni bljesak programa stvaranja umjetne inteligencije, tj. svršetak procesa njezina downloadiranja, hranjenja informacijama različitih vrsta. Superinteligencija je trenutno u procesu učenja, bivajući uglavnom programirana raznim informacijama. Cilj je, međutim, duboko učenje (deep learning), tj. da postane samostalna u procesu prikupljanja i obrade informacija što bi je onda trebalo učiniti „svjesnom”: u širim znanstvenim krugovima svijest se upravo definira kao sposobnost primanja i obrade informacija.
Kontrolirana detonacija?
Imajući u vidu egzistencijalni ulog problematike umjetne inteligencije i mogući egzistencijalni rizik koji sa sobom nosi za ljude, pitanje sigurnosti superinteligencije jedno je od gorućih u znanstvenim krugovima. Upozoravajući da se glede ovoga pitanja nalazimo u „gustišu strateške složenosti, okruženi gustom maglom neizvjesnosti” nošeni vizijom koja je „još uvijek relativno bezoblična i negativno određena”, Bostrom ističe: „Pred izgledima eksplozije inteligencije, mi ljudi smo kao mala djeca koja se igraju bombom. Toliko sila naše igračke odudara od nezrelosti našeg ponašanja. Superinteligencija je izazov za koji sada nismo spremni niti ćemo biti spremni u dogledno vrijeme… Ne možemo biti sigurni ni tako što ćemo pobjeći jer će udar eksplozije inteligencije sravniti čitava nebesa.” Stoga jedino ostaje nada da će čovjek „steći ne samo tehnološko umijeće izazivanja eksplozije inteligencije nego i višu razinu umijeća neophodnog za preživljavanje detonacije”.
U svjetlu ovoga za čovjekovu budućnost egzistencijalnoga problema pitanje cilja razvoja umjetne inteligencije postaje jednim od najtežih, najvažnijih i najhitnijih pitanja budućnosti. Nije samo riječ o tomu da se stvori opću umjetnu inteligenciju ljudske razine nego, što je još važnije, i prijateljski nastrojenu prema čovječanstvu – što nije nimalo jednostavno. Prema Maxu Tegmarku (Život 3.0) to znači „da se mi ljudi trebamo, kako bismo mudro odlučili što raditi u svezi s razvojem umjetne inteligencije, suočiti ne samo s tradicionalnim računarskim izazovima nego i s nekim od najtrajnijih pitanja u filozofiji… Da bismo programirali prijateljsku umjetnu inteligenciju, trebamo shvatiti smisao života. Što je ‘smisao’? Što je ‘život’? Što je krajnji etički imperativ? …Ako prepustimo kontrolu nekoj superinteligenciji prije nego što odgovorimo strogo na ta pitanja, odgovor do kojega će ona doći najvjerojatnije neće podrazumijevati i nas. Stoga je možda pravo vrijeme da se ponovno pokrenu klasične rasprave u filozofiji i etici, i to razgovor čini iznova hitno potrebnim”. Iako se tehnologija i umjetna inteligencija nude kao praktičan izlaz za čovječanstvo, oni za svoju sigurnost traže utemeljenje u filozofskim promišljanjima smisla čovjekova postojanja. Međutim vrijeme za ta promišljanja na pješčanom satu povijesti iz raznih razloga uvelike istječe. Dok Bostrom naglašava da filozofija ima određeni „rok” (deadline), Y. N. Harari (21 lekcija za 21. stoljeće) pak konkretnije upozorava: „Filozofiji, religiji i znanosti ponestaje vremena. Ljudi o smislu života raspravljaju tisućama godina. Ta se rasprava ne može voditi zauvijek. Nadolazeća ekološka kriza, rastuća prijetnja oružjem masovnog uništenja i uspon novih, razornih tehnologija neće to dopustiti. A što je najvažnije, umjetna inteligencija i biotehnologija daju čovječanstvu moć da preoblikuje i nanovo projektira život. Uskoro će netko morati odlučiti kako koristiti tu moć – na temelju neke implicitne ili eksplicitne priče o smislu života. Filozofi su vrlo strpljivi ljudi, inženjeri mnogo manje, dok su ulagači najnestrpljiviji od svih. Ako ne znate što učiniti s moći projektiranja života, tržišne vas sile neće čekati tisuću godina da vam sine neka ideja. Nevidljiva ruka tržišta prisilit će vas na odgovor naslijepo.”
