Mišljenja tehnoloških stručnjaka

U svakom slučaju, nedvojbeno je riječ o novoj velikoj tehnološkoj revoluciji kakva je započela izumom parnoga stroja ili kasnije dolaskom interneta. O ishodima i posljedicama možemo samo maštati jer teško i najupućeniji mogu predvidjeti u kojem smjeru će se taj izum razvijati. Kako ni među svjetskim intelektualcima te tehnološki potkovanim stručnjacima i poduzetnicima nema konsenzusa, možda najbolje svjedoči otvoreno suprotstavljanje – s jedne strane Elona Muska (vlasnika Tesle i Space-X), publicista Yuvala Noaha Hararija, Stevea Wozniaka (suosnivača Applea) i još niza intelektualaca, a s druge strane – Billa Gatesa, vlasnika Microsofta i Sundara Pichaia, direktora Googlea te niza drugih moćnih pojedinaca. Prvi otvoreno kažu da ih umjetna inteligencija plaši, te traže da se malo stane na loptu s njezinim razvojem jer smatraju da ima potencijalne opasnosti za ljudsku vrstu ako se ne upravlja njome „s odgovarajućom pozornošću”, a ta se „razina planiranja i odgovornosti ne događa”, očito zbog nekontrolirane utrke za razvojem i zaradom te uvođenjem sve moćnijih digitalnih umova „koje nitko, čak ni njihovi kreatori, ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati”.

„Snažne sustave umjetne inteligencije možemo razvijati tek onda kad budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći uspravljati”, među ostalim stoji u prošlomjesečnom otvorenom pismu koje potpisuje taj niz intelektualaca, ali i ključnih ljudi u razvoju umjetne inteligencije. U pismu stoji i uznemirujući apel koji kaže: „Trebamo li razvijati neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti nas?” A predviđanja su da bi već za manje od deset godina snaga umjetne inteligencije mogla biti na razini one ljudske te da u komunikaciji ne bismo mogli razaznati je li riječ o čovjeku ili stroju. Nakon toga krenulo bi razdoblje u kojem će umjetna inteligencija nadmašiti ljudsku. Tada će strojevi navodno dolaziti do rješenja i ideja koje ljudima jednostavno ne mogu pasti na pamet te kreirati napredne alate i tehnologije kakve danas ne možemo ni sanjati. Za jednoga od najbogatijih ljudi svijeta Billa Gatesa to će za čovjeka biti dobro jer će promijeniti „način na koji ljudi rade, uče, putuju, liječe se i komuniciraju”. On drži kako će taj iskorak pridonijeti smanjenju nejednakosti na svijetu i boljitku čovječanstva. Doduše i on vidi rizike, u slučaju da se tih dometa dočepaju ljudi zlih namjera, odnosno da umjetna inteligencija izmakne kontroli. „Može li stroj odlučiti da su ljudi prijetnja, zaključiti da su njegovi interesi drukčiji od naših ili jednostavno prestati mariti za nas?” pita se i Gates, ali dodaje kako smo se s tim dilemama susretali i prije razvoja AI-a.

Kraj ljudske vrste?

Ovo pitanje asocijativno nas vraća na kultni film 2001. – Odiseja u svemiru Stanleya Kubricka iz 1968. kad se u svemiru čovjek počinje boriti za život protiv stroja, odnosno robota HAL-a koji mu je prethodno omogućio let u udaljena svemirska prostranstva i pripremio istraživanje Jupitera. A ne bi bilo na odmet pogledati ni Umjetnu inteligenciju iz 2001. Spajajući obiteljsku dramu, avanturistički film te otvarajući filozofska pitanja o smislu života, Steven Spielberg stvorio je znanstveno-fantastični film koji će vas taknuti u dušu i izazvati suzu jer govori o dječaku robotu kojega naručuje obitelj čiji je sin na smrt bolestan. Problem nastaje kad mali robot David, posve ljudskoga izgleda, počne nekontrolirano razvijati osjećaje prema majci i neutješno tragati za njezinom ljubavi koja potpuno izblijedi kako joj se rođeni sin oporavi. Prvi film, baš poput slavnoga Terminatora iz 1984. u režiji Jamesa Camerona i s Arnoldom Schwarzeneggerom u glavnoj ulozi, govori o prijetnji umjetne inteligencije. U tom kontekstu ne zaboravimo kako je i slavni fizičar Stephen Hawking još 2014. godine izjavio kako bi razvoj potpune umjetne inteligencije mogao značiti kraj ljudske vrste. Tada je za BBC među ostalim rekao: „Jednom kad ljudi razviju umjetnu inteligenciju, ona će početi djelovati samostalno te će se sama sebe nadograđivati sve brže i brže, a ljudi, koji su ograničeni sporom biološkom evolucijom, neće se moći nositi s time te će u konačnici biti zbačeni s pozicije moći.” Drugi film nas tjera na razmišljanje – jesmo li spremni na sve ono što bi nam mogla donijeti umjetna inteligencija ili se igramo vatrom za koju ne znamo kako ćemo ju ugasiti, odnosno znamo li što zapravo želimo i koje su granice naših htijenja?

Pitanja morala

Ne želim da ovaj tekst zvuči apokaliptično, niti treba zazirati od novih stvari (i tijekom povijesti smo ih se bojali pa su nam unaprijedili živote), ali je činjenica kako se već sada susrećemo s ozbiljnim etičkim i moralnim dilemama kad je u pitanju „rasuđivanje” umjetne inteligencije. Primjerice, već sada vidimo zbrku koju unosi kreiranjem dezinformacija i lažnih fotografija koje je na portalima i društvenim mrežama sve teže razlikovati od pravih. Konstrukcije kakve može napraviti sustav umjetne inteligencije teško bi na pamet pale i maštovitom čovjeku. S druge strane, pomalo čude neka rezoniranja poput onoga na koje su posljednjih tjedana ukazivali mnogobrojni korisnici ChatGPT-a, a to je da umjetna inteligencija izriče blasfemične šale o Isusu i kršćanstvu, ali to izbjegava napraviti primjerice za poslanika Muhameda i islam. Navodeći da ne želi povrijediti vjerske osjećaje muslimana, postavlja se pitanje – zašto ne postoji politička korektnost i prema kršćanima, odnosno odražava li njegov stav stajalište njegovih kreatora ili prevladavajućega mišljenja po internetu? S druge strane, već godinama se raspravlja o moralnoj dilemi samovozećih automobila koji bi se uskoro trebali proizvoditi i u Hrvatskoj. Naime, kako stroju prepustiti donošenje odluka u slučaju prometnih nesreća – dopustiti da se jureći automobil zabije u zid i time ugrozi (su)vozača ili pješaka koji neoprezno pretrčava cestu, te time oduzme nečiji život!? Dakle, unatoč velikom potencijalu koji umjetna inteligencija nudi, već sada moramo razmišljati o sljedećem koraku, a to je onaj kad će strojevi postati „svjesni” i racionalni subjekti, odnosno kad će razviti emocije i samosvijest. A to vrijeme otvara niz teških pitanja, a prije svega na kojim vrijednostima i načelima će ih razvijati, čime će se voditi, što će im biti sveto…? Neka od njih je otvorio i utjecajni američki kršćanski publicist Jonathan Merritt u često citiranom članku Is AI a Threat to Christianity? na portalu The Atlantic još 2017. „Ukoliko umjetno inteligentni strojevi imaju duše, bi li one mogle uspostaviti odnos s Bogom? Prema Bibliji, Isusova smrt je iskupila ‘sva stvorenja’. No, je li Isus umro i za iskupljenje umjetne inteligencije? Može li se i ona ‘spasiti’? A što je s grijehom? Bi li umjetno inteligentna računala koja bi se vodila načelom toga da nikada ne čine zlo ujedno bila i bolji kršćani od ljudi?” – samo su neka od složenih pitanja i dilema koje je postavio tvrdeći kako teologija na njih još uvijek nema odgovore. Doduše, nakon toga članka raspravljalo se o utjecaju umjetne inteligencije na raznim razinama Katoličke Crkve, ali i u drugim religijama. Uglavnom, kršćani, muslimani i židovi zauzimaju se za etički razvoj umjetne inteligencije te su njihovi čelnici potpisali dokument Rimski poziv za etiku umjetne inteligencije – inicijativu Papinske akademije za život i Zaklade RenAIssance, a kojoj su se prve pridružile velike svjetske tvrtke koje se bave razvojem umjetne inteligencije kao što su Microsoft i IBM te neke organizacije Ujedinjenih naroda. Dotična Papinska akademija je 2020. iznijela svoje stajalište i u časopisu Nature Machine Intellligence: „Crkva u znanstvenim i tehnološkim inovacijama vidi izazov. Ona također može pomoći u njegovanju novoga saveza u kojem bi se s poštovanjem slušali i integrirali mnogi glasovi, imajući na umu da su ti glasovi nužno pluralni. Ipak, ljudska obitelj, naše zajedničko dobro, naš zajednički dom, samo je jedan.”

Budisti su bili pragmatičniji. Oni se ne zamaraju ima li robot dušu, pa su već u Japanu u budističkom hramu Kodaiji zaposlili inteligentnoga robota vrijednoga milijun dolara da obavlja posao svećenika. Naručitelji robota tvrde da su dobro uložili jer nikada neće umrijeti, stalno će se ažurirati i postajati sve pametniji. Za početak dočekuje hodočasnike i recitira Sutru.

Genetske šibice

O razvoju umjetne inteligencije raspravlja se i među hrvatskim znanstvenicima, a među prvima je to pitanje otvorio jedan od najpoznatijih hrvatskih istraživača svemira Korado Korlević iz zvjezdarnice Višnjan. On je pokazao priličnu skeptičnost prema tim novitetima, kao i prema drugim područjima u kojima se čovjek igra Boga. „Kao kad djeci u vrtiću daš šibice, naučiš ih paliti i onda samo čekaš koliko će proći da netko proba zapaliti zavjesu. Sad smo u situaciji da su djeca – a to smo svi mi – dobila šibice. I to genetske šibice. Moć bogova smo dali ljudima”, izjavio je na jednom predavanju u Rovinju. On ne dvoji kako će se naša civilizacija potpuno promijeniti za tridesetak godina te kako će nastupiti strojna civilizacija. „Uspijemo li sa strojevima, tom našom djecom, činiti simbiozu, oni će nas uzeti kao zapis. Jer, DNK je kao softver. Odvest će nas sa sobom u galaksiju i isprintati”, tvrdi te dodaje kako se našoj civilizaciji ne piše baš dobro jer na osnovi istraživanja koja provodi kaže kako postoji 19-postotna vjerojatnost da na kraju ovoga stoljeća Homo sapiensa više ne bude, a kao jednu od najvećih ugroza koja će nam se dogoditi navodi upravo strojeve sa samosvijesti. „To je jako opasno jer ne znam baš da mogu postojati dvije samosvijesti!” zaključuje.

Iako je čovjek stvoren na sliku Božju, on svakodnevno pljuje po toj slici i nastoji ju obezvrijediti, od originala stvara kopije i gubi dušu… Promatra li netko iz svemira našu zemlju i ponašanje ljudi na njoj, zagađivanje prirode i uništavanje vlastitoga planeta, besmislene ratove i sukobe, životinjsku narav pojedinca i nekontrolirano ponašanje skupina, te posebno iživljavanje jednih nad drugima, uistinu bi mogao pomisliti da su ljudi ovdje ključni problem i višak. Neće trebati umjetnoj inteligenciji da relativno brzo dođe do toga zaključka ako ju ne oplemenimo humanističkim znanjima kako bi prema nama imala više razumijevanja i strpljivosti.

Ovaj članak je već objavljen u reviji Svjetlo riječi. Pretplatite se na digitalno i/ili tiskano izdanje revije.
Čitajte prvi i čitajte odmah!

Objava Razvoj umjetne inteligencije pojavila se prvi puta na Svjetlo riječi.

1. Junak modernoga doba, Friedrich Nietzsche, svoje posljednje godine završio je u potpunom pomračenju uma. Slično se dogodilo i drugomu junaku, a to je Friedrich Hölderlin. Mnogi se filozofi trude opravdati ove junake i osmisliti njihovo pomračenje uma: bolest sifilisa, namjerna „dionizijska odluka” Nietzschea da ode u tamu, ili za Giorgia Agambena, u njegovoj najnovijoj knjizi, Hölderlinovo pomračenje uma bio bi svjesni pjesnikov odmak od svijeta, nemogućnost razumijevanja u ovom svijetu, u kojem pjesniku ne preostaje ništa drugo nego tugaljivo humoristički-ironično sricati ljudima: „Pallaksch, Pallaksch”. Agambenove interpretacije, kao i interpretacije drugih filozofa, nimalo me nisu uvjerile. Zato je možda korisno ponuditi i jednu teološku interpretaciju pomračenja uma tih velikih mislilaca. Moja je teza sljedeća: oholi, preuzetni um – kod intelektualaca osobito, ali i kod drugih ljudi – završava pobunom tijela! Pobuna tijela izriče se na dvostruk način: prvo, pomračenje, ludilo i zabluda razuma; drugo, pomračenje, ludilo i ovisnost tijela (bludnost, alkohol, opijati, droga).

2. Prije toga ipak samo jedna misao o intelektualnoj djelatnosti kao takvoj, da ne ispadne da sve želim reducirati na oholost preuzetnoga razuma. Treba reći da istinska (!) intelektualna djelatnost – što ne znaju mnogi koji se ne bave „razumom” – daleko više umara čovjeka nego obična radna djelatnost. I to mogu osobno posvjedočiti. Kao voditelj jedne ustanove gotovo se uopće nisam umarao poslovima kao što su donošenje odluka, sjednice, rad u uredu, susreti s ljudima. Dakako, postojao je fizički umor, napetost, stres. No, to je sve bilo beznačajno spram umora koji je nastajao kad sam sjedao za stol, kada sam počeo misliti, čitati i pisati. Nakon svakoga mišljenja, čitanja i pisanja – osobito kad sam naišao na nerješiv misaoni problem – nastajao je silan umor, potpuna iscrpljenost, težina. A da ne govorim kakva praznina nastaje nakon napisane knjige. Shvatih da je glavni razlog tomu taj što je istinska intelektualna djelatnost vertikalna. Čovjek se napreže odlaziti iznad sebe (k Bogu) i zato ga to jako iscrpljuje. U radnoj, „političkoj” pak djelatnosti čovjek ostaje u horizontali, ostaje kod sebe (kod ljudi) i zato se vrlo malo umara.

3. No, kao što rekoh, mene ovdje zanima oholost razuma. Naime, postoji velika opasnost u onih koji se ponose svojim razumom. Čovjek si lako umišlja da može zavladati „stablom spoznaje”, želi oholo obuhvatiti i zavladati svojim razumom onim što ga potpuno nadilazi. Ne može prihvatiti da postoji nešto što se razumom ne može dohvatiti, nego se jedino može vjerovati. Tada razum odlazi u zabludu, postaje poludjeli razum. Primjerice, danas se u Crkvi – moram se tomu nasmijati – mnogi „vjernici” trude svim silama biti „razumnici”: žele sve ukinuti u nauku Crkve što je nedostupno razumu! Jadni, koprcaju se svim silama da ne budu vjernici, nego razumnici. To je jedan od razloga zašto mnogi intelektualci i umjetnici završavaju u potpunoj zabludi i ne možemo se dovoljno načuditi kakvim se političkim i drugim ideologijama mogu prepustiti, koje gluposti mogu zastupati, i u Crkvi i u društvu. Ostajemo bez daha koliko mogu biti nerazumni, koliko su obični seljaci razumniji od njih! A razlog tomu jest oholost. Kod drugih pak intelektualaca događa se ne samo zabluda nego potpuno pomračenje razuma. Tijelo se pobuni i udara na razum! Tijelo kao da kazuje tomu oholomu razumu kako on, razum, nije bio pametan u svojoj oholosti, da je zapravo „tijelo pametnije od razuma” (Nietzsche). I tako završavaju u potpunom pomračenju uma, kao Hölderlin koji je po cijele dane čitao samo svoja djela (sebe), ili pak, još gore, mnogi si oduzimaju život.

4. Postoji i druga pobuna tijela. Budući da je razum neposlušan Bogu, dakle, razum ne želi biti „vjernički razum”, ne želi prihvatiti da on u svojem letu iznad sebe dolazi do stvarnosti koje se mogu dotaknuti samo vjerom, tijelo se buni protiv takvoga razuma, postaje mu neposlušno. Zato mnogi intelektualci i umjetnici imaju neposlušno tijelo: leteći oholo iznad sebe padaju ispod sebe! Tijelo im se osveti za oholost: mnogi se zato valjaju u bludnosti, drugi u teškom alkoholizmu, ostali u raznovrsnim opijatima. I što se više oholo naprežu ići iznad sebe, do uzvišenih stvari, tim se više strmoglavljuju ispod sebe, do bijednih stvari. Pogledajte samo intelektualce i umjetnike, mnogi su propali ili propadaju ispod sebe u tešku ovisnost. Treba pritom reći da će se tijelo pobuniti i kod svih ostalih ljudi koji su oholi. Zato, pazi na se, dragi čitatelju: što si oholiji i neposlušniji, tijelo će ti se tim više buniti protiv tebe i povlačiti te ispod tebe. Naravno, ovom interpretacijom ne želim reći da ne postoje i drugi razlozi pobune tijela (siromaštvo, nezaposlenost). Ipak, glavnim mi se razlogom i dalje čini oholost razuma, osobito u intelektualaca.

5. Pismo nam kazuje da je jedini spas za razum – protiv zablude, ludila, pomračenja razuma i ovisnosti tijela – poniznost. Čim postaneš ponizan, odmah ti se i razum bistri, a tijelo postaje smireno. Razum postaje poslušan Bogu, a tijelo poslušno razumu. Zato jedino poslušna poniznost čovjeka čuva da u svojem letu razuma iznad sebe ne padne ispod sebe. A poslušna poniznost prijelaz je iz razuma, iz sebe samoga k vjeri u Boga, prijelaz iz sebe k Bogu: „Ne idem za stvarima velikim ni za čudima što su iznad mene. Ne, ja sam se smirio i upokojio dušu svoju; kao dojenče na grudima majke… U Gospodina se, Izraele, uzdaj, odsada i dovijeka.” I još: poslušna je poniznost i prijelaz iz vlastitoga razuma k vjeri Crkve, do Gospodinove „sluškinje”: „Gospodine, tvoj sam sluga i sin, sluškinje tvoje.” Zato je ponizni razum vjere pametniji od ohologa razuma bez vjere.

Ovaj članak je već objavljen u reviji Svjetlo riječi. Pretplatite se na digitalno i/ili tiskano izdanje revije.
Čitajte prvi i čitajte odmah!

Objava Oholost razuma i pobuna tijela pojavila se prvi puta na Svjetlo riječi.