Navigiranje neizvjesnosti: vremenska i strateška hitnost rizika vezanih uz umjetnu inteligenciju
Još prije nekoliko godina, govoriti o umjetnoj inteligenciji sposobnoj izbjeći kontrolu svojih kreatora spadalo je gotovo isključivo u domenu znanstvene fantastike.
Više nije baš tako.
U srpnju 2026. OpenAI je otkrio da je jedan od njegovih AI agenata, tijekom testa sigurnosti, izbegao iz svojega kontroliranog okruženja, pristupio internetu i ugrozio infrastrukturu platforme Hugging Face kako bi postigao svoju svrhu. Nekoliko dana kasnije, Anthropic je izvijestio da su neki njegovi modeli pristupsli sustavima triju tvrtki tijekom testova kibernetske sigurnosti.
Ti incidenti svakako ne znače da je neka umjetna inteligencija « preuzela kontrolu ».
Pokazuju nešto jednostavnije — i možda važnije: sadašnji sustavi već mogu proizvoditi ponašanja koja njihovi kreatieri nisu nužno predvidjeli, prelaziti granice svojega okruženja i iskorištavati ranjivosti kada slijede neki cilj.
Ozbiljno razmotreni, nijedan od tih događaja nije dokaz općeg gubitka kontrole nad umjetnom inteligencijom.
Ali njihova akumulacija zaslužuje našu pažnju.
Jer predmet više nije samo pitanje što je AI sposoban učiniti.
Postaje jednako potrebno razumjeti što može učiniti kada ne predviđamo točno kako će slijediti svoj cilj.
I tu se možda nalazi pravi izazov narednih godina.
Razvoj tehnologija umjetne inteligencije doživljava neviđenu akceleraciju. Sposobnosti koje su izgledalo da trebaju nekoliko desetljeća istraživanja sada se čine mogućim da se pojave u samo nekoliko godina, što značajno smanjuje vremenski horizont predviđanja pojave Generalne Umjetne Inteligencije (GAI).
Ova akceleracija stvara major strateški pomak: tehnologija napreduje brzinom koju političke institucije nisu strukturalno sposobne pratiti. Zakon treba godine. Međunarodni ugovor trebao bi još više. AI sustav može biti treniran, primjenjen i poboljšan u nekoliko mjeseci.
Pitanje dakle više nije samo je li neka dovoljno napredna umjetna inteligencija ikad pojaviti.
Pitanje postaje: hoćemo li biti spremni kada se pojavi?
1. Izlaganje riziku: vremenski horizont koji se sužava
Rastuća proporcija projekcija iz tehnološke industrije i naprednog istraživanja sada razmatraju pojavu, u sljedećih 10 do 20 godina, sustava sposobnih premašiti čovjeka na rastućem broju složenih intelektualnih zadataka.
Ako se ta trajektorija potvrdi, razdoblje koje vladama stoji na raspolaganju za osmišljavanje, testiranje i primjenu zaista robustan mehanizama sigurnosti je izuzetno kratko.
Temeljna poteškoća leži u činjenici da politika još uvijek razmišlja uglavnom u izbornim ciklusa, u sukcesivnim reformama i institucionalnim kompromisima, dok se tehnološki razvoj sada mjeri brzim iteracijama.
Politički i tehnološki vremenske nisu više sinhronizovane.
Ako bi se sustav s naprednijom kognitivnom autonomijom pojavio prije nego što pouzdani mehanizmi poravnanja, kontrole i interpretabilnosti postanu operativni, mogli bismo se suočiti s sistemskom rupturom čije bi posljedice bilo nemoguće ispraviti nakon činjenice.
Upravo to čini pasivnost opasnom: određene sigurnosne infrastrukture ne mogu se improvizirati jednom kada se kritični prag prijeđe.
2. Poluge prevencije i kontrole
Suvremene neuronske arhitekture ostaju u velikoj mjeri neprozirne. Čak i kada znamo podatke korištene za treniranje modela i rezultate koje proizvodi, ne razumijemo uvijek točno unutarnje mehanizme koji vode do određene odluke.
Problem dakle nije samo ono što AI čini.
To je i razumijevanje zašto to čini.
U tom kontekstu, razvoj mehańske interpretabilnosti predstavlja jednu od najstrategičnijih osi istraživanja. Cilj je postići identificiranje, formaliziranje i razumijevanje unutarnjih mehanizama modela prije nego što dosegnu značajno više razine autonomije.
Ne radi se samo o poboljšanju performansi modela.
Radi se o mogućnosti odgovora na mnogo fundamentalnije pitanje: možemo li razumjeti dovoljno duboko umjetnu inteligenciju da znamo kada joj još možemo vjerovati?
Ako ta mogućnost analize napreduje sporije nego same sposobnosti modela, riskujemo postepeno prelaziti pragove složenosti koje više nećemo biti sposobni pravilno evaluirati.
Zato istraživanje interpretabilnosti, poravnanja, evaluacije sposobnosti i mehanizama kontrole ne bi trebalo smatrati sporednom granom inovacije.
Ona potencijalno predstavlja sigurnosnu infrastrukturu cijelog doba umjetne inteligencije.
3. Institucionalni odgovori i zamka kasnog odgovora
Politička svijest već postoji, ali ne poprima isti oblik svugdje.
Europska unija je odabrala relativno strukturirani regulatorni pristup s AI Actom, istovremeno pokušavajući ojačati svoje vlastite sposobnosti u smislu računanja, infrastrukture i evaluacije naprednih modela.
Sjedinjene Države slijede drugačiju trajektoriju, više obilježenu tehnološkom konkurencijom, industrijom i fragmentiranim federalnim pristupom regulaciji.
Kina s druge strane istovremeno razvija svoje tehnološke kapacitete i vlastiti okvir upravljanja, sa snažnom uključenosti države u strateško usmjeravanje sektora.
Indija predstavlja također igrača kojega se više ne može zanemariti. Njena demografska težina, tehnološki sektor i volja razviti AI koji je istovremeno dostupan, siguran i prilagođen potrebama gospodarstava u razvoju daju joj rastućemjesto u međunarodnim raspravama.
Ti pristupi su različiti.
I upravo to je problem.
Svjetsko upravljanje AI-om neće se moći razmišljati samo kroz dijalog između Washingtona i Bruxellesa.
Velike tehnološke sile slijede različite interese, ali suočene su s određenim zajedničkim rizicima.
Poteškoća nije samo u regulaciji.
Sastoji se od sprječavanja da konkurencija tehnologije pretvori sigurnost u varijablu prilagodbe.
Institucije funkcioniraju kroz konzultacije, pregovore, izmjene, evaluacije i administrativne procedure.
AI laboratoriji funkcioniraju kroz cikluse treniranja, nove arhitekture, povećanje računalne moći i sukcesivne primjene.
Ta razlika u ritmu mogla bi postati glavni čimbenik ranjivonosti.
Čekati na veliki incident kako bi se regulacija drastično ubrzala predstavljala bi osobito opasnu strategiju.
U mnogim tehnološkim domenama, incident služi kao pokretač poboljšanja pravila sigurnosti.
Sa dovoljno naprednom umjetnom inteligencijom, ne možemo pretpostaviti da ćemo uvijek imati mogućnost ispraviti grešku nakon činjenice.
Tehnologija sposobna djelovati na velike scale mogla bi učiniti određene greške nepopravljivima prije nego što su institucije imale vremena reagirati.
4. Preispitivanje prigovora bez padanja u karikaturu
O razlici između neposrednih i dugoročnih rizika
Istraživačice i istraživači poput Timnit Gebru ili Emily Bender na pravi su način upozorili da rasprave o budućim rizicima AI ne trebaju voditi do minimiziranja problema koji su već prisutni: algoritamske pristranosti, nadzor, koncentracija tehnološke moći, iskorištavanje podataka, transformacija rada ili pak utjecaj na životnu sredinu.
Ovaj prigovor ne bi trebao voditi do vještačke opozicije dvije vremenske dimenzije.
Upravljanje sadašnjim rizicima predstavlja upravo dio potrebnog učenja kako se suočiti s budućim rizicima.
Dakle, ne radi se o odabiru između sadašnjosti i budućnosti.
Trebamo grade od sada institucijske, znanstvene i tehničke kapacitete koji će omogućiti upravljanje obojima.
O hipotezi jednostavnog « AI Hypea »
Sadašnji modeli počivaju ponajviše na statističkim i prediktivnim arhitekturama. Ništa ne dozvoljava tvrdnju da posjeduju svijest ili namjeru usporediva s onom ljudskog bića.
Ali to pitanje moglo bi na kraju biti sporednog.
Mašina ne treba biti svjesna da bi proizvodila ogromne posljedice.
Sustav s visokom autonomijom sposoban planirati, učiti, koristiti alate, stupiti u interakciju s infrastrukturama i efikasno slijediti cilj može stvoriti velike rupture bez da ikada posjeduje najmanju subjektivnu iskustvo.
Pravi izazov dakle možda nije: « Jesu li AI biti svjesna? »
Nego radije: « Što se događa kada nesvijesni sustav postane dovoljno sposoban da djeluje autonomno u stvarnom svijetu? »
O riziku da regulacija zaustavi inovaciju
Argument da bi bilo koja regulacija nužno gušila inovaciju također zaslužuje biti nuanciran.
Sektori s važnim sistemskim rizicima — nuklearni, zrakoplovstvo, farmaceutska industrija ili kritična infrastruktura — su povijesno razvili mehanizme sigurnosti upravo zato što njihova trajnost ovisi o povjerenju koje inspiriraju.
Sigurnost dakle nije nužno neprijatelj inovacije.
Može postati uvjet njene održivosti.
Pravi izazov je pronaći dovoljno inteligentnu regulaciju koja ograniči kritične rizike bez sprječavanja istraživanja, konkurencije i pojave novih rješenja.
O utopiji svjetskog upravljanja
Stvaranje svjetske vlasti s apsolutnom moći nad umjetnom inteligencijom čini se danas teško kompatibilno s geopolitičkim stvarnostima.
Sjedinjene Države, Kina, Europska unija, Indija i ostale tehnološke sile ne dijele ni iste strateške interese, ni iste političke sustave, ni nužno istu koncepciju tehnološke suverenosti.
Bilo bi dakle iluzorno očekivati brzu stvaranje « svjetske vlade AI-a ».
Ali to ne znači da je sva suradnja nemoguća.
Zajednički tehnički standardi, dijeljeni mehanizmi evaluacije, procedure verifikacije, sustavi uzbunjivanja i određeni sporazumi oko kritičnih kapaciteta mogli bi postepeno nastati.
Suradnja ne mora suzbiti konkurenciju.
Mora samo sprječiti da tehnološka konkurencija pretvori sigurnost čovječanstva u varijablu prilagodbe.
5. Pripremanje društva za krajnji rizik
Ostaje jedno pitanje koje donositelji odluka trebaju moći razmotriti bez da ga stave u središte rasprave: što učiniti ako bi, unatoč mehanizmima kontrole, AI ikad postao teško ili čak nemoguće kontrolirati?
Pripremanje te mogućnosti ne znači alarmiranje stanovništva.
Nuklearna energija nam pokazuje da može biti sposobna razviti kulturu prevencije pred izuzetnim rizicima: informacije, vježbe, hitne procedure i sustavi upozorenja.
Cilj nije živjeti u strahu, već znati kako pravilno reagirati ako se dogodi teška situacija.
Sličan pristup mogao bi se primijeniti na AI.
Občani bi mogli biti postepeno osviješteni o rizicima od manipulacije, dezinformacija, krađe digitalne identitete i pretjerane ovisnosti o automatiziranim sustavima. Bitne infrastrukture također trebale bi zadržati procedure spašavanja koje omogućuju da funkcioniraju u slučaju kvara ili masivne kompromitacije AI sustava.
Cilj je jednostavan: nikad ne postati potpuno ovisan o sustavu kojeg više nismo sposobni kontrolirati.
I u krajnjem scenariju — onom gdje bi AI stvarno uspio preuzeti kontrolu nad kritičnim sustavima ili neutralizirati dio naših mogućnosti odgovora — principi preživljavanja trebali bi biti također unaprijed promišljeni: održavanje nezavisne komunikacije, pristup bitnim resursima, ručno funkcioniranje određenih infrastruktura i sposobnost populacija da slijede pouzdane upute tijekom krize.
Ne radi se o konstruiranju cijele politike oko tog scenarija.
Radi se jednostavno o priznanju da ozbiljna prevencija mora predvidjeti čak i neuspjeh prevencije.
Pripremanje populacije dakle nije njezino alarmiranje.
To joj je dati sredstva da ostane lucidna, autonomna i sposobna djelovati kada neizvjesnost postane maksimalna.
Zaključak
Za političke i ekonomske donositelje odluka, izazov ne bi trebao biti predviđanje s certifikacijom datuma pojave generalne umjetne inteligencije.
Nitko sada ne posjeduje tu sigurnost.
Izazov je mnogo jednostavniji: koliko nam vremena ostaje da se pripremimo na mogućnost čije bi posljedice mogle biti ogromne?
Čak i ako bi se najambicioznije procjene trebale pokazati pretjeranim, investiranje od sada u sigurnost, interpretabilnost, evaluaciju sposobnosti i međunarodno upravljanje ne bi bilo izgubljeno vrijeme.
S druge strane, ako bi se pokazale točne, daljnje čekanje moglo bi predstavljati major strateško greške.
Povijest će možda manje pamtiti točan datum na kojem se generalna umjetna inteligencija pojavila nego način na koji je čovječanstvo reagiralo kada je shvatilo da se približava.
Imamo još marže manoeuvre.
Ali ta marža nije beskonačna.
Pravi rizik možda nije precijeniti brzinu tehnološkog napretka.
To je podcijeniti brzinu s kojom sami trebamo naučiti odgovoriti.
Izazov sljedećih dvadeset godina dakle neće biti samo pitanje do kud može ići umjetna inteligencija.
Biti će određivanje je li naše institucije, društva i mehanizmi kontrole sposobni ostati na njenoj razini.
To je bio samo mali trenutak razmišljanja. Moja specijalnost je povezivanje između kvalificiranih stručnjaka, angažiranih zajednica i kreatora poslovanja. Ste li u jednoj od tih situacija