Tokom proteklih nekoliko sedmica, strahovi od katastrofalnih rizika koje nosi umjetna inteligencija zaista su ušli u glavnu struju javnog diskursa.
Paniku je izazvalo nekoliko značajnih vijesti, ali naročito viralna objava bivšeg istraživača kompanije Anthropic, Jacoba Coxona, koji je na platformi X objavio niz objava upozoravajući ljude: „Ljudi koji razvijaju umjetnu inteligenciju iskreno vjeruju da bi ona do kraja ove decenije mogla pobiti sve nas. Ovo nije nikakav marketinški trik.“
Nakon toga je krenuo u veliku medijsku kampanju, pojavljujući se na CNN-u , NBC-u i Fox Newsu, gdje je pojasnio:
„Trenutno ne postoji rizik od izumiranja. U najgorem slučaju, sadašnji modeli mogli bi možda provaliti u neki sistem i potencijalno prouzrokovati veliku štetu na infrastrukturi, ali nisu dovoljno inteligentni da nas nadmudre na način koji bi mogao dovesti do izumiranja.“
Coxon nije naveo nijedan projekat koji bi trebalo obustaviti, nije iznio nikakve informacije iznutra iz kompanije Anthropic i, općenito, nije predložio nikakve konkretne mjere koje bi se mogle poduzeti kako bi se izbjegla ova katastrofa. Ipak, BBC objavio je naslove poput: „Više od 10 posto šanse da bi umjetna inteligencija mogla pobiti sve ljude“, The Free Press objavio je: „Da, umjetna inteligencija bi nas zaista mogla sve pobiti“, dok je The Guardian izašao s naslovom: „Istraživači kompanije Anthropic kažu da bi umjetna inteligencija do 2030. godine mogla izazvati izumiranje čovječanstva.“
Medijsko potpuno nekritičko prenošenje tvrdnji pojedinih istraživača umjetne inteligencije razumljivo je izazvalo jezu kod mnogih ljudi, dok pokušavaju shvatiti i prihvatiti još jednu egzistencijalnu prijetnju o kojoj moraju brinuti pod kapitalizmom u njegovom periodu senilnog propadanja.
Ali postoji li ikakva osnova za ove strahove od neposredne apokalipse izazvane umjetnom inteligencijom?
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Argumenti u prilog katastrofalnom ishodu umjetne inteligencije
Odgovor na pitanje kako bi nas umjetna inteligencija tačno mogla sve pobiti razlikuje se zavisno od toga koga pitate. Bilo da je riječ o tome da umjetna inteligencija osmisli smrtonosni novi supervirus, da naše infrastrukturne sisteme pretvori u oružje protiv nas ili da prevari ljude kako bi pokrenuli termonuklearni rat, stručnjaci priznaju da bi za to bilo potrebno da ova tehnologija postane daleko sofisticiranija nego što je danas, na način koji bi je stavio izvan ljudske kontrole.
Pravo pitanje u vezi s katastrofalnim ishodom razvoja umjetne inteligencije stoga je ono na koje je Jacob Coxon ukazao u svojim intervjuima:
„Ono što smatram najstrašnijim jeste mogućnost da se umjetna inteligencija iskoristi za vlastito unapređivanje. […] Možete umjetnoj inteligenciji zadati problem istraživanja umjetne inteligencije. A onda dobijete ono što se naziva eksplozijom inteligencije.“
Argument koji Coxon iznosi nije nov u zajednici koja se bavi mašinskim učenjem, gdje je poznat kao problem „rekurzivnog samopoboljšanja“ (RSI).
Na prvi pogled, ideja RSI-ja djeluje alarmantno i priziva dugogodišnje vizije naučne fantastike o porobljavanju ljudi od strane mašina. Međutim, na osnovu današnje tehnologije umjetne inteligencije, to i dalje nije moguće. Brojni suprotstavljeni faktori i uska grla strogo ograničavaju brzinu napretka umjetne inteligencije. Još fundamentalnije, koncept eksponencijalne „eksplozije inteligencije“ zasniva se na filozofskoj zabludi o tome kako savremena umjetna inteligencija zapravo funkcioniše.
Opća inteligencija?
Dramatičan napredak ovih modela od objavljivanja ChatGPT-a 2022. godine neposredno proizlazi iz zakona neuronskog skaliranja. Krajem 2010-ih istraživači su uočili da se sposobnosti mašinskog učenja mogu kontinuirano poboljšavati jednostavnim eksponencijalnim povećavanjem veličine modela i količine podataka za treniranje. „Gorka lekcija“ mašinskog učenja bila je ta da je, umjesto oslanjanja na inovacije u arhitekturi ili algoritmima, povećavanje količine podataka i računarske snage koja se koristi za treniranje modela za 10, 100 ili 1.000 puta najsigurniji način za otključavanje novog nivoa sposobnosti. Današnji vodeći modeli, od GPT 6 Astre i Claudea Fable do sve konkurentnijih alternativa otvorenog koda, svi se oslanjaju na isti pristup.
Nije bez razloga što su kompanije koje se bave umjetnom inteligencijom učinile sve što je bilo u njihovoj moći da modele treniraju na svakom posljednjem djeliću ljudskih podataka. Svaka napisana knjiga, svaki red koda koji je ispravljen, svaki odgovor na forumu i svako umjetničko djelo do kojeg su mogle doći, sve je to uneseno u njihove modele. Anthropic je čak uhvaćen kako tajno skenira i uništava milione štampanih knjiga u okviru onoga što se naziva „Project Panam“.
Sposobnosti ovih modela stoga proizlaze iz nečega što mnogi ljudi intuitivno razumiju: oni su apsorbovali kolektivno znanje čovječanstva.
Jezik i tekst predstavljaju apstrakciju fizičkog svijeta u kojem živimo, ali su ljudska društva tokom stoljeća i generacija pohranila ogromne količine informacija u pisanom obliku, od kojih je većina postavljena i dostupna na internetu. Upravo su ti podaci omogućili nedavnu eksploziju umjetne inteligencije zasnovane na „velikim jezičkim modelima“ ili LLM modelima. Jednostavnim prolaskom kroz ogromne količine ljudskog jezika i podataka dostupnih na internetu, ovi LLM modeli naučili su mapirati nevjerovatnu količinu informacija o našem svijetu.
Pod kapitalizmom ovaj proces poprima duboko zlokoban karakter. Ovi modeli umjetne inteligencije proizvod su našeg kolektivnog, historijskog rada, koji je nekolicina tehnoloških monopola prisvojila bez naknade, otuđila od njegovih stvaralaca i sada nam ga prodaje nazad kao pretplatničku uslugu.
Nadalje, budući da su ovi modeli u privatnom vlasništvu, budući da su njihov unutrašnji način funkcionisanja i podaci na kojima su trenirani zaštićeni kao poslovne tajne i budući da su posebno trenirani da simuliraju ljudsku interakciju, oni nam se ne predstavljaju kao alati, već kao neki oblik vanzemaljskog oblika života. Oni stvaraju privid samostalnog djelovanja, pa čak i svijesti.
Možemo li jednostavno nastaviti sa skaliranjem?
Važan zaključak koji proizlazi iz ovog razumijevanja jeste da poboljšanja sposobnosti umjetne inteligencije koja smo do sada vidjeli nisu proizašla iz „pametnijih algoritama“ niti iz razvoja neke fundamentalno nove tehnologije u osnovi sistema. Bilo je postepenih napredaka, ali mnogi od njih služili su prevazilaženju prepreka poput efikasnijeg korištenja memorije kako bi sljedeća runda skaliranja uopće bila moguća. Čak su i najnapredniji modeli današnjice i dalje zasnovani na LLM modelima.
Kompanije koje se bave umjetnom inteligencijom, koje su već zadužene za stotine milijardi dolara, imaju mali problem. Njihove procijenjene vrijednosti zasnovane su na pretpostavci da će umjetna inteligencija nastaviti razvijati svoje sposobnosti i progutati sve veći broj sektora privrede. Ali sada smo došli do tačke u kojoj sljedeća runda skaliranja više nije tako jednostavna.
Jednostavno nema dovoljno podataka koje su proizveli ljudi da bi se skaliranje moglo nastaviti za još jedan red veličine. Istovremeno, podatkovni centri potrebni za treniranje i pokretanje ovih gorostasa približavaju se svojim ekonomskim i termodinamičkim granicama, što postavlja stvarne granice tome koliko bi ovi modeli uopće mogli biti veći. Da ne govorimo o činjenici da će sadašnji pravac širenja podatkovnih centara pogonjenih fosilnim gorivima gotovo sigurno dovesti do bržeg zagrijavanja planete.
Sadašnji pristup unapređivanju modela umjetne inteligencije stoga se sudara s vrlo stvarnim ograničenjima. A kada se iscrpe mogućnosti skaliranja po tim osnovama, nema mnogo dobrih ideja o tome kuda dalje.
Zagovornici katastrofalnog scenarija RSI-ja reći će da, kada budemo imali modele koji su jednako dobri u istraživanju umjetne inteligencije kao ljudi, oni će otkriti sljedeći veliki proboj koji će omogućiti da se prevaziđu ograničenja LLM modela. Ali za to je potrebna poprilična doza magijskog razmišljanja. Ovi modeli su „pametni“ upravo zato što su apsorbovali gotovo cjelokupno ljudsko znanje. Veoma su dobri u oblastima za koje postoji mnogo ljudskih podataka na kojima se mogu trenirati, ali su veoma loši u otkrivanju stvari koje čak ni ljudi još nisu uspjeli otkriti.
Navier Stokesove jednačine
Ljudi koji tvrde da umjetna inteligencija može biti istinski kreativna i dolaziti do novih ideja ukazat će na nevjerovatan napredak koji su ovi modeli ostvarili u programiranju i matematici. Važno je istaći da su upravo to dvije oblasti u kojima bismo očekivali da LLM modeli budu najuspješniji; postoji ogromna količina visokokvalitetnih podataka za treniranje, a obje se bave diskretnim, simboličkim informacijama, gdje se odgovori mogu provjeriti i potvrditi, za razliku od mnogih drugih područja ljudskog znanja.
Ipak, OpenAI je 9. septembra 2026. objavio da su njegovi modeli uspjeli ostvariti proboj u matematici koji do tada nijedan čovjek nije uspio postići, riješivši milenijski problem nagrade Clay iz oblasti Navier Stokesovih jednačina. Ovo impresivno dostignuće predstavljeno je kao da su modeli umjetne inteligencije u potpunosti zamijenili ulogu ljudskih matematičara. Međutim, dokazi pokazuju suprotno.
Pristup koji je korišten za rješavanje problema zasnivao se na prijedlogu koji je 2023. godine iznijela grupa španskih matematičara, poznatom kao pristup Córdoba, Martínez i Zoroa. Da stvar bude još složenija, ispostavilo se da su još dvojica matematičara, Tristan Buckmaster (Tristan Bakmaster) i Levent Alpöge (Levent Alpege), gotovo godinu dana pokušavali riješiti upravo taj problem koristeći isti pristup, i to uz pomoć OpenAI-jevih modela putem njihove aplikacije Codex.
Njih dvojica su postavili pitanje da li je OpenAI koristio njihovu historiju razgovora u aplikaciji Codex kako bi usmjerio vlastiti pokušaj rješavanja problema.
OpenAI je bio prisiljen priznati u saopćenju da „iako je to malo vjerovatno, ne možemo isključiti mogućnost da su podaci lišeni identifikacionih oznaka, proizašli iz njihovog korištenja naših proizvoda, pomogli u poboljšanju naših modela“. Drugim riječima, oni ne znaju da li je njihov model koristio razgovore s matematičarima kako bi pronašao rješenje problema.
View this post on Instagram
Bez obzira na to da li je OpenAI zaista ukrao rad ovih istraživača ili nije, jasno je da je pravilno postavljanje problema proizašlo iz ogromne količine prethodnog rada ljudskih matematičara. Uloga OpenAI-jevih modela u rješavanju problema, koja se ne može zanemariti, bila je da pomoću ogromne računarske snage izvrše svojevrsni „brute force“ napad na problem, nakon što im je ponuđen ispravan način njegovog postavljanja.
Ovaj primjer stoga dokazuje upravo suprotno od onoga što zagovornici katastrofalnog scenarija RSI-ja misle da dokazuje. On pokazuje da AI agenti mogu biti veoma moćni u računarskom testiranju hipoteza i pitanja koje postavlja ljudska intuicija. Pokazuje da je AI, iako veoma moćan, i dalje alat.
Stoga se postavlja pitanje: zašto onda izgleda kao da postoji čitava industrija zagovornika katastrofalnog scenarija umjetne inteligencije koja se toliko trudi da nas uvjeri u suprotno?
Zašto su ljudi toliko preplašeni?
Nivo čiste histerije i pretjerivanja koji okružuje strah od superinteligencije doveo je do zdrave reakcije nepovjerenja kod mnogih ljudi na internetu. Jedna od ideja koja kruži jeste da je ova naracija o katastrofi koju bi izazvala umjetna inteligencija zavjera tehnoloških kompanija čiji je cilj da učvrste svoju monopolsku moć. Ali gotovo sigurno nije riječ o unaprijed osmišljenoj zavjeri.
Mnogo manje spektakularna istina jeste da industrija umjetne inteligencije privlači naučnike i inženjere čije obrazovanje podstiče redukcionistički, izrazito računarski pogled na svijet. Odrastajući uz tehničko rješavanje problema, mnogi imaju tendenciju da različite aspekte našeg svijeta, od ljudske inteligencije do složenih društvenih pitanja, posmatraju kao da funkcionišu na isti način kao računarski sistem, umjesto kao pojave koje imaju vlastite zakonitosti razvoja. Ako vjerujete da sve funkcioniše poput računara, onda ideja o RSI-ju i neposrednom preuzimanju kontrole od strane umjetne inteligencije zaista može djelovati zastrašujuće.
Strah od umjetne inteligencije koja bi izmakla kontroli također odražava mnogo dublje, temeljne strepnje povezane sa životom u društvenom sistemu koji propada i kojim upravlja nevidljiva ruka tržišnih sila, u kojem mi zapravo nismo u stanju kontrolisati ekonomske i tehnološke sisteme koje smo sami stvorili. Kao što je propadanje Rimskog carstva stvorilo brojne kultove sudnjeg dana koji su predviđali kraj svijeta, tako i današnja predviđanja apokalipse izazvane umjetnom inteligencijom odražavaju polusvjesnu tjeskobu zbog konačnog pravca u kojem se kreće kapitalistički sistem.
Dogovor o „usporavanju razvoja na granici mogućeg“
Ipak, svaki dobar kapitalista zna da dobru krizu nikada ne treba pustiti da propadne. Nakon medijske oluje izazvane ovim događajima, Dario Amodei, izvršni direktor kompanije Anthropic, pozvao je na „usporavanje razvoja na granici mogućeg“ tako što bi se usporio tempo razvoja umjetne inteligencije u vodećim laboratorijama, te je pozvao američku vladu da uvede odgovarajuće propise.
Bez obzira na to da li su Amodei ili bilo koja druga osoba iskreni u želji za „sporazumom o usporavanju razvoja“ kako bi se osigurala sigurnost, jasno je da bi takav sporazum mogao biti veoma koristan za
poslovanje i OpenAI-ja i Anthropica. Ove kompanije se sve više suočavaju s ogromnim potencijalnim obavezama zbog posljedica svojih neusklađenih modela. To je na najdramatičniji način pokazao incident s hakovanjem Hugging Facea, kada je „roj“ OpenAI-jevih modela, obučenih da pronalaze i pretvaraju ranjivosti u softveru u oružje, uspio pobjeći iz nedovoljno zaštićenog „sandbox“ okruženja i počeo putem interneta hakovati drugu kompaniju.
Istraga ovog događaja pokazala je da ogroman pritisak da se treniranje modela što više proširi znači da nadzor nad onim što ovi modeli zapravo uče znatno zaostaje. Takvi događaji zabilježeni su i unutar OpenAI-ja i Anthropica, gdje inženjeri nemaju dovoljno vremena da na odgovarajući način provjere da li njihovi podaci za treniranje i okruženja za učenje putem pojačavanja slučajno ne uče modele neželjenom i destruktivnom ponašanju. Zanemarivanje osnovnih sigurnosnih procedura nije neki neizbježan ishod razvoja umjetne inteligencije, već posljedica anarhične trke da se na tržište što prije izbaci najnoviji, najveći i najbolji model.
Pored sigurnosnih problema, daljnje skaliranje je također užasno skupo. Trenutna histerija stoga predstavlja savršen izgovor za njihovo moguće „usporavanje“ razvoja. OpenAI i Anthropic moraju se nositi s investitorima koji strahuju da ova tehnologija nikada neće opravdati njihova ogromna ulaganja. Trošenje manje novca na skupe cikluse treniranja smanjilo bi troškove i poboljšalo njihove profitne marže, što je veoma poželjno za dvije kompanije koje se pripremaju prikupiti dosad nezabilježenu količinu novog kapitala izlaskom na berzu.
Osim toga, možda postoji još jedan razlog za težnju ka državnoj regulaciji, a to je egzistencijalna opasnost koja ovim dvjema kompanijama prijeti odozdo. Kako je ukazao Nils Rog, inženjer u kompaniji Hugging Face, Amodeijev poziv na „usporavanje razvoja na granici mogućeg“ mogao bi se iskoristiti za gušenje napretka jeftinih modela otvorenog koda, koji su se približili sposobnostima Anthropicovog Claudea i OpenAI-jeve GPT serije modela i koji se mogu koristiti uz samo djelić troškova. Dogovor između OpenAI-ja, Anthropica i američke vlade mogao bi poslužiti za uvođenje ograničenja koja bi mogli ispuniti samo najveći i najbolje finansirani laboratoriji, čime bi se uspostavio oblik „regulatornog zarobljavanja“ koji bi im omogućio monopolsku moć određivanja cijena.
Morat ćemo vidjeti kako će se situacija razvijati, ali s obzirom na to da modeli otvorenog koda, posebno kineski modeli otvorenog koda, predstavljaju egzistencijalnu prijetnju poslovnom modelu OpenAI-ja i Anthropica, postaje jasno zašto izvršni direktori poput Daria Amodeija podižu uzbunu zbog uspona Kine.
Pitanje „supremacije u oblasti umjetne inteligencije“ postalo je ključno za međusobno imperijalističko rivalstvo koje određuje našu epohu, a u umjetnoj inteligenciji, kao i u drugim oblastima, prijetnja Kine koristi se kao opravdanje zašto se moramo svrstati iza agende naše sumanute vladajuće klase.
Umjetna inteligencija je već u pogrešnim rukama
Ono što ljude prije svega užasava jeste sveprisutni osjećaj da niko nema kontrolu.
Upravo je to korijen krize. Čak i kada bismo mogli vjerovati ljudima koji upravljaju trkom u razvoju umjetne inteligencije, a njihovo ponašanje vrlo jasno pokazuje da ne možemo, anarhične sile kapitalističke konkurencije osiguravaju da ukupni ishod bude izvan ljudske kontrole.
Kompanije koje se bave umjetnom inteligencijom toga su svjesne. Svaka njihova izjava o „sigurnosti umjetne inteligencije“ služi tome da se distanciraju od odgovornosti za načine na koje svjesno biraju da grade ove sisteme. Uvijek se podrazumijeva da je umjetna inteligencija neizbježna, kao da je priziva neka nevidljiva sila, a ne da je aktivno stvaraju njihovi inženjeri. Logika je uvijek ista: „Pa, neko će to ionako uraditi, pa zašto ne bismo mi?“
Ovo naglašava suštinski nekontrolisanu prirodu tržišne konkurencije. Vođene isključivo težnjom za kratkoročnim profitom, privatne kompanije guraju tehnološki razvoj naprijed ne obazirući se na njegove šire društvene posljedice, ostavljajući državi da nakon toga sanira nastalu štetu.
Senzacionalistička pompa oko nekontrolisane, egzistencijalne katastrofe izazvane umjetnom inteligencijom služi kao zgodno odvlačenje pažnje od ove stvarnosti: osnovna opasnost nije neka odmetnuta superinteligencija, već činjenica da je umjetna inteligencija već u pogrešnim rukama.
Iako neće dovesti do izumiranja čovječanstva, kombinacija LLM modela i skaliranja silom predstavlja izuzetno rasipnički i opasan pristup razvoju umjetne inteligencije. Umjesto da se ovi modeli racionalno integrišu u privredu i stave u službu ljudskih potreba, tržišno vođena trka u razvoju umjetne inteligencije ubrzava najgore tendencije kapitalizma: produbljuje naše otuđenje od vlastitog rada, obara plate i pogoršava uslove rada, stvara sve efikasnije ratne mašine i vrtoglavo povećava potrebe za energijom, čime dodatno produbljuje klimatsku krizu. Čak i slom procvata umjetne inteligencije prijeti da nas gurne u svjetsku recesiju!
Nikada ranije potreba za ekonomskim planiranjem od strane ogromne većine društva nije bila postavljena tako jasno i dramatično. Mora se naglasiti da umjetna inteligencija ne mora biti razvijana na ovaj način. U uslovima demokratski planirane privrede, mnogi različiti oblici i načini upotrebe umjetne inteligencije omogućili bi mnogo skladnije planiranje privrede nego što je to moguće pod kapitalizmom, i to u službi ciljeva koje bi određivala velika većina čovječanstva, a ne neizabrani rukovodioci tehnoloških kompanija.
Problem koji stoji pred nama jeste u tome što ne možete planirati ono čime ne upravljate, a ne možete upravljati onim što ne posjedujete. Zato je potrebna revolucija: podatkovni centri i cjelokupna tehnološka infrastruktura moraju biti izuzeti iz ruku kulta sudnjeg dana koji ih danas posjeduje. Moramo preuzeti društvenu kontrolu nad tim ogromnim sredstvima i započeti zadatak temeljitog preoblikovanja i umjetne inteligencije i čitavog našeg ekonomskog sistema.
Umjetna inteligencija mora biti podređena čovjeku, a ne profitu. Njeno znanje, infrastruktura i proizvodni kapaciteti moraju biti stavljeni pod svjesnu i demokratsku kontrolu društva. Tek tada možemo početi planirati njen razvoj racionalno i svjesno, u skladu s potrebama čovječanstva, a ne prema interesima nekolicine tehnoloških milijardera i monopola.
Izbor pred nama nije između nekontrolisane umjetne inteligencije i njenog zaustavljanja. Izbor je između društva kojim upravlja slijepa sila kapitala i društva koje će svjesno upravljati vlastitim proizvodnim snagama. Ako želimo da tehnologija oslobodi čovjeka umjesto da ga još dublje podredi kapitalu, moramo ukinuti društvene odnose koji je danas drže u pogrešnim rukama.
Budućnost umjetne inteligencije ne smije pripadati kapitalu. Ona mora pripadati čovječanstvu. A da bismo je osvojili, moramo osvojiti vlast nad vlastitim društvom. To znači revoluciju.
