„AI industrija stvara sisteme koji bi mogli da se otmu kontroli i unište čovečanstvo“: Upozorenje bivšeg istraživača Anthropic-a i OpenAI | Srpska dijaspora

Istraživač Anthropic-a odlučio je da napusti industriju veštačke inteligencije zbog straha da ova kompanija i njeni konkurenti srljaju u trci za stvaranje sistema koje neće moći da kontrolišu, objavio je Wall Street Journal.

Džejkob Kokson (Jacob Coxon), istraživač specijalizovan za treniranje novih AI modela kroz obradu ogromnih količina podataka, izjavio je u utorak da odlazi iz kompanije jer ne želi da učestvuje u trci  za stvaranjem sistema veštačke inteligencije sposobnih da sami sebe usavršavaju, iz straha da bi takvi sistemi mogli da se otmu kontroli i unište čovečanstvo.

„ni Anthropic ni OpenAI ne postupaju odgovorno“

Kokson je na mreži X objavio da je poslednje tri godine proveo baveći se istraživanjem  i u OpenAI-u i u Anthropic-u.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

„Nijedna od ove dve kompanije ne postupa odgovorno. One jure pravo ka samousavršavajućoj superinteligenciji i kockaju se našim životima“, ocenio je.

Sve koji pročitaju njegovu objavu pozvao je da ne potcenjuju moć ove tehnologije.

„Ovo će uskoro biti nadljudski sistemi koji mogu da hakuju bilo šta, da preko noći dovedu do revolucionarnih promena u bilo kojoj oblasti i steknu stvarnu moć i resurse. Svi smo svedoci napretka u svakoj od ovih oblasti, a taj napredak se ne usporava“, naveo je Kokson.

„rukovodioci i istraživači u javnosti ublažavaju izjave“

Naveo je i da ljudi koji stvaraju veštačku inteligenciju iskreno veruju da bi ona mogla „sve da nas pobije do kraja ove decenije“.

„Ovo nije marketinški trik. Štaviše, mnogi direktori i vodeći istraživači ublažavaju svoje izjave za medije kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah. Nijedna druga ljudska delatnost ne predstavlja ovakav nivo opasnosti“, kaže Kokson.

Kaže i da uobičajena reakcija na takve tvrdnje glasi: „Ako zaista veruju u to, zašto je onda i dalje prave?”

„U OpenAI-u mnogi nisu svesni veličine civilizacijskog uloga. U Anthropic-u je taj ulog dobro shvaćen, ali su zarobljeni u trci da stignu prvi i veruju da niko drugi neće postupiti odgovorno, pa zato to moraju sami da urade, uprkos riziku“, naveo je Kokson u objavi na X-u.

ne znam možemo li da sprečimo globalnu AI trku

Prihvatanje ove trke i ulazak u „završnicu”, prema Koksonovom mišljenju, predstavlja oholo kockanje koje ne bi smelo da se pokreće sa Slack kanala jedne privatne kompanije.

„Pokušaj da se na brzinu „pretrči“ preko pitanja da li veštačka inteligencija zaista radi ono što ljudi žele (speedrun alignment) trebalo bi da zahteva vanrednu sigurnost u to da ne postoje bolje dostupne putanje“, istakao je ali i poručio da je optimista po pitanju potencijala za koordinaciju.

„Znaci upozorenja, poput napada na platformu Hugging Face, učinili su sporazume o kontroli tempa razvoja između američkih laboratorija ostvarivijim. Ipak, nemam utisak da smo na dobrom putu da sprečimo globalnu trku, što bi moglo zahtevati skupe mere poput privremene zabrane daljeg unapređivanja sposobnosti modela“, smatra Kokson.

apel kolegama istraživačima

Kokson je apelovao ne kolege istraživače da zamisle kako će narednih nekoliko godina zapravo izgledati.

„Da li zaista želite da pokrenete trening pojačanog učenja (RL run) za superinteligenciju bez rigoroznog razumevanja njenog uma? Treba li da pognete glavu uz izgovor ‘to će se svakako desiti’  ili da iskoristite ovaj trenutak i zatražite drugačije uslove?“, upitao je u objavi koja je do sada zabeležila 32 miliona pregleda na X-u.