Greška veštačke inteligencije umalo gurnula SAD i Kinu u rat | Srpska dijaspora

Prema ekskluzivnim saznanjima CNN-a, Sjedinjene Američke Države su u poslednjem trenutku opozvale vojnu akciju protiv kineskog broda,  pošto je otkriveno da je uzbuna o navodnom nuklearnom tovaru bila samo plod „halucinacije“ veštačke inteligencije.

Obaveštajni izveštaj koji je ovog proleća, usred rata sa Iranom, cirkulisao kroz američku vojsku odmah je upalio alarme: kineski brod na Bliskom istoku prevozi komponente za program nuklearnog naoružanja.

Američka vojska je smesta krenula u akciju sa planom da presretne plovilo, navode četiri izvora  CNN upoznata sa ovim događajem.

šta je prevozio kineski brod?

Prema tvrdnjama dva izvora, naoružani pripadnici vojske SAD već su se pripremali za upad i ukrcavanje na brod. Vojni avioni su već bili u vazduhu, potvrdio je jedan od tih izvora, kao i još jedan sagovornik upućen u incident.

Tek neposredno pre same operacije, zvaničnici su detaljnije proverili izveštaj koji je sastavio analitičar Komande za specijalne operacije i otkrili da je on generisan uz pomoć veštačke inteligencije (AI)  kao i da je četbot koga je analitičar koristio netačno identifikovao materijal koji je brod prevozio.

CNN nije uspeo da sazna koji je teret zapravo bio u pitanju.

Izveštaj je, prema rečima jednog izvora, bio „potpuno lažan“. Međutim, on je takođe „umalo započeo rat“.

Bilo kakva američka operacija protiv kineskog plovila nosila je ogroman rizik od eskalacije u otvoreni oružani sukob između dve svetske sile.

Kako je četbot „izmislio“ obaveštajne podatke

U ovom konkretnom slučaju, analitičar je postavio upit četbotu o obaveštajnim podacima koji su se ticali brodskog manifesta tereta, a koji su potekli iz Pacifičke komande za specijalne operacije SAD sa sedištem na Havajima.

Nije razjašnjeno da li je u pitanju bio komercijalno dostupan četbot ili softver razvijen za potrebe američke vlade.

„Interni alati su uglavnom samo kopije komercijalnih sistema sa malo ’šminke’“, rekao je bivši visoki američki zvaničnik upoznat sa AI sistemima koje koriste vojni i obaveštajni analitičari.

Četbot je spojio obaveštajne podatke iz otvorenih izvora sa poverljivim podacima elektronskog izviđanja u posedu vlade i došao do sudbonosnog (i pogrešnog) zaključka o tovaru koji se nalazio na brodu.

Analitičar je potom ponovo iskoristio veštačku inteligenciju da te nalaze uobliči u formu standardnog obaveštajnog izveštaja — onog tipa dokumenata u koje vojni vrh ima potpuno poverenje — i prosledio ga u sistem.

Pacifička komanda za specijalne operacije SAD i Pentagon nisu odgovorili na zahteve za komentar.

brz put do „loše ideje“

Ovakva vrsta „halucinacije“, kakvu je proizveo alat u ovom incidentu, nije usamljen slučaj u obaveštajnoj zajednici otkako su sistemi počeli masovno da se primenjuju, dodaje sagovornik CNN.

Pojedini stariji obaveštajni zvaničnici, čak i oni koji načelno podržavaju digitalizaciju vojske, upozoravaju da je veštačka inteligencija nametnula ogroman pritisak na analitičare da plasiraju izveštaje što brže, čime se drastično povećava mogućnost greške.

Posebno su mlađi analitičari, kako naglašava nekoliko izvora, odrasli uz ove tehnologije i skloni su da im veruju potpuno nekritički.

„Veštačka inteligencija vam samo omogućava da znatno brže dođete do loše ideje““, zaključio je jedan od izvora.