Guverner Banke Engleske upozorava: Veštačka inteligencija bi mogla da izazove globalni ekonomski pad | Srpska dijaspora

Guverner Banke Engleske, Endru Bejli, pridružio se brojnim uticajnim ličnostima koje upozoravaju na globalne rizike koje nosi najnaprednija tehnologija veštačke inteligencije (AI).

Kako prenosi Gardijan, u pismu na dve stranice koje je poslao  ministrima finansija i guvernerima centralnih banaka država članica G20 u svojstvu predsedavajućeg međunarodnog Odbora za finansijsku stabilnost (FSB), Bejli je naveo da najnapredniji („frontier“) AI modeli „pokazuju sve sofisticiraniju autonomiju i sposobnosti rešavanja problema, ali i kapacitete za pretnje“.

nedostatak globalnih AI protokola

On je istakao da ovi modeli rizikuju da destabilizuju „visoko povezani“ globalni finansijski sistem putem sajber poremećaja koji se „mogu proširiti širom različitih jurisdikcija“.

Bejli je pisao ministrima finansija i guvernerima centralnih banaka članica G20 uoči njihovog ovonedeljnog sastanka u Severnoj Karolini u SAD da su „nedavni događaji ukazali na to da mnoge države nemaju uspostavljene protokole za upravljanje razvojem, objavljivanjem i primenom naprednih AI modela, što povećava rizike za finansijski sektor i šire.“

Nepredvidivo ponašanje AI sistema

Njegovo pismo dodatno pojačava zvona za uzbunu povodom AI-ja koja su proteklih nedelja aktivirali istaknuti tehnološki stručnjaci i odražava njegove ranije pozive na međunarodnu saradnju u borbi protiv rastućih pretnji veštačke inteligencije, kada je čelnicima londonskog Sitija rekao da „nijedna zemlja ne može da se izoluje od prekogranične prirode sistema koji su danas rasprostranjeni.“

Prošlog meseca, pismo koje je potpisalo 1.367 istraživača i inženjera iz vodećih laboratorija za AI, uglavnom iz kompanija OpenAI, Anthropic i Google DeepMind, takođe je osvetlilo zabrinutost stručnjaka koji svakodnevno rade na ovoj tehnologiji.

U tom pismu je navedeno da „postoji stvaran rizik da se razvoj sposobnosti (AI) ubrza daleko izvan naše mogućnosti da razumemo ili kontrolišemo sisteme koji iz toga proisteknu“, nakon čega je zatražena podrška vlade SAD za „međunarodni napor na razvoju tehničkih alata i mehanizama upravljanja potrebnih za promišljeno usmeravanje tempa naprednog automatskog razvoja AI-ja“.

Ranije ovog meseca izašlo je u javnost i da su zaposleni u kompaniji OpenAI primetili znake odmetničkog ponašanja među svojim najsavremenijim AI agentima nedeljama pre nego što su pobegli iz svog okruženja za obuku i pokrenuli nezapamćeni hakerski pohod koji je izazvao globalnu uzbunu, podseća Gardijan.

rizik od tržišnog šoka

Proširujući ovu temu na svet finansijske politike, Bejli je ocenio da je za finansijski sistem, najneposrednija briga upravo potencijalni uticaj napredne AI tehnologije na sajber rizik.

„Napredna veštačka inteligencija mogla bi znatno da promeni brzinu, obim i ekonomiju sajber rizika, što bi moglo da naruši poverenje u tržište u celom sistemu, posebno zbog visoko koncentrisanih eksternih pružalaca usluga“, ukazao je.

Bejli je pozvao nadležne za očuvanje svetskih finansijskih sistema da daju prioritet „odgovarajućim koracima za podršku bezbednom i odgovornom objavljivanju i primeni modela na globalnom nivou“.

U pismu su zabeležene i Bejlijeve zabrinutosti zbog povećane upotrebe finansijske poluge (leverage) na tržištima obveznica i akcija, za šta je rekao da se kombinuje sa visokim procenama vrednosti na koncentrisanim finansijskim tržištima, posebno podstaknutim optimizmom investitora u pogledu izgleda veštačke inteligencije, i to na način koji bi mogao da pojača buduću tržišnu korekciju.

„Stoga sam i dalje zabrinut da bi veliki šok ili kombinacija šokova mogla istovremeno da pokrene višestruke ranjivosti“, napisao je Bejli a objavio Gardijan.