VEŠTAČKA INTELIGENCIJA IZMAKLA KONTROLI? Hakovala američke državne sajtove, OpenAI priznao i incidente sa deljenjem slika korisnika ChatGPT-a!
Kompanija OpenAI potvrdila je da je obavestila „desetine“ institucija širom sveta da su njihove internet stranice potencijalno bile predmet nedozvoljenih aktivnosti njenih agenata veštačke inteligencije.
U problemu su se našle i američke državne institucije.
Oni su pokušavali da pribave informacije od „vlada, univerziteta, javnih službi i drugih institucija“, a među sajtovima kojima su pristupali bili su i oni američke Komisije za hartije od vrednosti i berze (SEC), Biroa za popis stanovništva i Ministarstva prosvete, saopšteno je iz kompanije.
Nekoliko dana ranije, australijski premijer Entoni Albaneze saopštio je da su agenti veštačke inteligencije OpenAI pristupili poverljivim dokumentima na sajtu državnog zdravstvenog sistema.
Bojazan zbog potencijalnih, pa čak i po život opasnih posledica koje mogu nastati ukoliko ova tehnologija izmakne ljudskoj kontroli raste od avgusta.
Iz kompanije ukazuju da su pojedinim podacima zapravo pristupili botovi napravljeni i obučeni da deluju donekle samostalno, sa zadatkom da pronađu „relevantne izvore javnih informacija“.
Međutim, neki od njih otišli su i korak dalje, pokušavajući da zaobiđu bezbednosne mere na tim sajtovima.
Prilikom pokušaja pribavljanja informacija od Biroa za popis stanovništva, AI agenti koristili su alate namenjene isključivo programerima.
Svi državni podaci kojima su botovi pristupili bili su javno dostupni, naveli su iz kompanije.
Ipak, informacije kojima su botovi pristupili preko SEC-a, agencije koja reguliše američko tržište akcija i štiti investitore, AI agenti kasnije su nenamerno objavili na drugoj internet stranici, naveli su iz OpenAI.
Bilo je i odvojenih incidenata u kojima je agent kompanije preuzeo sliku nastalu tokom aktivnosti korisnika ChatGPT-a i preneo je na drugu internet stranicu.
Korisnik je prethodno dao saglasnost da OpenAI koristi njegove podatke za obuku modela, ali iz kompanije priznaju da to nije bio „prikladan način korišćenja tih informacija“.
Do curenja korisničkih slika došlo je pre uvođenja novih zaštitnih mera prilikom obuke veštačke inteligencije, a u toku je proces uklanjanja svih slika korisnika koje su prenete trećim stranama, ističu iz tehnološke kompanije.
O proširenim istragama prvo je izvestila agencija Rojters, dok je OpenAI detalje objavio na javnom blogu.
Agenti su u pojedinim slučajevima „zaobišli“ bezbednosne kontrole određenih sajtova.
Bilo je i situacija „neusklađenosti“ prilikom pokušaja pribavljanja informacija.
„Neusklađenost“ je termin kojim kompanije koje se bave veštačkom inteligencijom i istraživači opisuju situacije u kojima je AI agent učinio nešto za šta nije bio obučen.
Mnogi pogođeni subjekti zatražili su da detalji ne budu javno objavljeni, naveli su iz kompanije OpenAI.
„Naš cilj je da svakoj organizaciji pružimo činjenice, a da ona odluči da li će i kada javno govoriti o incidentu“, poručili su iz kompanije.
Neki od slučajeva obuhvaćenih ovim incidentima, međutim, ne predstavljaju ozbiljne bezbednosne propuste.
OSTALE TEME:
PRITISAK TAJNE SLUŽBE SE NASTAVLJA: Pripadnici BIA zaplenili baner studentima u Kragujevcu!
STUDENTI PORUČUJU: „Niko nas neće ubediti da su ljudi sa obe strane Drine jedni drugima stranci!“
Izvor: BBC Foto: Ilustracija
Dodaj Serbian Times kao svoj Google izvor
