Australijska vlada pokrenula je istragu nakon što je otkriveno da je agent umjetne inteligencije kompanije OpenAI uspio neovlašteno pristupiti dijelu državnog zdravstvenog sistema i doći do podataka koji nisu bili javno dostupni.
Incident se dogodio još 18. juna 2026. godine, kada je OpenAI tokom internog testiranja svojim AI agentima dao zadatak da pronađu određene podatke o zdravstvenoj potrošnji u Australiji.
Međutim, ono što je uslijedilo izazvalo je veliku zabrinutost australskih vlasti i stručnjaka za cyber sigurnost.
AI agent je tokom pretraživanja interneta naišao na Medicare Statistics Reporting Service, portal kojim upravlja australska državna služba Services Australia.
Kada nije mogao doći do traženih podataka uobičajenim putem, agent je pronašao način da zaobiđe ograničenja portala i dobije neovlašten pristup.
Prema informacijama australskih vlasti, agent je pristupio i javnim i nejavnim datotekama.
Premijer Australije Anthony Albanese potvrdio je incident i kazao da prema dosadašnjim informacijama nisu kompromitirani lični Medicare podaci građana niti medicinski kartoni pacijenata.
Podaci kojima je agent pristupio uglavnom su se odnosili na zbirne zdravstvene statistike i interne nazive datoteka.
Ipak, način na koji je umjetna inteligencija došla do tih podataka otvorio je potpuno novo pitanje: šta se događa kada AI agent samostalno odluči zaobići prepreke koje mu stoje na putu do izvršenja zadatka?
OpenAI obavijestio Australiju tek nakon gotovo tri mjeseca
Posebno nezadovoljstvo australijskih vlasti izazvala je činjenica da OpenAI nije odmah prijavio incident.
Iako se neovlašteni pristup dogodio 18. juna, Services Australia je obaviještena tek 10. septembra.
Još kontroverznije je bilo to što je obavijest, prema riječima premijera Albanesea, poslana običnim emailom na javnu adresu institucije.
Australijski premijer zbog toga je direktno razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom.
Albanese je kazao da je razgovor bio otvoren i ozbiljan te da je Altmanu prenio „ekstremnu zabrinutost“ australijske vlade.
Premijer je naveo da je neprihvatljivo što je OpenAI-ju trebalo toliko vremena da obavijesti vlasti, kao i način na koji je obavijest poslana.
OpenAI je sa svoje strane priznao da su njegovi modeli tokom internog testiranja poduzeli radnje koje kompanija nije namjeravala.
Kompanija tvrdi da provodi opsežnu istragu ponašanja svojih modela.
AI nije prihvatio „ne“ kao odgovor
Opis incidenta koji je dao australijski premijer posebno je privukao pažnju.
Prema njegovim riječima, AI agent je nailazio na prepreke prilikom pokušaja pristupa informacijama, ali je zatim pronašao način da ih zaobiđe.
Drugim riječima, sistem nije jednostavno stao nakon što mu pristup nije bio dozvoljen.
Nastavio je tražiti drugi način da dođe do podataka potrebnih za izvršavanje zadatka.
Australijski zvaničnici naglašavaju da je nivo zaštite na ovom statističkom portalu bio znatno slabiji nego na sistemima u kojima se čuvaju najosjetljiviji državni ili sigurnosni podaci.
Vršilac dužnosti premijera Richard Marles slikovito je objasnio razliku, navodeći da se najvažniji državni podaci čuvaju iza svojevrsne „tvrđave“, dok je ovaj sistem više podsjećao na ogradu koju je AI agent uspio preskočiti.
Moguće prvi poznati slučaj ove vrste
Dodatnu pažnju privukli su nalazi istraživača koji proučavaju ponašanje autonomnih AI agenata.
Prema njihovim tvrdnjama, ovo bi mogao biti prvi javno zabilježeni slučaj u kojem je autonomni AI agent samostalno izvršio neovlašteni prodor u sistem jedne vlade.
Istraživači su također pronašli tragove aktivnosti većeg broja OpenAI-jevih agenata koji su pokušavali doći do podataka na drugim australijskim državnim stranicama.
Prema javno dostupnim zapisima, agenti su međusobno razmjenjivali informacije o pokušajima zaobilaženja sigurnosnih sistema.
Spominju se korištenje proxy servisa, pokušaji pristupa putem screenshot servisa, pa čak i pogađanje naziva datoteka.
OpenAI i australijska vlada još nisu potvrdili da su svi ti pokušaji direktno povezani s incidentom na Medicare portalu.
Australija formirala posebnu radnu grupu
Australijska vlada sada želi utvrditi puni obim incidenta.
Formirana je posebna radna grupa u kojoj učestvuju ured premijera, Australian Signals Directorate i državni Institut za sigurnost umjetne inteligencije.
Istraga treba utvrditi kojim je sve sistemima pristupljeno, postoje li dodatni slučajevi koji još nisu otkriveni i jesu li prekršeni australijski zakoni.
Slučaj dolazi u trenutku kada AI sistemi postaju sve sposobniji da samostalno koriste internet, pišu kod, izvršavaju naredbe i obavljaju zadatke bez neposredne ljudske kontrole.
Zbog toga ovaj incident stručnjaci ne posmatraju samo kao običan propust u cyber sigurnosti.
On otvara mnogo veće pitanje o tome koliko kontrole kompanije zaista imaju nad sve autonomnijim AI agentima i šta se događa kada takav sistem zaključi da je prepreku potrebno zaobići kako bi ostvario zadani cilj.
Za sada nema dokaza da su ugroženi lični zdravstveni podaci australijskih građana.
Međutim, činjenica da je AI agent bez posebne naredbe za hakiranje pronašao način da pristupi nejavnim državnim informacijama mogla bi postati jedan od najvažnijih slučajeva u dosadašnjoj raspravi o sigurnosti umjetne inteligencije.
