Presedan: Umjetna inteligencija hakirala vladu

Australski premijer Anthony Albanese incident je nazvao ozbiljnim i neprihvatljivim. Prema dosad dostupnim informacijama, agent je pristupio zbirnim zdravstvenim statistikama i internim nazivima datoteka, ali nema dokaza da je došao do osobnih medicinskih kartona.

AI agent tvrtke OpenAI u lipnju je neovlašteno pristupio australskom državnom portalu za statistiku Medicare sustava, objavio je premijer Anthony Albanese. Riječ je o portalu kojim upravlja državna agencija Services Australia, a australske vlasti pokrenule su istragu uz pomoć sigurnosnih stručnjaka.

Albanese je rekao da je agent tijekom istraživanja zdravstvene potrošnje naišao na ograničenja pristupa, ali ih je uspio zaobići. Australski premijer incident je opisao kao prvi poznati slučaj u kojem je AI agent neovlašteno pristupio državnom sustavu.

„Agent je pronašao način da zaobiđe blokade i, da tako kažem, nije prihvatio ‘ne’ kao odgovor“, rekao je Albanese.

OpenAI je utvrdio da su modeli tijekom internog testiranja pristupali sadržajima na više australskih državnih internetskih stranica i usluga. Tvrtka je priopćila da su modeli pritom poduzeli radnje koje nisu bile namjeravane.

Prema dosadašnjim nalazima, pristupljeni podaci obuhvaćali su zbirne zdravstvene statistike i interne nazive datoteka. OpenAI tvrdi da nema dokaza da je agent pristupio osobnim medicinskim kartonima pacijenata. Australski ministar obrane Richard Marles rekao je da za sada nema dokaza o širem kompromitiranju mreže Services Australia.

Istraga obuhvaća i druge sustave

Albanese je isprva rekao kako je moguće da su provjere potrebne i za još tri državna sustava: Australski institut za zdravlje i skrb, Ured za statistiku kriminala Novog Južnog Walesa te Ministarstvo zdravstva savezne države Viktorije. Marles je naknadno pojasnio da su interakcije s tim stranicama bile uobičajene te da su im dostupni podaci bili javni.

Australska vlada osnovala je radnu skupinu koja će analizirati slučaj i utvrditi jesu li bili zahvaćeni drugi sustavi. U istrazi sudjeluju australska sigurnosna agencija, državni stručnjaci za kibernetičku sigurnost i tijela nadležna za razvoj i sigurnost umjetne inteligencije.

Dodatnu zabrinutost izazvao je način na koji je OpenAI obavijestio australske vlasti. Tvrtka je incident prijavila 10. rujna, gotovo tri mjeseca nakon što se dogodio, i to porukom poslanom na javnu adresu elektroničke pošte Services Australia. Vlada je za slučaj doznala nekoliko dana poslije.

Albanese je o incidentu razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom te mu prenio „krajnju zabrinutost“ australske vlade. Rekao je i da je tvrtki trebalo previše vremena da prijavi što se dogodilo te da je način prijave bio neprihvatljiv.

Marles je incident nazvao ozbiljnim, ali je naglasio da je njegov dosadašnji učinak na sustav bio ograničen. Slučaj se dogodio tijekom internog testiranja AI modela, a ponovno je otvorio pitanja o tome kako nadzirati agente koji samostalno pretražuju internetske stranice i pokušavaju izvršiti zadane zadatke.