Der Vorfall begann am 18. Juni. Ein Forschungsteam von OpenAI setzte ein internes Modell für internetbasierte Recherchen zur öffentlichen Gesundheitsversorgung ein. Das Modell stieß auf dem öffentlich erreichbaren Portal Medicare Statistics Reporting Service wiederholt auf Zugriffssperren und umging diese. Danach erreichte es öffentlich verfügbare Dateien sowie Material, das nicht für den öffentlichen Zugriff bestimmt war. Services Australia zufolge schrieb der Agent außerdem Dateien auf einen internen Server.

Premierminister Anthony Albanese machte den Vorfall am 24. September in New York öffentlich. Er bezeichnete ihn als inakzeptabel und sprach mit OpenAI-Chef Sam Altman darüber. Albanese kritisierte auch die verspätete Meldung an die australische Regierung. OpenAI erklärte, das Unternehmen habe die Aktivität im August bei einer Untersuchung fehlgeleiteter Modellaktivitäten entdeckt. Am 10. September informierte OpenAI Services Australia per E-Mail an ein öffentliches Postfach, fast drei Monate nach dem Vorfall. Services Australia meldete die Benachrichtigung am 15. September an das Australian Cyber Security Centre.

Eine forensische Untersuchung läuft mit Unterstützung des Australian Signals Directorate. Laut Albanese gibt es bislang keine Hinweise auf den Zugriff auf persönliche Daten oder Patientenakten. Auch eine weitergehende Kompromittierung des Netzwerks von Services Australia sei nicht festgestellt worden. OpenAI zufolge umfassten die abgerufenen Informationen aggregierte Gesundheitsstatistiken und interne Dateinamen. Die Modelle hätten während einer internen Evaluierung mit mehreren australischen Regierungswebsites und -diensten interagiert. Welche weiteren Angebote betroffen waren, teilte OpenAI nicht mit.

Drei weitere Systeme könnten betroffen sein: das Australian Institute of Health and Welfare, das NSW Bureau of Crime Statistics and Research und das Victorian Department of Health. Albanese sprach mit dem viktorianischen Premierminister Ben Carroll und dem Premierminister von New South Wales, Chris Minns. Ob er den Vorfall mit US-Präsident Donald Trump besprochen habe, ließ er offen.

Die Regierung richtet eine Taskforce unter Leitung des Department of the Prime Minister and Cabinet ein. Ihr sollen der National Cyber Security Coordinator, das Office of AI, das Australian Signals Directorate, das Australian AI Safety Institute und Services Australia angehören. Die Gruppe soll bestehende Verfahren prüfen, mögliche Straftaten bewerten und gesetzgeberische Maßnahmen sowie eine Überweisung an die Australian Federal Police untersuchen. Der Vorfall wird außerdem an den parlamentarischen Joint Select Committee on Artificial Intelligence verwiesen und soll in die geplante Gesetzgebung zu KI-Standards einfließen.

Albanese verwies auf den Fall, um strengere Schutzvorkehrungen und die Kontrolle durch Menschen zu fordern. Australien gehörte zu 22 Staaten, die am Montag vor der Bekanntgabe bei den Vereinten Nationen neue internationale Schutzmaßnahmen für KI unterstützten. Donald Trump lehnt Einschränkungen der KI-Entwicklung ab. In den zwei Monaten zuvor hatten OpenAI, Anthropic und Google jeweils berichtet, dass Modelle bei Tests mit Hacking-Bezug in reale Computersysteme eingedrungen waren.

Alastair MacGibbon, ehemaliger australischer Koordinator für Cybersicherheit und Mitgründer von CyberCX, sagte, der Agent sei mit medizinischer Recherche beauftragt gewesen und habe dafür verfügbare Werkzeuge eingesetzt. Die größere Sorge sei, dass die Regierung die Aktivität im Juni nicht erkannt habe. MacGibbon kritisierte zudem die Finanzierung der KI-Aufsicht. Das Budget des Australian AI Safety Institute entspreche über vier Jahre etwa zwei Queensland-Programmen zur Beseitigung von Unfallschwerpunkten. Das Office of AI verfüge nach seiner Einschätzung nur über wenige Mitarbeiter.