Australien: OpenAI-Agent hackte vor Altmans Warnung Regierungswebsite

[Update, 10:45 UTC, 24. Sept.: Dieser Artikel wurde um OpenAIs Darstellung ergänzt, wann das Unternehmen von den Aktivitäten im Juni erfuhr, wie es die australischen Behörden benachrichtigte und auf welche Informationen seine Modelle zugriffen.]

Ein OpenAI-Forschungsagent umging im Juni Sperren eines australischen Gesundheitsdatenportals der Regierung, griff auf nicht öffentliche Dateien zu und schrieb Dateien auf einen internen Server, sagte Premierminister Anthony Albanese am Mittwoch.

Die Regierung hat eine forensische Untersuchung eingeleitet und eine Überprüfung ihres Umgangs mit KI-bezogenen Cybervorfällen angekündigt.

OpenAI benachrichtigte die australische Regierung laut Albanese erst am 10. September, beinahe drei Monate nach dem Vorfall. Er kritisierte diese Verzögerung.

OpenAI teilte Cointelegraph mit, erstmals im August während einer Überprüfung fehlgeleiteter Modellaktivitäten von den Aktivitäten im Juni erfahren zu haben. Das Unternehmen untersuchte, auf welche Informationen zugegriffen worden war, bevor es Services Australia benachrichtigte.

Der Vorfall verstärkt die Bedenken hinsichtlich autonomer KI-Agenten, während Branchenführer und Regierungen über eine Verlangsamung der Entwicklung hochmoderner Modelle debattieren und Forscher Agentenaktivitäten aufdecken, die bis in den Kryptobereich reichen.

OpenAI-Agent „akzeptierte kein Nein“

Australiens Vorfall begann laut Albanese am 18. Juni, als ein OpenAI-Forschungsteam ein internes KI-Modell nutzte, um öffentlich verfügbare Daten zu den Arzneimittelausgaben zusammenzutragen.

Nachdem der Agent wiederholt blockiert worden war, „akzeptierte er kein Nein“ und verschaffte sich unbefugten Zugang zu anderen Bereichen des Medicare Statistics Reporting Portal. Das öffentlich zugängliche Portal enthält nicht sensible Medicare-Daten, darunter Statistiken zu den Staatsausgaben, sagte der Premierminister.

„Es wird davon ausgegangen, dass zu diesem Zeitpunkt keine persönlichen Informationen abgerufen wurden, aber die Untersuchungen laufen weiter“, sagte Albanese.

Die Behörden untersuchen außerdem Aktivitäten auf drei weiteren Regierungswebsites, obwohl der amtierende Premierminister Richard Marles später sagte, die Interaktionen dort schienen normal zu sein und hätten öffentliche Informationen betroffen.

Ein OpenAI-Sprecher teilte Cointelegraph mit, dass die Modelle während einer internen Evaluierung Aktionen ausgeführt hätten, die das Unternehmen nicht beabsichtigt habe. OpenAI erklärte, die Überprüfung habe keine Hinweise darauf ergeben, dass auf Patientenakten zugegriffen wurde, und die abgerufenen Informationen hätten aggregierte Gesundheitsstatistiken sowie interne Dateinamen umfasst.

Albanese kritisierte außerdem die Art und Weise, wie OpenAI die Regierung benachrichtigte, und sagte, die E-Mail sei an ein öffentliches Postfach von Services Australia gegangen. OpenAI erklärte, es habe ein bestimmtes Postfach für den direkten Kontakt zwischen Sicherheitsexperten genutzt, was nach Angaben des Unternehmens gängige Praxis in der Branche sei, und während der technischen Offenlegung engen Kontakt zur Australian Signals Directorate gehalten.

Bei seiner Ansprache vor dem Sicherheitsrat der Vereinten Nationen forderte OpenAI-CEO Sam Altman am Mittwoch eine „präzise und zügige Meldung von Vorfällen“. Er warnte außerdem, zunehmend leistungsfähige und autonome Systeme könnten „Entscheidungen treffen, die Menschen nicht mehr verstehen oder kontrollieren“.

KI-Agenten versuchen, auf der Quidax-Börse Kryptogeschäfte durchzuführen

Unabhängig davon berichtete das gemeinnützige Forschungslabor Transluce am Mittwoch, am 19. und 20. September Anzeichen für Aktivitäten von KI-Agenten mit dem Ziel, die Kryptobörse Quidax anzugreifen, entdeckt zu haben.

Anhand von 15 öffentlichen Berichten des Web-Scanning-Dienstes urlquery.net identifizierten die Forscher wiederholte Versuche, Geschäfte zu platzieren, einen Versuch einer HTML-Injektion sowie Untersuchungen der Programmierschnittstelle von Quidax.

Die Handelsaufträge wurden nicht übermittelt, während Authentifizierungsanforderungen und Cloudflare die API-Sondierungen blockierten, erklärte Transluce.

Transluce erklärte, bei den Quidax-Aktivitäten seien Dienste und Techniken zum Einsatz gekommen, die bereits bei früheren Agentenaktivitäten beobachtet worden seien; einige davon hätten Forscher mit einem OpenAI-Schwarm in Verbindung gebracht. Das Unternehmen schrieb die Quidax-Versuche jedoch nicht OpenAI zu.

Magazin: Wer haftet rechtlich, wenn ein KI-Agent Amok läuft?