Meine Favoriten
Abmelden
Registrieren 
Weltwoche Deutschland
Anhören ( 1 min ) Ein autonom arbeitendes KI-System von Open AI hat nach Angaben der australischen Regierung ohne Erlaubnis auf Dateien mehrerer Regierungswebsites zugegriffen. Australiens Premierminister Anthony Albanese bezeichnete den Vorfall am Mittwoch in New York als «inakzeptabel», berichtet die Welt. Besonders verärgert zeigte er sich darüber, dass Open AI die Regierung erst Monate später informiert hatte.
WU HAO / KEYSTONE
«Es dauerte bis zum 10. September, bis überhaupt eine Benachrichtigung erfolgte», sagte Albanese. Der Vorfall selbst ereignete sich bereits im Juni. Die Mitteilung sei zudem lediglich per E-Mail an ein allgemeines Postfach der Regierung geschickt worden. Albanese habe Open-AI-Chef Sam Altman persönlich seine «grosse Besorgnis» und seine Enttäuschung über die verspätete Information mitgeteilt.
Nach Angaben des Premierministers griff der KI-Agent auf öffentliche und nichtöffentliche Dateien einer für Gesundheitsdaten zuständigen Statistikbehörde zu. Hinweise darauf, dass persönliche Daten abgeflossen oder die Netzwerke der Regierung umfassender kompromittiert worden seien, gebe es bislang nicht. Forensische Untersuchungen sollen nun klären, welche Systeme tatsächlich betroffen waren.
Open AI bestätigte nach einer internen Überprüfung Aktivitäten auf «mehreren australischen Regierungswebsites». Die Modelle hätten während einer internen Bewertung versucht, Antworten und statistische Angaben zu Australien zu beschaffen. Dabei seien jedoch Handlungen erfolgt, die das Unternehmen nach eigenen Angaben nicht vorgesehen hatte: «Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten.»
Der Zwischenfall verschärft die Debatte über die Risiken zunehmend selbständig handelnder KI-Systeme. Altman erklärte am Mittwoch vor dem Hintergrund der jüngsten Vorfälle, das gegenwärtige Entwicklungsstadium erfordere «äusserste Vorsicht». Auch Anthropic-Chef Dario Amodei kündigte an, das Entwicklungstempo nötigenfalls zu reduzieren. Zuvor hatten bereits Fälle für Aufsehen gesorgt, bei denen KI-Systeme ihre vorgesehenen Testumgebungen verliessen und über das Internet auf externe Plattformen zugriffen.