Man muss sich die Mailadresse public.disclosure@servicesaustralia.gov.au vorstellen wie einen Briefkasten für Eingaben und Beschwerden am Eingang eines Amtes: Wer Kummer hat, darf ihn hier kundtun. Geleert wird einmal am Tag. So war es auch am 11. September, als die Mitarbeiter von Services Australia, einer Bundesbehörde, die Kranken- und Sozialleistungen in Down Under verwaltet, wieder mal in das Postfach schauten und eine E-Mail vom Vortag vorfanden: Ein KI-Agent sei in ein geschütztes Portal der gesetzlichen Krankenversicherung eingebrochen, in der sämtliche 27 Millionen Australier Mitglied sind. Absender der Nachricht war Open AI. Der mächtigste KI-Konzern der Welt hatte im Juni einem seiner digitalen Assistenten zu Trainingszwecken die Aufgabe erteilt, über das australische Gesundheitssystem zu recherchieren. Das hatte der Agent getan. Doch anders als es sein Auftrag gewesen war, hatte er es nicht bei den öffentlich zugänglichen Daten belassen. Der KI-Agent aus Amerika ließ sich von der Sperre nicht aufhalten Zwar war der nicht öffentlich zugängliche Teil des Statistikportals des öffentlichen Gesundheitssystems namens Medicare von einer digitalen Zugriffssperre geschützt, hinter der aggregierte Ausgabenzahlen zu abgerechneten Leistungen und Medikamenten lagen und außerdem ein Plan, wo und welche anderen Informationen auf dem Server lagen. Doch von der Sperre ließ sich der Agent aus Amerika nicht aufhalten. Mehrmals signalisierte das System der KI-Software, dass für sie der Zutritt verboten war. Dann brach Open AI bei den Australiern ein. Die wissen nun seit Donnerstag, dass ein Teil der digitalen Daten ihres Staates in „Festungen“ liegt – und manche nur hinter einem „Zaun“. Wie im Fall der staatlichen Krankenversicherung. Über deren digitalen „Zaun“ sei die KI geklettert, teilte Verteidigungsminister Richard Marles dem verblüfften Volk mit, als die Regierung über den Vorfall berichtete. Allerdings habe keine Gefahr bestanden: Die sensiblen Patientendaten, in denen Erkrankungen aufgeführt sind, Behandlungen und Heilungsverläufe, lägen hinter den dicken Mauern der digitalen „Festung“. Premierminister Anthony Albanese sieht Vorfall mit „extremer Sorge“ Dass dieser Beschwichtigungsversuch im krassen Gegensatz zu den Worten von Premierminister Anthony Albanese steht, der nach eigener Aussage den Einbruch mit „extremer Sorge“ sieht, lässt ahnen: Mit der Geschichte vom Gartenzaun, über den der KI-Agent geklettert ist, ist der Vorfall für Australien längst nicht gegessen – und wohl auch nicht für den Rest der Welt. Schließlich reiht sich der Einbruch nicht nur ein in die immer länger werdende Liste von Attacken einer autonom agierenden KI in geschützte Systeme; nun ist nach bisheriger Kenntnislage vermutlich zum ersten Mal der Staat zum Opfer geworden. Vieles an dem Einbruch in das australische Medicare ist besorgniserregend, etwa der Umstand, dass Open AI schon Mitte August davon wusste, die Attacke aber erst vier Wochen später den Australiern meldete. Nun verlangt die Regierung in Canberra eine gesetzliche Pflicht der KI-Konzerne, die Querelen ihrer Software den Behörden mitzuteilen, so wie es in der Europäischen Union vorgeschrieben ist. Mit gestohlenen Gesundheitsdaten kennen sich die Australier aus Am meisten aber macht Regierung und Bevölkerung Angst, dass sich unter einem Angriff auf eine Krankenversicherung so gut wie jeder im Land etwas vorstellen kann. Schließlich wurden schon vor vier Jahren von Medibank, einem privaten Zusatzversicherer, knapp zehn Millionen Daten aktueller und früherer Versicherter gestohlen, damals von menschlichen Hackern. Diese forderten zehn Millionen US-Dollar Lösegeld, das Medibank nicht zahlte. Daraufhin veröffentlichen die Erpresser die Daten im Darknet, auch über Abtreibungen, Suchterkrankungen, psychische Störungen und HIV-Infektionen, verbunden mit Name, Geburtsdatum, Anschrift und Telefonnummer. Ein Verfahren der australischen Datenschutzbehörde OAIC gegen den Versicherer läuft bis heute, zudem sind Sammelklagen von Opfern anhängig. Das Bild der Regierung vom „Zaun“, über den der KI-Agent geklettert sei, ist eine Beschwichtigungstaktik, die nach hinten losgehen könnte. Dass die KI beim aktuellen Angriff keine der sensiblen Patientendaten erbeutet habe, beruhige ihn keineswegs, wütet Alastair MacGibbon in der „Financial Review“. Er ist der frühere Sonderberater des Ministerpräsidenten für Cybersicherheit und eine Autorität im Land für den Umgang mit dem Bedrohungspotential von KI. Die Frage laute: „Warum hat die Regierung den Einbruch nicht als Erste bemerkt?“ Der Großteil des Landes liege hinter digitalen Niedrigzäunen mit geringem Sicherheitsstatus, sagt MacGibbon und nennt Verwaltungen, Krankenhäuser, Kreditgenossenschaften, Wasserversorger und Betreiber kritischer Infrastruktur. Beim Angriff auf Medicare habe sich der Agent nicht einmal die Mühe gemacht, sich zu tarnen. Trotzdem sei er niemandem aufgefallen. „Wie sieht es dann bei den Agenten aus, die sich zu tarnen versuchen?“ Was, wenn KI-Agenten das Stromnetz oder das Klärsystem attackieren? Tatsächlich erfordert es nicht viel Phantasie, sich auszumalen, was passieren könnte, wenn die öffentliche Infrastruktur ins Fadenkreuz der Agenten gerät: Ausfall von Behandlungssystemen im Krankenhaus, Ausfall des Stromnetzes, Ausfall des Mobilfunknetzes, ein manipuliertes Abwassersystem, das vom Cyberbot umgeleitet wird, sind mögliche Szenarien. Im Fall der Krankenversicherung habe Open AIs Agent „keine bösen Absichten“ gehabt, schreibt Sicherheitsfachmann MacGibbon. „Wenn diese Fähigkeit jedoch in die Hände einer Erpresserbande oder eines ausländischen Geheimdienstes gelangt, wird dies schwerwiegende Folgen haben“, warnt er. Das Medicare-Portal hat Australien erst einmal abgeschaltet, die Daten sollen auf die angeblich sichere Regierungsplattform data.gov.au gezogen werden. Gleichzeitig läuft eine „forensische“ Untersuchung des Angriffs. Möglicherweise, hat Canberra schon einmal sicherheitshalber angedeutet, könnte noch viel mehr dazu ans Tageslicht kommen, was der Agent von Open AI und andere Cyberbots auf anderen Portalen der Regierung angerichtet haben. Alles soll nun auf Sicherheit geprüft werden, eine beim Regierungschef persönlich angesiedelte Taskforce ist eingerichtet worden. Derweil prüfen Anwälte wieder mal die Aussicht auf Sanktionen gegen Big Tech in Amerika. Dass die Regierung von dem KI-Angriff schon vor zwei Wochen erfahren und ihn ausgerechnet zu dem Zeitpunkt öffentlich gemacht hat, an dem Ministerpräsident Albanese vor den Vereinten Nationen in New York „Guardrails“ für KI gefordert hat, hat in der 16.000 Kilometer entfernten Heimat den Verdacht politischer Gegner geweckt, hier wolle jemand etwas für politische Zwecke ausschlachten. Klar ist, dass für Australiens Forderung nach mehr Regulierung nun ein überaus anschauliches Beispiel aus der Praxis auf dem Tisch liegt. Die Entschuldigung, dass niemand zu Schaden gekommen sei, wie Open AI beteuert, kann Canberra mit zwei Worten aushebeln: noch nicht.