Gartner warnt: Fehlkonfigurierte KI legt bis 2028 nationale Infrastruktur eines G20-Landes lahm

Gartner warnt mit einer Prognose vom Februar 2026, die in IT-Kreisen weltweit für Aufsehen sorgt: Bis 2028 wird eine fehlkonfigurierte KI die kritische Infrastruktur eines G20-Landes lahmlegen. Nicht durch einen Hackerangriff. Nicht durch einen Sturm. Sondern durch einen gut gemeinten Engineer, ein fehlerhaftes Update-Skript oder eine falsch gesetzte Dezimalstelle.

Das klingt dramatisch. Aber es ist keine Spekulation – es ist die konsequente Fortsetzung eines Trends, den wir bereits heute beobachten können.

Was steckt hinter dieser Prognose?

Immer mehr kritische Infrastruktur – Stromnetze, Wasserversorgung, Verkehrssysteme, Industrieanlagen – wird mit KI-Systemen gesteuert. Diese sogenannten Cyber-Physical Systems (CPS) treffen Entscheidungen in Echtzeit: Ein KI-Modell balanciert das Stromnetz, ein anderes steuert Produktionsanlagen, ein drittes koordiniert den Bahnverkehr.

Die Effizienzgewinne sind real und messbar. Doch mit zunehmender Abhängigkeit wächst ein strukturelles Risiko, das die IT-Branche bisher kaum adressiert hat: Was passiert, wenn das Modell falsch konfiguriert ist?

Das Problem: Diese Modelle sind Black Boxes – auch für ihre Entwickler. Wam Voster, VP Analyst bei Gartner, bringt es auf den Punkt:

> „Moderne KI-Modelle sind so komplex, dass sie oft Black Boxes ähneln. Selbst Entwickler können nicht immer vorhersagen, wie sich kleine Konfigurationsänderungen auf das emergente Verhalten des Modells auswirken."

Anders als klassische Software gibt es bei KI-Systemen keine lineare Beziehung zwischen Input und Output. Ein Parameter-Update kann das Gesamtverhalten eines Modells in unvorhergesehener Weise verändern – und das in einem System, das physische Konsequenzen hat.

Warum kleine Fehler grosse Konsequenzen haben

Was in der Software-Welt ein Bug ist, kann in der physischen Welt ein Blackout sein. Konkret beschreibt Gartner folgendes Szenario: Ein KI-Modell, das ein nationales Stromnetz in Echtzeit balanciert, interpretiert nach einem Routine-Update eine normale Lastschwankung als kritische Instabilität – und löst flächendeckende Netzabschaltungen aus. In Sekundenschnelle. Ohne dass ein Mensch eingreifen kann.

Das ist kein Science-Fiction. Es ist die logische Konsequenz aus drei gleichzeitigen Entwicklungen:

• Komplexität: Moderne KI-Systeme haben emergente Eigenschaften, die beim Training nicht vollständig vorhersehbar sind. Kleine Änderungen können zu überraschend grossen Verhaltensabweichungen führen.
• Vernetzung: Infrastruktursysteme sind tief miteinander verknüpft. Ein Fehler in einem Teilsystem kaskadiert durch das gesamte Netz – Strom beeinflusst Wasser, Wasser beeinflusst Produktion, Produktion beeinflusst Lieferketten.
• Geschwindigkeit: KI trifft Entscheidungen in Millisekunden. Die menschliche Reaktionszeit – selbst bei sofortigem Eingreifen – ist um Grössenordnungen langsamer.

Brian Levine, Sicherheitsexperte bei FormerGov, fasst die Gefahr zusammen: „Autonome KI auf brittle layers of automation zu legen, schafft extreme Gefahrenpotenziale." Gemeint ist damit: Viele Infrastruktursysteme wurden nie für die vollständige Automatisierung ausgelegt. KI wird darauf aufgesetzt – und macht ein fragiles System noch fragiler.

Die unterschätzte Bedrohung: Keine böse Absicht notwendig

Die klassische Cybersicherheit denkt in Angreifern, Schadsoftware und gezielten Attacken. Das ist wichtig – aber es ist nur die halbe Wahrheit. Gartners Prognose beschreibt eine völlig andere Bedrohungskategorie: Den Unfall aus dem Inneren.

Ein Routine-Update, ein neues Trainings-Datenset, ein falsch kalibrierter Schwellenwert – und das System verhält sich anders als erwartet. Experten nennen das «gradual drift»: KI-Systeme können langsam driftende Sensorwerte als normal einordnen und dabei kritische Warnsignale übersehen, die ein erfahrener menschlicher Operator längst erkannt hätte.

Matt Morris von Ghostline Strategies beschreibt das Problem so: Anders als Menschen, die ungewöhnliche Muster intuitiv erkennen, sind KI-Systeme nur so gut wie ihre Trainingsdaten. Schleichende Veränderungen im realen Betrieb können ausserhalb des gelernten Bereichs liegen – und das System reagiert fehlerhaft, ohne einen Alarm auszulösen.

Flavio Villanustre, CISO bei LexisNexis, warnt deshalb: Die durch KI-Deployment eingegangenen Risiken könnten die Produktivitätsgewinne übersteigen – wenn kein robustes Governance-Framework vorhanden ist. Und genau das ist heute bei der Mehrheit der Organisationen der Fall.

Reale Warnsignale, die wir bereits sehen

Gartners Prognose ist keine abstrakte Zukunftsvision. Die Vorzeichen sind bereits sichtbar:

• Stromnetze in Europa: nutzen zunehmend KI zur Lastprognose und Netzstabilisierung. Fehler in diesen Systemen haben 2023 und 2024 bereits zu lokalisierten Ausfällen geführt – noch ohne nationale Dimension.
• Automatisierte Produktionsanlagen: in der Industrie haben durch KI-Fehlkonfigurationen bereits Millionenschäden verursacht – meist ohne öffentliche Berichterstattung.
• Autonome Verkehrssteuerung: in Grossstädten zeigt gelegentlich Verhalten, das Entwickler nicht vorhersagen konnten – und das bei weit geringerer Komplexität als nationale Infrastruktur.

Die Frage ist nicht, ob es ein solches Ereignis geben wird. Gartner sagt: Es wird es geben.

Was Gartner konkret empfiehlt

Gartner nennt drei Massnahmen, die Organisationen mit KI in kritischen Systemen zwingend umsetzen sollten:

1. Kill-Switch implementieren: Für alle KI-gesteuerten Infrastruktursysteme muss ein sicherer Override-Modus existieren – zugänglich nur für autorisierte Personen, unabhängig vom KI-System selbst. Der Mensch muss jederzeit die Kontrolle zurückübernehmen können.

2. Digital Twins nutzen: Realistische Testumgebungen, in denen Updates und Konfigurationsänderungen vollständig simuliert werden, bevor sie in der Produktion ausgerollt werden. Kein Update ohne vorherigen Test in der Zwillingsumgebung.

3. Rollback-Mechanismen: Jede KI-Konfigurationsänderung muss in Echtzeit überwacht und bei Bedarf automatisch rückgängig gemacht werden können. Kontinuierliches Monitoring ist kein Luxus, sondern Grundanforderung.

Dazu kommt ein vierter, oft übersehener Punkt: Governance-Strukturen für KI-Deployments. Wer ist verantwortlich, wenn ein KI-System versagt? Welche Eskalationsprozesse existieren? Wie werden Konfigurationsänderungen dokumentiert und freigegeben? Diese Fragen sind heute in den wenigsten Organisationen klar beantwortet.

Was das für Schweizer Unternehmen bedeutet

Die Schweiz zählt zu den am stärksten vernetzten und digitalisierten Volkswirtschaften Europas. Energie, Verkehr, Finanzinfrastruktur, Gesundheitsversorgung – alle Bereiche setzen zunehmend auf automatisierte, KI-gestützte Systeme. Das ist eine Stärke. Aber sie wird zur Schwäche, wenn die Governance-Strukturen nicht Schritt halten.

Für IT-Verantwortliche in Schweizer Unternehmen bedeutet Gartners Warnung heute ganz konkret:

• Inventar erstellen: Welche kritischen Prozesse werden durch KI-Systeme gesteuert oder beeinflusst? Eine vollständige Übersicht ist die Grundlage jeder weiteren Massnahme.
• Governance definieren: Klare Verantwortlichkeiten, Freigabeprozesse für Updates und dokumentierte Rollback-Pläne für jedes KI-System in kritischen Prozessen.
• Human Oversight sicherstellen: KI-Systeme in kritischen Bereichen dürfen nicht vollständig autonom agieren. Menschliche Kontrollpunkte sind keine Ineffizienz – sie sind Sicherheitsarchitektur.
• Lieferkette prüfen: Partner und Lieferanten mit KI-gestützter Infrastruktur müssen auf ihre Governance-Reife bewertet werden. Ein Ausfall beim Lieferanten ist heute oft ein Ausfall im eigenen Betrieb.
• Incident-Response-Plan aktualisieren: KI-Fehlkonfigurationen müssen explizit als Szenario in Business-Continuity- und Disaster-Recovery-Pläne aufgenommen werden.

Fazit

Gartners Prognose ist ein Weckruf – nicht für Panikmache, sondern für strukturierte Vorbereitung. Die Technologie ist nicht das Problem. Das Problem ist, sie ohne ausreichende Kontrolle, Testinfrastruktur und Governance in kritische Systeme zu integrieren.

KI in der Infrastruktur bringt enorme Chancen. Aber sie verändert auch die Natur des Risikos fundamental. Die grösste Bedrohung kommt nicht mehr von aussen – sie entsteht im Inneren, still, unbeabsichtigt und oft unsichtbar, bis es zu spät ist.

Die nächste grosse Infrastrukturkrise wird möglicherweise kein Angriff sein. Sie wird ein Update sein. Warum auch fehlende KI-Investitionen ihren eigenen Preis haben, lesen Sie in unserem verwandten Beitrag.

Haben Sie Fragen zur KI-Governance in Ihrem Unternehmen? Kontaktieren Sie uns.

Quelle: Gartner – Gartner Predicts That by 2028 Misconfigured AI Will Shut Down National Critical Infrastructure in a G20 Country (Februar 2026)