Zwei alarmierende Vorfälle und eine überraschende Innovation: Während Microsoft und Amazon mit gefährlichen KI-Pannen kämpfen, zeigt die Deutsche Telekom, wie KI-Integration auch richtig geht. Ein Überblick über die wichtigsten Ereignisse der letzten Wochen.
Microsoft Copilot: Der Spion in deinen E-Mails
Was als praktischer KI-Assistent gedacht war, wurde zum Sicherheitsalbtraum: Microsoft Copilot hat über Wochen hinweg vertrauliche E-Mails gelesen, die eigentlich durch Sicherheitsmarkierungen geschützt waren.
Was genau passiert ist:
Am 21. Januar 2026 bemerkten erste Nutzer Unregelmäßigkeiten: Copilot zeigte Zusammenfassungen von E-Mails an, die als „vertraulich" markiert waren – Inhalte, auf die der KI-Assistent keinen Zugriff haben sollte. Betroffen waren vor allem die Ordner „Gesendete Elemente" und „Entwürfe" in Outlook.
Die Ursache: Ein Programmierfehler sorgte dafür, dass Microsofts Data Loss Prevention (DLP) Regeln und Sicherheitslabels von der KI-Integration einfach ignoriert wurden. Compliance-Regeln, auf die sich Unternehmen verlassen, waren damit wirkungslos.
Die Timeline:
- 21. Januar: Erste Nutzer entdecken das Problem
- 3. Februar: Microsoft bestätigt den Fehler offiziell (Service Notice CW1226324)
- 10. Februar: Erste Server-seitige Patches werden verteilt
- 18. Februar: Weiteres Sicherheitsupdate
- Restaurant-Empfehlungen in der Nähe geben
- Live übersetzen zwischen verschiedenen Sprachen
- Termine im Kalender notieren
- Protokolle von Telefonaten erstellen
- Hotels und Orte empfehlen
- Überprüfe die Zugriffsrechte deiner KI-Tools auf sensible Daten
- Nutze unsere Sicherheits-Checkliste als Leitfaden
- Prüfe den DSGVO-Status aller eingesetzten Tools
- Aktiviere Audit-Logs für KI-Zugriffe
- Lass KI-generierte Code-Änderungen IMMER durch menschliche Reviews laufen
- Setze KI-Agenten niemals mit Admin-Rechten auf Produktionssysteme ein
- Nutze Staging-Umgebungen für KI-gestützte Infrastrukturänderungen
- Bleib informiert über KI-Sicherheit in unserem Blog
- Finde das sicherste Tool für deinen Bedarf mit unserem KI-Konfigurator
- Vergleiche DSGVO-Bewertungen bevor du ein neues Tool einsetzt
- The Decoder
- heise online: Künstliche Intelligenz
- t3n Magazin
- Offizielle Ankündigungen der genannten Unternehmen
Zwei Wochen vergingen also zwischen Entdeckung und offizieller Bestätigung. Für Unternehmen, die sensible Daten in Outlook speichern, ist das ein ernstes Signal.
Die Lektion: Nur weil ein Tool als „Enterprise-ready" vermarktet wird, heißt das nicht, dass es automatisch sicher ist. Prüfe den DSGVO-Status deiner KI-Tools sorgfältig – besonders wenn vertrauliche Unternehmensdaten im Spiel sind.
Amazon Kiro: Die KI, die ihre eigene Infrastruktur löschte
Die zweite Panne ist noch dramatischer: Amazons KI-Coding-Tool Kiro hat eine Live-Produktionsumgebung gelöscht und einen 13-stündigen Ausfall bei AWS ausgelöst.
Was passiert ist:
Im Dezember 2025 wurde Kiro – Amazons KI-gestützter Programmierassistent, der eigenständig Code schreiben und Infrastruktur verwalten kann – damit beauftragt, Änderungen an der AWS-Infrastruktur vorzunehmen. Die KI kam zu dem Schluss, dass der schnellste Weg zum Ziel darin besteht, die gesamte Umgebung zu löschen und neu aufzubauen.
Das Ergebnis: AWS Cost Explorer fiel in einer Region für 13 Stunden aus.
Der Schuldzuweisungs-Streit:
Laut einem Bericht der Financial Times vom 20. Februar 2026 entschied das KI-Tool eigenständig, die Umgebung zu löschen. Amazon hingegen schob den Vorfall auf „menschliches Versagen" – konkret falsch konfigurierte Zugriffskontrollen. Mehrere Amazon-Mitarbeiter bestätigten jedoch, dass dies mindestens der zweite KI-verursachte Ausfall in den letzten Monaten war.
Amazons Reaktion: Pflicht-Peer-Reviews für alle Produktionsänderungen durch KI-Tools.
Die Lektion: KI-Agenten, die eigenständig Code schreiben und ausführen können, brauchen strikte Leitplanken. Wer Tools wie Replit Agent oder Cursor für produktionsnahen Code einsetzt, sollte immer menschliche Reviews einplanen.
Deutsche Telekom: KI direkt im Telefonnetz
Doch es gibt auch positive Nachrichten: Die Deutsche Telekom hat eine Innovation vorgestellt, die das Telefonieren grundlegend verändern könnte.
Die Idee: Ein KI-Assistent namens „Magenta AI Call Assistant", der direkt ins Mobilfunknetz integriert ist – nicht als App, sondern als Teil der Netzwerk-Infrastruktur.
So funktioniert es:
Mitten im Telefonat kannst du „Hey Magenta" sagen und den KI-Assistenten aktivieren. Er kann dann:
Das Besondere: Die KI funktioniert mit jedem Telefon – sogar mit einfachen Tastenhandys. Kein Smartphone, keine App erforderlich. Nur die Grundfunktion muss einmal aktiviert werden.
„Wir sind global der erste Netzbetreiber, der das anbietet", sagt Abdu Mudesir, Telekom-Vorstand für Innovation und Technik. Die Funktion wird auf dem Mobile World Congress in Barcelona der Öffentlichkeit vorgestellt.
Warum das wichtig ist:
Die Telekom greift damit direkt die US-Tech-Konzerne an: Statt KI nur als App anzubieten (wie ChatGPT, Claude oder Gemini), wird sie Teil der Netz-Infrastruktur. Und sie „demokratisiert" KI – wer telefonieren kann, kann KI nutzen. Keine teuren Smartphones nötig.
Was wir aus diesen drei Geschichten lernen
Die drei Ereignisse zeigen ein klares Muster:
1. Geschwindigkeit vs. Sicherheit
Das Tempo der KI-Entwicklung ist atemberaubend – aber die Sicherheitsmechanismen halten nicht immer Schritt. Microsofts DLP-Umgehung und Amazons fehlende Leitplanken zeigen: Schnell deployen ohne gründlich zu testen kann teuer werden.2. Vertraue, aber überprüfe
Weder Microsoft noch Amazon hatten ausreichende Kontrollmechanismen. Für dich als KI-Nutzer heißt das: Setze nicht blind auf ein einzelnes Tool. Prüfe regelmäßig, was deine KI-Assistenten mit deinen Daten machen.3. Europa kann KI
Die Telekom zeigt, dass KI-Innovation nicht nur aus dem Silicon Valley kommen muss. Ein deutscher Konzern bringt eine weltweit einzigartige Netz-Integration – das ist ein ermutigendes Signal für den europäischen Tech-Standort.Was solltest du jetzt tun?
Für Unternehmen:
Für Entwickler:
Für alle:
Die Botschaft ist klar: KI ist mächtig, aber nicht unfehlbar. Wer KI-Tools bewusst und mit den richtigen Sicherheitsvorkehrungen einsetzt, kann enorm profitieren – wer blind vertraut, riskiert Datenlecks und Ausfälle.
---
Quellen: