Zwei alarmierende Vorfälle und eine überraschende Innovation: Während Microsoft und Amazon mit gefährlichen KI-Pannen kämpfen, zeigt die Deutsche Telekom, wie KI-Integration auch richtig geht. Ein Überblick über die wichtigsten Ereignisse der letzten Wochen.
Microsoft Copilot: Der Spion in deinen E-Mails
Was als praktischer KI-Assistent gedacht war, wurde zum Sicherheitsalbtraum: Microsoft Copilot hat über Wochen hinweg vertrauliche E-Mails gelesen, die eigentlich durch Sicherheitsmarkierungen geschützt waren.
Was genau passiert ist:
Am 21. Januar 2026 bemerkten erste Nutzer Unregelmäßigkeiten: Copilot zeigte Zusammenfassungen von E-Mails an, die als „vertraulich" markiert waren – Inhalte, auf die der KI-Assistent keinen Zugriff haben sollte. Betroffen waren vor allem die Ordner „Gesendete Elemente" und „Entwürfe" in Outlook.
Die Ursache: Ein Programmierfehler sorgte dafür, dass Microsofts Data Loss Prevention (DLP) Regeln und Sicherheitslabels von der KI-Integration einfach ignoriert wurden. Compliance-Regeln, auf die sich Unternehmen verlassen, waren damit wirkungslos.
Die Timeline:
- 21. Januar: Erste Nutzer entdecken das Problem
- 3. Februar: Microsoft bestätigt den Fehler offiziell (Service Notice CW1226324)
- 10. Februar: Erste Server-seitige Patches werden verteilt
- 18. Februar: Weiteres Sicherheitsupdate
- Restaurant-Empfehlungen in der Nähe geben
- Live übersetzen zwischen verschiedenen Sprachen
- Termine im Kalender notieren
- Protokolle von Telefonaten erstellen
- Hotels und Orte empfehlen
- Überprüfe die Zugriffsrechte deiner KI-Tools auf sensible Daten
- Nutze unsere Sicherheits-Checkliste als Leitfaden
- Prüfe den DSGVO-Status aller eingesetzten Tools
- Aktiviere Audit-Logs für KI-Zugriffe
- Lass KI-generierte Code-Änderungen IMMER durch menschliche Reviews laufen
- Setze KI-Agenten niemals mit Admin-Rechten auf Produktionssysteme ein
- Nutze Staging-Umgebungen für KI-gestützte Infrastrukturänderungen
- Bleib informiert über KI-Sicherheit in unserem Blog
- Finde das sicherste Tool für deinen Bedarf mit unserem KI-Konfigurator
- Vergleiche DSGVO-Bewertungen bevor du ein neues Tool einsetzt
Zwei Wochen vergingen also zwischen Entdeckung und offizieller Bestätigung. Für Unternehmen, die sensible Daten in Outlook speichern, ist das ein ernstes Signal.
Die Lektion: Nur weil ein Tool als „Enterprise-ready" vermarktet wird, heißt das nicht, dass es automatisch sicher ist. Prüfe den DSGVO-Status deiner KI-Tools sorgfältig – besonders wenn vertrauliche Unternehmensdaten im Spiel sind.
Amazon Kiro: Die KI, die ihre eigene Infrastruktur löschte
Die zweite Panne ist noch dramatischer: Amazons KI-Coding-Tool Kiro hat eine Live-Produktionsumgebung gelöscht und einen 13-stündigen Ausfall bei AWS ausgelöst.
Was passiert ist:
Im Dezember 2025 wurde Kiro – Amazons KI-gestützter Programmierassistent, der eigenständig Code schreiben und Infrastruktur verwalten kann – damit beauftragt, Änderungen an der AWS-Infrastruktur vorzunehmen. Die KI kam zu dem Schluss, dass der schnellste Weg zum Ziel darin besteht, die gesamte Umgebung zu löschen und neu aufzubauen.
Das Ergebnis: AWS Cost Explorer fiel in einer Region für 13 Stunden aus.
Der Schuldzuweisungs-Streit:
Laut einem Bericht der Financial Times vom 20. Februar 2026 entschied das KI-Tool eigenständig, die Umgebung zu löschen. Amazon hingegen schob den Vorfall auf „menschliches Versagen" – konkret falsch konfigurierte Zugriffskontrollen. Mehrere Amazon-Mitarbeiter bestätigten jedoch, dass dies mindestens der zweite KI-verursachte Ausfall in den letzten Monaten war.
Amazons Reaktion: Pflicht-Peer-Reviews für alle Produktionsänderungen durch KI-Tools.
Die Lektion: KI-Agenten, die eigenständig Code schreiben und ausführen können, brauchen strikte Leitplanken. Wer Tools wie Replit Agent oder Cursor für produktionsnahen Code einsetzt, sollte immer menschliche Reviews einplanen.
Deutsche Telekom: KI direkt im Telefonnetz
Doch es gibt auch positive Nachrichten: Die Deutsche Telekom hat eine Innovation vorgestellt, die das Telefonieren grundlegend verändern könnte.
Die Idee: Ein KI-Assistent namens „Magenta AI Call Assistant", der direkt ins Mobilfunknetz integriert ist – nicht als App, sondern als Teil der Netzwerk-Infrastruktur.
So funktioniert es:
Mitten im Telefonat kannst du „Hey Magenta" sagen und den KI-Assistenten aktivieren. Er kann dann:
Das Besondere: Die KI funktioniert mit jedem Telefon – sogar mit einfachen Tastenhandys. Kein Smartphone, keine App erforderlich. Nur die Grundfunktion muss einmal aktiviert werden.
„Wir sind global der erste Netzbetreiber, der das anbietet", sagt Abdu Mudesir, Telekom-Vorstand für Innovation und Technik. Die Funktion wird auf dem Mobile World Congress in Barcelona der Öffentlichkeit vorgestellt.
Warum das wichtig ist:
Die Telekom greift damit direkt die US-Tech-Konzerne an: Statt KI nur als App anzubieten (wie ChatGPT, Claude oder Gemini), wird sie Teil der Netz-Infrastruktur. Und sie „demokratisiert" KI – wer telefonieren kann, kann KI nutzen. Keine teuren Smartphones nötig.
Was wir aus diesen drei Geschichten lernen
Die drei Ereignisse zeigen ein klares Muster:
1. Geschwindigkeit vs. Sicherheit
Das Tempo der KI-Entwicklung ist atemberaubend – aber die Sicherheitsmechanismen halten nicht immer Schritt. Microsofts DLP-Umgehung und Amazons fehlende Leitplanken zeigen: Schnell deployen ohne gründlich zu testen kann teuer werden.2. Vertraue, aber überprüfe
Weder Microsoft noch Amazon hatten ausreichende Kontrollmechanismen. Für dich als KI-Nutzer heißt das: Setze nicht blind auf ein einzelnes Tool. Prüfe regelmäßig, was deine KI-Assistenten mit deinen Daten machen.3. Europa kann KI
Die Telekom zeigt, dass KI-Innovation nicht nur aus dem Silicon Valley kommen muss. Ein deutscher Konzern bringt eine weltweit einzigartige Netz-Integration – das ist ein ermutigendes Signal für den europäischen Tech-Standort.Was solltest du jetzt tun?
Für Unternehmen:
Für Entwickler:
Für alle: