KIVerantwortung kann man nicht auslagern – auch nicht an die KI
Sophos-Manager Rob Harrison über KI in Angriff und Abwehr. Warum Entscheidungen beim Menschen bleiben und was das für Kunden und Dienstleister heißt.
- Security
- KI
- Managed Services
In einem Interview mit SecurityToday ordnet Rob Harrison, Senior Vice President Product Management bei Sophos, die Sicherheitslage im Herbst 2026 ein – ergänzt von seinem Kollegen Tom Foucha. Es ist ein Partner-Beitrag, also kein neutraler Blick. Ein Satz daraus beschreibt aber ziemlich genau, wie wir als IT-Dienstleister arbeiten: „Verantwortung kann man nicht auslagern.“
Kernaussage
KI beschleunigt Angriff und Abwehr gleichermaßen. Entscheiden muss trotzdem ein Mensch – und es muss klar sein, wer: im Unternehmen, beim IT-Dienstleister und beim Hersteller. Wo das nicht geregelt ist, hilft auch das beste Werkzeug nicht.
Mehr Tempo, kaum neue Muster
Die Häufung von Angriffen im Oktober, in der Branche als „Black October“ bezeichnet, sieht Sophos nüchtern: Viele Vorfälle begannen Monate vorher und wurden nur zeitgleich bekannt. Ausgenutzt wurden nicht nur spektakuläre neue Lücken, sondern auch gewöhnliche, für die es längst Updates gab. KI verändert vor allem Tempo und Menge – wie zuletzt beim vollautomatischen Angriffswerkzeug, das Google entdeckt hat. Die Antwort darauf ist unspektakulär: Grundlagen pflegen, Systeme rund um die Uhr im Blick behalten, schneller patchen.
Automatisieren ja – aber in Leitplanken
Harrison zieht eine klare Grenze: Wer die Richtlinie einer Firewall oder eines Endpoint-Schutzes ändert, verändert, wie das Unternehmen arbeitet. Das gibt man nicht vollständig an eine KI ab. Automatisiert werden einzelne, geprüfte Reaktionen – getestet, nachvollziehbar und mit einer Bremse, falls etwas schiefgeht.
So halten wir es auch. Unsere automatische Firewall-Sperre bei Password Spraying reagiert in Sekunden, aber nach festen Regeln, die ein Mensch festgelegt hat und überwacht. Dass solche Regeln Ausnahmen und Kontrolle brauchen, haben wir selbst erlebt: Wenn das SIEM Kunden und Mitarbeiter aussperrt.
Die Sicherheits-Lieferkette verstehen
Mit NIS2 rückt die persönliche Verantwortung der Geschäftsführung in den Vordergrund – ähnlich wie im Finanzsektor schon lange üblich. Harrisons Rat gilt aber für jedes Unternehmen und jede Kommune: Wer mit Partnern arbeitet, muss wissen, wie sie arbeiten und wo die Verantwortung des einen endet und die des anderen beginnt. Wie schnell ein Dienstleister selbst zum Einfallstor wird, zeigen die Angriffe über ScreenConnect.
| Wer | verantwortet | kann das nicht abgeben |
|---|---|---|
| Geschäftsführung oder Verwaltungsspitze | Risiko, Budget, Entscheidungen | Die Verantwortung für das Ergebnis – auch wenn der Betrieb ausgelagert ist |
| IT-Dienstleister | Betrieb, Überwachung, Reaktion im Ernstfall | Die Sicherheit der eigenen Zugänge zu den Kunden |
| Hersteller | Qualität und Updates der Produkte | Die Pflicht, Lücken schnell zu schließen und offen zu melden |
| Jeder Mitarbeitende | Umgang mit Zugängen, Mails und Anrufen | Die Aufmerksamkeit im eigenen Arbeitsalltag |
Was die Geschäftsführung dabei belegen können sollte, beschreibt unser Beitrag Haftung entsteht durch fehlende Nachweise.
Der Mensch bleibt Ziel – und Schutz
Tom Foucha nennt ein Beispiel, das wir auch bei Kunden sehen: Callback-Phishing. Eine Mail über eine angebliche Bestellung kommt von einem echten Absender, besteht alle technischen Prüfungen und enthält keinen Link – nur eine Telefonnummer. Wer anruft, wird am Telefon getäuscht. Dagegen hilft kein Filter, sondern nur Wissen. Deshalb setzen wir auf regelmäßiges, automatisiertes Awareness-Training.
KI-Agenten: erst sehen, dann regeln, dann stoppen können
Für den Einsatz von KI-Agenten nennt Harrison drei Schritte: sichtbar machen, welche Agenten laufen und welche Daten sie teilen; Richtlinien festlegen, wer welche Agenten nutzen darf; und eingreifen können, wenn etwas aus dem Ruder läuft. Das deckt sich mit dem, was wir zu KI-Agenten mit Administratorrechten und zu den neuen Agenten-Vorlagen in Microsoft Entra geschrieben haben.
Vier Fragen, die Sie Ihrem IT-Dienstleister stellen sollten
- Was entscheidet bei Ihnen eine Automatik, was ein Mensch? Und wer kann eine Automatik im Notfall stoppen?
- Wie sind Ihre eigenen Zugänge zu unseren Systemen geschützt? Mehr-Faktor-Anmeldung, Protokollierung, schnelle Sperre.
- Wo endet Ihre Verantwortung und wo beginnt unsere? Am besten schriftlich, bevor es darauf ankommt.
- Wie erfahren wir von einem Vorfall – bei uns oder bei Ihnen? Und wie schnell?
Klare Zuständigkeiten statt Blackbox
Wir legen mit Ihnen fest, was automatisch passiert, was ein Mensch entscheidet und wer im Ernstfall wen informiert.
Kontakt aufnehmen