Agentic AI Control: Neue Risiken, Neue Sicherheits-Strategien

Ein KI-Agent verfolgt sein Ziel eigenständig, wählt die Schritte selbst, liest Dateien, ruft Werkzeuge und Programmierschnittstellen auf und handelt dabei mit den Rechten des angemeldeten Nutzers. Andreas Fuchs, Director Product Management bei der DriveLock SE, erklärt im Gespräch mit Thomas Joos, warum Least Privilege dafür zu kurz greift und was Least Agency zusätzlich begrenzt, also die erlaubten Handlungen, die Werkzeuge, die Länge der Handlungskette und das Zeitfenster.

Weitere Themen sind die bestimmbaren Systemgrenzen auf dem Endgerät mit Verzeichnis, Leserecht, gesperrter Shell und freigegebenen Netzzielen, dazu MCP-Server als erweiterte Angriffsfläche, Schatten-KI in der Telemetrie, der Einwand gegen Monitoring to Policy, Artikel 50 der KI-Verordnung seit dem 02.08.2026 und die Haftung der Geschäftsleitung nach NIS2. Zum Schluss nennt Fuchs drei Schritte für den Start, also Sichtbarkeit, begrenzte Handlungsmacht und Protokollierung, dazu die ersten zwei Stunden in einem Betrieb mit 300 Arbeitsplätzen ohne eigenes Sicherheitsteam.