IT-Security für AI
Risiken und Zugriffe durch AI unter Kontrolle bringen und gezielt absichern
Künstliche Intelligenz verändert die Angriffsflächen in der IT-Security grundlegend. Unkontrollierte Nutzung und fehlende Transparenz schaffen neue Risiken. Ohne gezielte Kontrolle bleiben diese unsichtbar.
Übersicht AI in IT-Security
Die Nutzung von künstlicher Intelligenz eröffnet Unternehmen neue Möglichkeiten, verändert aber gleichzeitig die Risikolandschaft in der IT-Security grundlegend. Neue Technologien bringen neue Angriffsflächen und erschweren durch komplexere Datenflüsse die Kontrolle. Die dabei entstehenden Schwachstellen treten vor allem an zwei Punkten auf: beim User und bei den internen LLMs.
Die Verantwortung liegt nicht bei den KI-Tools, sondern bei den Unternehmen, die es nutzen. Für eine zeitgemässe IT-Security sind die Beschränkung der Zugriffe und Berechtigungen, die Kontrolle und der Schutz der eingesetzten KI-Applikationen sowie ein kontinuierliches Monitoring unverzichtbar. Diverse Hersteller wie Zscaler, Check Point oder Netskope haben Lösungen entwickelt, welche in genau diesen Bereichen ansetzen.
Risiken für Unternehmen
Künstliche Intelligenz erweitert die Bedrohungslandschaft über klassische IT-Security hinaus. Risiken entstehen dabei weniger durch einzelne Technologien, sondern durch fehlende Transparenz, Kontrolle und unklare Prozesse im Umgang mit AI. Die folgenden Bereiche sind für Unternehmen heute besonders kritisch.
Daten- und Zugriffsrisiken
Sensible Informationen gelangen häufig durch direkte Eingaben oder unkontrollierte Datenverarbeitung in AI-Systeme. Gleichzeitig sind Zugriffe nicht klar definiert oder ausreichend eingeschränkt. Dies erhöht das Risiko von Data Leakage, verletzt das Need-to-know-Prinzip und begünstigt Privilege Escalation.
Fehlende Kontrolle der Nutzung
Die Nutzung nicht freigegebener Tools (Shadow AI) und ungewollt integrierte AI-Funktionen führen dazu, dass sensible Daten ausserhalb der kontrollierten Systeme verarbeitet werden. Unternehmen verlieren dadurch die Transparenz über Datenflüsse und die tatsächliche Nutzung von AI.
Autonome AI Agents
Moderne AI-Systeme sind zunehmend in der Lage, eigenständig Entscheidungen zu treffen und miteinander zu interagieren. Dadurch entsteht eine Dynamik, die nur noch begrenzt steuerbar ist und die Kontrolle über Prozesse erschwert.
Neue Angriffsvektoren
AI eröffnet neue Möglichkeiten für Angriffe, beispielsweise durch gezielte Manipulation mittels Prompt Injection oder durch die Ausnutzung von Systemlogiken. Klassische Sicherheitsmechanismen reichen in solchen Szenarien oft nicht mehr aus.
Verlässlichkeit von Outputs
Die von AI generierten Inhalte wirken häufig plausibel, können jedoch inhaltlich falsch sein. Neben diesen sogenannten Halluzinationen besteht die Gefahr, dass Outputs nicht vollständig verstanden und hinterfragt werden. Zum Beispiel bei AI generiertem Code (Vibe Coding) führt das dazu, dass sich Sicherheitslücken einschleichen und die Nachvollziehbarkeit von Systemen langfristig leidet.
Betriebs- und Compliance-Risiken
Neben technischen Risiken entstehen auch operative und regulatorische Herausforderungen. Unklare Prozesse im Datenmanagement, steigende Kosten sowie rechtliche Unsicherheiten erhöhen die Komplexität im Betrieb deutlich.
Handlungsfelder in der IT-Security
Und wie geht man mit den Cybersecurity Risiken bei Nutzung von AI um? Einerseits ist es notwendig, die internen Prozesse und Richtlinien auf ihre Aktualität zu überprüfen und anzupassen. Bei allen Vorkehrungen bleibt der Faktor Mensch ein zentraler Hebel bei der Verbesserung der IT Security, daher Awareness-Kampagnen und -Trainings zu empfehlen. Auch eine Überwachung der Kosten hilft, die Risiken zu minimieren. Dennoch sollte auch das bestehende IT Security Setup aufgerüstet werden. Dafür gibt es verschiedene Ansätze: die Kontrolle der User, der Schutz von Apps und Daten und Validierung und Monitoring der getroffenen Vorkehrungen.
Nutzung überwachen
Vielen Unternehmen fehlt eine Übersicht der eingesetzten KI-Tools, ausserdem sind Zugriffe häufig nicht ausreichend eingeschränkt und sensible Daten gelangen durch direkte Eingabe in AI-Systeme. Datenlecks oder unbefugte Login-Versuche können die Folge davon sein. AI Usage control (AIUC) setzt bei der Nutzung an. Der Endnutzer-Zugriff wird mittels Zugriffsrichtlinien kontrolliert, Inhalte können mitgeloggt werden und werden gefiltert, bevor sie an Drittanbieter wie ChatGPT oder Microsoft Copilot weitergegeben werden. Das verhindert Datenlecks durch Prompts und Antworten.
Applikationen & Daten schützen
Mit dem Einsatz von internen LLMs (Large Language Model) und selbst gebauten KI-Anwendungen entsteht das Risiko, dass die Systemlogik oder Sicherheitslücken von Angreifern ausgenutzt werden. Ausserdem ist die Kontrolle der AI Agents eine Herausforderung für Unternehmen. AI Application Cybersecurity (AIAC) und LLM-WAF (LLM Web Application Firewall) beschreibt den Schutz von internen LLMs und selbst gebauten KI-Anwendungen. Über eine API-Einbindung werden Inputs und Outputs in Echtzeit validiert, was zum Beispiel Prompt Injections verhindert.
Validierung & Monitoring
Um die Wirksamkeit von Sicherheitsmassnahmen zu überprüfen, ist gezieltes AI Red Teaming erforderlich. Mittels simulierten Attacken (Pentesting) werden die AI-Systeme auf allfällige Sicherheitslücken getestet. Je nach Anbieter werden diese Penetration Tests einmalig oder permanent durchgeführt.
Angebotsübersicht
Diverse Hersteller bieten bereits Lösungen für die verschiedenen Handlungsfelder in der IT-Security an. Daraus ergibt sich die passende Lösung für jedes Setup und den jeweiligen Einsatz von KI im Unternehmen – sei es im Bereich Nutzungskontrolle via AIUC, Schutz von Daten und KI-Applikationen mittels AIAC oder Validierung & Monitoring durch AI Red Teaming.
AI Usage Control (AIUC)
AI Application Cybersecurity (AIAC)
AI Red Teaming
Check Point Workforce AI Security
Zscaler AI Access Security
Netskope AI Guardrails
CrowdStrike Falcon AI Detection & Response “Securing Workforce”
Tenable One AI Exposure
Fortinet FortiView for AI
Check Point AI Agent Security
Zscaler AI Guardrails, AI SPM, DSPM
Netskope AI Gateway
CrowdStrike Falcon AI Detection & Response “Securing AI Agents & Workloads”
Check Point AI Red Teaming
Zscaler AI Red Teaming
Netskope AI Red Teaming
Warum AVANTEC?
Seit über 30 Jahren prüfen wir IT-Security-Lösungen auf Herz und Nieren. Durch unseren Best-of-Breed-Ansatz nehmen wir nur Hersteller in unser Portfolio auf, die in unseren umfangreichen Tests vollumfänglich überzeugen. Mit unserem Cyber Defense Center unterstützen wir Sie 365 Tage im Jahr rund um die Uhr.
Haben Sie Fragen? Wir helfen Ihnen gerne weiter!
Haben Sie eine Frage zu unseren Produkten und Dienstleistungen? Wünschen Sie weitere Informationen oder Kontakt mit einem Engineer oder Account Manager? Wir freuen uns auf Ihre Kontaktaufnahme.
Unsere Fachspezialisten helfen Ihnen gerne weiter!
