Security-Tools für KI-Infrastrukturen – ein Kaufratgeber

Julien Tromeur | shutterstock.com

Weil sich Generative-AI-Lösungen branchenübergreifend verbreiten, wächst das Sicherheitsbedürfnis der Anwender. Diesem gerecht zu werden, ist vor allem deshalb eine Challenge, weil die Technologie enormen Einfluss auf die IT-Infrastruktur und die Unternehmensdaten nimmt. Und weil kriminelle Cyberakteure längst erkannt haben, welches Potenzial für sie in diesem Umstand schlummert.

Gefragt sind deshalb neue, breit gefächerte Schutz- und Notfallmaßnahmen und Sicherheitssoftware, die spezifisch darauf ausgelegt ist, KI-Infrastrukturen abzusichern. Das hat längst diverse Cybersecurity-Anbieter dazu bewogen, entsprechende Lösungen zu entwickeln. Oder bestehende Produkte mit entsprechenden Features anzureichern. Dieses Wachstumssegment des Security-Markts läuft auch unter der Bezeichnung “AI Security Posture Management” – kurz AI-SPM.

In diesem Artikel erfahren Sie:

• was Security-Lösungen ausmacht, die KI-Infrastrukturen absichern.
• was AI-SPM-Tools leisten sollten und
• welche Anbieter und Produkte in diesem Bereich wichtig sind.

CSPM, DSPM und AI-SPM

AI Security Posture Management fokussiert darauf, die Integrität und Sicherheit von KI- und ML-Systemen zu gewährleisten. Dabei umfasst AI-SPM Strategien, Tools und Techniken, um Daten, Pipelines, Applikationen und Services mit Blick auf ihre Sicherheitslage:

• zu überwachen,
• zu bewerten und
• zu optimieren.

Bisher wurden Security Posture Management Tools für zwei separate Bereiche entwickelt:

• Cloud Security Posture Management (CSPM-) Tools sollen den Cloud-Betrieb allgemein absichern, in erster Linie gegen Fehlkonfigurationen und Missbrauch.
• Data Security Posture Management (DSPM-) Tools sollen vor Datenlecks und Malware-Infektionen schützen.

Das Aufkommen von künstlicher Intelligenz (KI) und Large Language Models (LLMs) hat dann Bedarf für eine dritte Produktkategorie geschaffen, die gemanagte KI-Cloud-Services und ihre SDKs (beispielsweise Hugging Face Transformer oder Azure Open AI) überwacht und KI-Modellmissbrauch verhindert – AI-SPM.

Dass das nötig war, unterstreichen diverse Research-Erkenntnisse, -Beiträge und weitere Ressourcen:

• Eine Studie des API-Spezialisten Kong (Download gegen Daten) kommt zu dem Ergebnis, dass eine Mehrheit der Befragten Wege gefunden hat, Beschränkungen mit Blick auf die KI-Nutzung zu umgehen. Ein Viertel muss sich erst gar nicht mit so etwas wie Guidelines herumschlagen.
• Die Non-Profit-Organisation MITRE stellt mit seiner Adversarial Threat Landscape for Artificial Intellgence Systems (ATLAS) eine umfassende Datenbank mit Angriffstaktiken zur Verfügung, die auf “In the wild”-Beobachtungen beruht.
• Auch das MIT betreibt eine aktive Datenbank, die mehr als 700 Risiken in Zusammenhang mit KI-Systemen bereithält.
• Eine weitere Quelle, um sich mit KI-bezogenen Angriffsmethoden auseinanderzusetzen, bietet das 2023 von OWASP veröffentlichte LLM-Exploit-Ranking (PDF). Die Non-Profit-Organisation hat zudem eine Checkliste für GenAI-Sicherheit veröffentlicht.

Sich mit diesen Quellen auseinanderzusetzen, empfiehlt sich, bevor Sie sich für ein Sicherheits-Tool oder -Feature aus dem Bereich AI-SPM entscheiden.

Was Security Posture Management für KI leisten sollte

Tools im Bereich AI Security Posture Management:

• bieten im Regelfall agentenlose Konfigurationen,
• greifen auf Cloud-basierte Modelle zu und
• belassen Daten auf den vorhandenen Plattformen.

Letzteres dient sowohl der Sicherheit als auch dazu, die Verlagerung der damit verbundenen, massiven Datenbestände zu vermeiden. Darüber hinaus spielen bei Security-Tools für KI-Infrastrukturen natürlich auch KI-bezogene Funktionen eine Rolle. Zum Beispiel um große Datenmengen zu klassifizieren, zu tracken und gegen mögliche Missbrauchs- und Angriffsversuche abzusichern.

Einige Anbieter haben ihre bestehenden CSPM- oder DSPM-Lösungen um AI-SPM-Features erweitert – inklusive Compliance-Prüfverfahren, Best Practices und Richtlinien, die alle drei Security-Posture-Management-Arten abdecken. Andere offerieren umfassendere Lösungen, die eine Vielzahl KI-bezogener Sicherheitsmaßnahmen beinhalten. Zum Beispiel, um:

• KI-Pipelines und Workloads schützen,
• zu erkennen, wenn KI-Modelle sensible Daten referenzieren,
• Trainingsdaten auf Manipulationen durch Dritte oder externe Applikationen zu überprüfen oder
• KI-Services und -Plattformen abzusichern.

9 wichtige AI-SPM-Anbieter

Im Folgenden haben wir die AI-SPM-Produkte und -Features neun verschiedener Anbieter für Sie zusammengefasst. Sämtliche Lösungen versprechen, Ihre KI-Infrastruktur abzusichern, verlassen sich dazu jedoch auf unterschiedliche Ansätze.

Dabei ist zu beachten, dass es sich um einen Markt handelt, der im Wachstum begriffen ist. Die Produkte sind also noch nicht so umfassend ausgestaltet und integriert, wie sie sein könnten. Zudem arbeiten diverse weitere Sicherheitsanbieter aktiv an ähnlichen Offerings.

• Cyera.io ist auf Datenklassifizierung spezialisiert und hat eine DSPM-Plattform im Angebot, die um AI-SPM-Features erweitert wird. Die Lösung verspricht beispielsweise Einblicke, auf welche Datenklassen und Data Stores Microsoft-Copilot-Nutzer zugreifen können.
• LegitSecurity hat sich auf die Fahnen geschrieben, das “AI Visibility Gap” schließen zu wollen. Dazu untersucht die AI-SPM-Plattform KI-Modelle, Code Repositories, kryptografische Secrets und andere KI-bezogene Instanzen. Auf dieser Grundlage entstehen schließlich Risk Scores, um entsprechend priorisieren zu können. Mit dieser Lösung können Sie beispielsweise nachvollziehen, welche User Github Copilot auf der Basis von unsicheren KI-Modellen verwenden.
• Microsoft stellt AI-Security-Posture-Management-Funktionen im Rahmen einer Preview für sein CSPM-Angebot zur Verfügung. Das fertige Produkt soll Ende 2024 zur Verfügung stehen und zum Einsatz kommen, um GenAI-Applikationen in Multi- oder Hybrid-Cloud-Szenarien abzusichern. Dazu wird zum Beispiel eine GenAI-Softwarestückliste (AI BOM) erfasst.
• Orca Security verspricht mit seiner Mehrzweck-Sicherheitsplattform unter anderem eine “Ende-zu-Ende”-AI-SPM-Lösung. Diese scannt unter anderem mehr als 50 verschiedene KI-Modellquellen und schlägt Alarm, wenn sie dort – oder in Trainingsdaten-Repositories – sensible Informationen oder Geheimnisse entdeckt.
• Palo Alto Networks hat Ende 2023 die Übernahme des DSPM-Spezialisten Dig Security abgeschlossen und diesen inzwischen vollständig integriert. Das Ergebnis heißt Prisma Cloud AI-SPM und ermöglicht zum Beispiel Top-Level-Scans der KI-Services von AWS, Google Cloud und Azure.
• Protect AI hat ein umfassendes Security-Posture-Management-Portfolio für KI von Grund auf neu aufgebaut. Das besteht aus verschiedenen Produkten für spezifische Bereiche, beispielsweise eine Schwachstellendatenbank für KI/ML-Lieferketten. Darüber hinaus stellt dieser Anbieter auch eine Reihe von AI-SPM-Open-Source-Produkten zur freien Verfügung, darunter ein ML-Modell-Scanner, ein Security Toolkit für LLM-Interaktionen sowie ein Werkzeug, um Prompt-Injection-Angriffe zu erkennen.
• Securiti.ai verspricht mit seinem Produkt “AI Security & Governance” Schutz für KI-Instanzen. Dieses ermöglicht zum Beispiel KI-Modellrisiken zu bewerten und zu klassifizieren, Compliance-Prüfungen vorzunehmen oder Kontrollmaßnahmen für Daten und KI-Systeme zu etablieren.
• Varonis hat seine Sicherheitsplattform ebenfalls um “AI Security” erweitert. Das ermöglicht unter anderem, risikobehaftete KI-Fehlkonfigurationen zu erkennen und zu beheben, KI-generierte Inhalte mit Sensibilitäts-Labels zu versehen sowie KI-Workloads oder Datenflüsse zu erkennen, die sensible Informationen beinhalten. Für Microsoft Copilot steht ein eigenes (aufpreispflichtiges) Modul zur Verfügung – demnächst sollen weitere für Salesforce Einstein und Google Gemini folgen.
• Wiz Security verfügt über einschlägige DSPM- und CSPM-Erfahrungswerte und hat auch eine dedizierte KI-SPM-Lösung im Angebot. Diese verspricht zum Beispiel umfassende Einblicke in KI-Pipelines sowie Detektions-Möglichkeiten für Angriffspfade oder Fehlkonfigurationen.

Sie wollen weitere interessante Beiträge rund um das Thema IT-Sicherheit lesen? Unser kostenloser Newsletter liefert Ihnen alles, was Sicherheitsentscheider und -experten wissen sollten, direkt in Ihre Inbox.

Jetzt CSO-Newsletter sichern