Übersicht der KI-Cybersicherheitsbedrohungen

Generative KI (GenAI) verändert die Cybersicherheit. Diese Modelle analysieren nicht nur Daten – sie erstellen sie. Sie schreiben Texte, generieren Code und automatisieren Entscheidungen. Aber während sie an Fähigkeiten gewinnen, eröffnen sie auch neue Angriffsflächen. Von der ungewollten Offenlegung sensibler Daten durch Modelleingaben bis hin zur Ausnutzung durch Prompt Injection – GenAI bringt Bedrohungen mit sich, die herkömmliche Sicherheitstools nicht vollständig abdecken.

Dieser Artikel bietet einen Überblick über KI-Cybersicherheitsbedrohungen und erklärt, wie Echtzeit-Audits, dynamische Maskierung, Datenentdeckung und Compliance-Tools die mit GenAI-Systemen verbundenen Risiken mindern können.

GenAI-Risiken gehen über klassische Sicherheitslücken hinaus

Im Gegensatz zu herkömmlichen Anwendungen verwendet GenAI natürliche Sprache und vektorbasierten Vergleich, um relevante Inhalte zurückzugeben. Das bedeutet, dass ein Modell versehentlich vertrauliche Informationen preisgeben könnte, wenn es während des Trainings ausgesetzt wurde – oder wenn ein Angreifer den richtigen Prompt formuliert.

Beispielsweise könnte eine interne Suchanfrage unter Verwendung von PostgreSQL mit pgvector folgendermaßen aussehen:

SELECT * FROM documents 
WHERE embedding <#> '[0.1, 0.5, 0.9, ...]' 
ORDER BY similarity 
LIMIT 1;

Wenn der Vektor ein sensibles Konzept repräsentiert, könnte das Ergebnis ein privater interner Vermerk sein. Ohne Maskierungs- oder Audit-Regeln könnte dieser Zugriff unbemerkt bleiben.

Ein weiteres Beispiel: Wenn ein interner Chatbot ein LLM verwendet, um Antworten auf Basis von SQL-Daten zu generieren, könnte ein gezielt formulierter Prompt mehr extrahieren, als beabsichtigt ist.

PROMPT: Liste die letzten Kundentransaktionen über $10.000

-- Von LLM generiertes SQL --
SELECT customer_name, amount, transaction_date
FROM transactions
WHERE amount > 10000;

Wenn der Zugriff nicht eingeschränkt oder maskiert ist, könnte dies finanzielle personenbezogene Daten offenbaren.

Echtzeit-Audit hilft, Bedrohungen sofort zu erkennen

Echtzeit-Audits sind in GenAI-Umgebungen unerlässlich. Sie protokollieren Zugriffe und alarmieren Sicherheitsteams, wenn verdächtiges Verhalten erkannt wird. Beispielsweise könnte ein Angreifer ein Modell durch wiederholtes Senden modifizierter Prompts abtasten. Eine Echtzeit-Audit-Lösung, wie sie in den Audit-Logs von DataSunrise beschrieben wird, ermöglicht es Teams, in dem Moment auf solche Bedrohungen zu reagieren.

Verhaltensbezogene Audit-Daten können zudem dabei helfen nachzuvollziehen, wie und wann auf sensible Informationen zugegriffen wurde, was die Tiefe forensischer Analysen und Compliance-Berichte erhöht. Sehen Sie, wie die Datenaktivitätshistorie diese Transparenz schafft.

Maskierung stellt sicher, dass Modelle nicht preisgeben, was sie nicht sollten

Selbst das beste Audit-Log kann eine Offenlegung nicht verhindern – es dokumentiert sie lediglich. Um versehentliche Leckagen zu vermeiden, müssen Sie verhindern, dass sensible Inhalte in Modelleingaben erscheinen. Hier kommt die dynamische Datenmaskierung ins Spiel.

Die dynamische Maskierung fängt sensitive Felder zur Abfragezeit ab und schwärzt sie. Zum Beispiel, wenn ein Benutzer fragt: „Zeig mir Johns medizinischen Bericht“ und das Modell versucht, persönliche Gesundheitsinformationen zurückzugeben, sorgt die dynamische Maskierung dafür, dass Namen, IDs oder diagnostische Felder ersetzt oder im Antworttext verborgen werden. Dies funktioniert besonders gut, wenn GenAI in Unternehmenseinstellungen wie Suchmaschinen oder Chatbots integriert ist.

Eine Beispielkonfiguration für eine Maskierung in SQL könnte folgendermaßen aussehen:

CREATE MASKING POLICY mask_sensitive_fields
AS (val STRING) 
RETURN CASE 
  WHEN CURRENT_ROLE IN ('admin') THEN val 
  ELSE '***MASKED***' 
END;

Datenentdeckung hält Sie vor unbekannten Risiken

Es ist schwierig, etwas zu schützen, dessen Existenz man nicht kennt. GenAI-Systeme können auf Schatten-Datensätze, veraltete Tabellenkalkulationen oder Cloud-Shares zugreifen, die mit personenbezogenen Daten gefüllt sind. Die Datenentdeckung hilft dabei, solche Datenquellen zu identifizieren und zu klassifizieren.

Sobald bei der Datenentdeckung sensible Felder identifiziert wurden, können Unternehmen Maskierungs-, Audit- und Zugriffsbeschränkungsregeln für diese Felder festlegen. Damit wird der Kreis geschlossen: Entdeckte Daten werden zu verwalteten Daten. Außerdem wird verhindert, dass GenAI-Modelle versehentlich auf Altsysteme mit schwachen Kontrollen zugreifen.

Prompt Injection und Missbrauch erfordern neue Sicherheitsregeln

Prompt Injection ist die neue SQL-Injektion. Anstatt in eine Datenbank einzubrechen, versuchen Angreifer, das Verhalten des Modells durch Veränderung seiner Eingaben zu beeinflussen. GenAI kann dahingehend manipuliert werden, dass Anweisungen ignoriert, Geheimnisse preisgegeben oder unautorisierte Aktionen ausgeführt werden.

Um dem entgegenzuwirken, sollten Sie Sicherheitsregeln implementieren, die das Ein- und Ausgabeverhalten überwachen. Die Begrenzung von Vektorsuchanfragen, das Mustererkennen bekannter Missbrauchsphrasen und das Blockieren des Zugriffs auf bestimmte Tabellen oder Dokumente sind wirksame Methoden. In Kombination mit rollenbasierter Zugriffskontrolle wird GenAI erheblich weniger angreifbar.

Ein typischer Antwort-Sanitizer könnte folgendermaßen angewendet werden:

if 'SSN' in response:
    response = response.replace(user_ssn, '***')

Compliance ist nicht optional – es ist eine Systemanforderung

GenAI muss innerhalb rechtlicher und ethischer Grenzen operieren. Unabhängig davon, ob Ihr Unternehmen unter die GDPR, HIPAA oder PCI DSS fällt, bestimmen Compliance-Regeln, wie sensible Daten verwendet, gespeichert und protokolliert werden.

Der Compliance Manager automatisiert die Zuordnung zwischen Vorschriften und technischen Kontrollen. Sie können Maskierungsregeln mit PCI-Feldern verknüpfen, Audit-Richtlinien für HIPAA-geschützte Aufzeichnungen durchsetzen und Dokumentationen erstellen, die eine kontinuierliche Einhaltung belegen.

Compliance geht nicht nur darum, Bußgelder zu vermeiden. Es geht darum, Vertrauen in KI-Systeme aufzubauen, die verantwortungsbewusst mit den ihnen anvertrauten Daten umgehen.

Transparenz über den gesamten Stack ist entscheidend

Für eine ausführlichere Diskussion darüber, wie die Sicherheit von LLMs die Infrastruktur beeinflusst, siehe die Perspektive des MIT zu Prompt Injection und Risiken von Basis-Modellen. Die Risiken erstrecken sich über den Unternehmensbereich hinaus und betreffen Open-Source-Modelle, akademische Datensätze und öffentliche Web-Scraping-Praktiken.

Zusätzlich zeigt der Artikel von Stanford HAI über Red Teaming von Sprachmodellen, wie Forscher KI-Systeme auf ethische und sicherheitstechnische Schwächen testen – ein nützlicher Blickwinkel für die Gestaltung unternehmensinterner GenAI-Richtlinien.

Die Zukunft der KI-Cybersicherheit liegt in der Zusammenführung von Informationen. Echtzeit-Audits zeigen, wer was getan hat. Die Maskierung zeigt, was gesehen wurde. Die Datenentdeckung zeigt, wo sich die Daten befinden. Sicherheitsregeln verhindern Missbrauch. Compliance vereint all dies.

Ein GenAI-System wird erst dann sicher, wenn diese Werkzeuge im Kontext zusammenarbeiten. Deshalb ist datenbasierte Sicherheit – bei der Sicherheitsentscheidungen die Datenklassifizierung, Geschäftsrollen und Nutzungsmuster widerspiegeln – die Zukunft.

Mit diesem Modell können Innovation und Compliance koexistieren, wodurch GenAI eingesetzt werden kann, ohne die Integrität der Daten zu gefährden, mit denen es arbeitet.