Startseite
Cybersicherheit

Prompt Injection: So schützen Sie Ihren KI-Chatbot

Óliver Vega Lora · CTO von Webimpacto
Veröffentlicht: · 7 Min. Lesezeit

Was Prompt Injection ist

Ein KI-Assistent erhält Anweisungen vom Unternehmen (was er sagen darf, wie er antworten soll) und die Nachrichten des Nutzers. Bei Prompt Injection werden neue Anweisungen eingeschleust, damit das Modell sie über die des Unternehmens stellt.

OWASP, die maßgebliche Organisation für Websicherheit, führt sie auf Platz eins ihrer Risikoliste für Anwendungen mit Sprachmodellen.

Es gibt zwei Varianten. Die direkte, wenn der Angreifer in den Chat schreibt. Und die indirekte, wenn die Anweisung in einem Inhalt versteckt ist, den der Assistent liest: eine Bewertung, eine Produktbeschreibung, eine E-Mail oder eine Webseite.

Was in einem Shop schiefgehen kann

Der Schaden hängt davon ab, worauf der Assistent Zugriff hat. Diese Fälle sehen wir am häufigsten, wenn wir E-Commerce-Assistenten prüfen:

  • Datenabfluss: Der Assistent zeigt Bestellungen, Adressen oder E-Mail-Adressen anderer Kunden.
  • Falsche Rabatte oder Versprechen: Der Assistent bietet einen Preis, einen Gutschein oder eine Bedingung an, die der Shop nicht gewährt.
  • Nicht autorisierte Aktionen: Bestellungen stornieren, Adressen ändern oder Retouren auslösen, ohne zu prüfen, wem sie gehören.
  • Preisgabe interner Anweisungen, Lieferanten oder Margen, die das Team nicht verlassen sollten.
  • Markenschaden: beleidigende oder falsche Antworten, die jemand festhält und veröffentlicht.

Wie Sie ihn schützen

Die Grundregel lautet: Behandeln Sie das Modell wie einen Nutzer, dem man nicht ganz vertraut. Die wichtigen Schutzmaßnahmen liegen außerhalb davon:

  • Minimaler Zugriff: Der Assistent sieht nur die Daten, die er braucht, und nur die des identifizierten Kunden.
  • Sensible Aktionen (Erstattungen, Adressänderungen, Rabatte) laufen über Systemregeln oder eine Person, nie nur über das Urteil des Modells.
  • Identifizierung des Kunden, bevor es um eine konkrete Bestellung geht.
  • Externe Inhalte als Daten markiert, nicht als Anweisung, und geprüft, bevor sie an das Modell gehen.
  • Nutzungslimits pro Nutzer, um automatisierte Angriffe zu bremsen.
  • DSGVO-konforme Protokollierung der Gespräche, um Missbrauch zu erkennen und die Regeln zu verbessern.

Vor dem Livegang testen

Bevor ein Assistent öffentlich geht, sollte er kontrolliert angegriffen werden: Versuchen Sie, ihn seine Anweisungen preisgeben zu lassen, Daten eines anderen Kunden anzuzeigen, einen Rabatt zu erfinden oder eine Prüfung zu umgehen. Jeder erfolgreiche Versuch wird zu einer neuen Regel außerhalb des Modells.

Diese Tests werden jedes Mal wiederholt, wenn sich die Tools des Agenten, die Daten, auf die er zugreift, oder das verwendete Modell ändern.

Häufige Fragen

Lässt sich Prompt Injection vollständig verhindern?

Heute gibt es keine Technik, die sie zu hundert Prozent verhindert. Deshalb begrenzt ein wirksamer Schutz, was der Assistent sehen und tun darf, und überlässt sensible Entscheidungen Systemregeln oder einer Person.

Ist auch ein Chatbot gefährdet, der nur Fragen beantwortet?

Das Risiko ist geringer, wenn er keinen Zugriff auf Kundendaten hat und nicht handeln kann. Es besteht aber: Er kann falsche Informationen geben, Bedingungen versprechen, die Sie nicht anbieten, oder seine internen Anweisungen preisgeben. Testen Sie ihn trotzdem vor dem Livegang.

Was hat die DSGVO mit einem KI-Chatbot zu tun?

Ein Chatbot, der personenbezogene Daten verarbeitet, muss den Nutzer informieren, die erhobenen Daten begrenzen und sie sicher speichern. Kann der Assistent Daten eines Kunden einer anderen Person zeigen, ist das nicht nur ein Sicherheitsproblem, sondern auch eine Verletzung des Schutzes personenbezogener Daten.

Sollen wir das für Ihr Unternehmen umsetzen?

Wir sagen Ihnen unverbindlich, was wir in Ihrem Fall tun würden. Es antwortet ein Mensch aus dem Team.

Angebot anfordern
Von
Óliver Vega Lora
CTO von Webimpacto · Webimpacto

Technischer Leiter von Webimpacto. Er führt die Entwicklungsteams, die Shops auf Shopify, PrestaShop, Adobe Commerce, VTEX und WooCommerce aufbauen, migrieren und betreuen.