KI-Sicherheit
Prompt Injection in US-Gerichtsakte entdeckt
Ein Kläger in Connecticut versteckte KI-Anweisungen in Gerichtsdokumenten, um eine mögliche automatisierte Prüfung zu manipulieren. Der Versuch blieb wirkungslos, zeigt aber ein konkretes Sicherheitsrisiko für Unternehmen und Behörden, die eingehende Dokumente mit Sprachmodellen verarbeiten.
