Klage erhebt schwere Vorwürfe gegen xAI
Eine Klägerin unter dem Pseudonym Jane Doe wirft xAI vor, Darstellungen sexuellen Kindesmissbrauchs für das Training von Grok verwendet zu haben. Solches Material wird international meist als CSAM bezeichnet, kurz für Child Sexual Abuse Material. Die Vorwürfe sind Teil einer geplanten Sammelklage in den USA.
Nach Darstellung der Klägerin zeigen bekannte Missbrauchsaufnahmen sie selbst im Vorschulalter. Organisationen zum Schutz von Kindern hätten die Dateien bereits vor Jahren mit digitalen Fingerabdrücken erfasst. Diese Hashwerte sollen helfen, bekannte Inhalte automatisiert wiederzuerkennen.
Eine kanadische Kinderschutzorganisation habe die Klägerin später darüber informiert, dass auf Basis ihrer Aufnahmen KI-generierte Missbrauchsdarstellungen entdeckt worden seien. Die Klage behauptet, Material mit den bekannten Hashwerten sei Teil eines Datensatzes gewesen, mit dem xAI die Bild- und Videofunktionen von Grok entwickelte.
Was belegt ist und was die Klage nur behauptet
Die Klageschrift liefert nach bisherigem Stand keine detaillierte technische Dokumentation des ursprünglichen Trainingsdatensatzes. Sie nennt weder dessen genaue Herkunft noch den Zeitpunkt einer möglichen Aufnahme der Dateien. Eine gerichtliche Feststellung liegt ebenfalls nicht vor.
| Punkt | Aktueller Stand |
|---|---|
| Bekannte Missbrauchsaufnahmen | Die Klägerin gibt an, dass ihre Aufnahmen von Kinderschutzorganisationen mit Hashwerten erfasst wurden. |
| Nutzung für das Grok-Training | Behauptung der Klage, bislang ohne öffentlich vorgelegten technischen Nachweis. |
| KI-generierte Varianten | Nach Darstellung der Klägerin wurden auf Grok erzeugte Inhalte identifiziert, die sie darstellen sollen. |
| Weitere Verwendung der Ausgaben | Die Klage leitet dies aus den Bedingungen für öffentliche X-Beiträge und Grok-Ausgaben ab. |
| Reaktion von xAI | Eine inhaltliche Stellungnahme zu den konkreten Vorwürfen liegt bislang nicht vor. |
Der zweite Vorwurf betrifft die Rückführung erzeugter Inhalte in spätere Trainingsprozesse. Laut Klage sehen die Bedingungen von X und Grok standardmäßig vor, öffentliche Beiträge und bestimmte Modellausgaben zur Verbesserung der Systeme zu verwenden. Dadurch könnten problematische Ausgaben erneut in den Datenbestand gelangen.
Sinngemäß argumentiert die Klageschrift: Wenn öffentliche X-Beiträge und Grok-Ausgaben standardmäßig als Trainingsdaten dienen, könne die Veröffentlichung eines Bildes zugleich dessen Aufnahme in die weitere Modellentwicklung bedeuten.
Die Klägerin verweist außerdem darauf, dass die Bedingungen bestimmte gewalttätige Inhalte vom Training ausschließen sollen. Für Darstellungen sexuellen Kindesmissbrauchs, nicht einvernehmliche intime Aufnahmen und andere sexualisierte Inhalte sei ein entsprechender Ausschluss nach ihrer Auffassung nicht eindeutig beschrieben.
Gefordert werden Löschung, Sperren und Schadenersatz
Die geplante Sammelklage soll Betroffene erfassen, deren reale Aufnahmen zur Erzeugung entsprechender Grok-Inhalte verwendet wurden. Ob das Gericht diese Gruppe als Sammelklage zulässt, ist noch offen.
Jane Doe beruft sich auf US-Bundesrecht und Masha's Law, das Betroffenen unter bestimmten Voraussetzungen zivilrechtliche Ansprüche ermöglicht. Die Klage wirft den beteiligten Unternehmen Produktion, Besitz und Verbreitung illegaler Inhalte vor. Auch diese rechtliche Bewertung muss erst gerichtlich geprüft werden.
Gefordert werden Schadenersatz, die Vernichtung gespeicherter KI-Ausgaben mit Missbrauchsdarstellungen und technische Sperren gegen deren erneute Erzeugung. Die Klägerin verlangt zudem, dass bereits aufgenommene Inhalte nicht weiter auf Grok einwirken.
Dieser letzte Punkt ist technisch schwierig. Das gezielte Entfernen des Einflusses einzelner Trainingsbeispiele wird als Machine Unlearning bezeichnet. Bei bereits trainierten Modellen lässt sich häufig nicht zuverlässig nachweisen, dass ein bestimmter Inhalt vollständig und ohne Nebenwirkungen entfernt wurde.
Trainingsdaten werden zum Haftungsrisiko
Der Fall unterscheidet sich in seiner Schwere deutlich von gewöhnlichen Urheberrechtsstreitigkeiten. Dennoch zeigt er dasselbe strukturelle Problem: Bei geschlossenen Modellen bleiben Herkunft, Filterung und spätere Verwendung der Trainingsdaten für Kunden weitgehend unsichtbar.
Ähnliche Konflikte betreffen die mutmaßliche Nutzung von Mitarbeiter-E-Mails für das KI-Training, die Verwertung von Büchern als Trainingsmaterial und die Urheberrechtsklage gegen Anthropic. Die rechtlichen Grundlagen sind jeweils andere. Gemeinsam ist den Fällen die fehlende Nachvollziehbarkeit großer Datensammlungen.
Für Unternehmen im DACH-Raum ist entscheidend, ob Eingaben, hochgeladene Dateien und erzeugte Inhalte beim Anbieter gespeichert oder für weitere Trainingsläufe genutzt werden. Verträge sollten deshalb klare Aussagen zu Aufbewahrungsfristen, Trainingsausschlüssen, Löschprozessen, Unterauftragnehmern und Prüfungsrechten enthalten.
Self-Hosting kann die Übermittlung eigener Daten an externe Anbieter reduzieren. Es löst jedoch weder illegale Ausgangsdatensätze noch unzureichende Inhaltsfilter automatisch. Auch lokal betriebene Modelle benötigen dokumentierte Datenquellen, Zugriffskontrollen, Protokollierung und Verfahren für gemeldete Inhalte.
Die Klage gegen xAI ist noch kein Beweis für die erhobenen Vorwürfe. Sie macht aber deutlich, dass undurchsichtige Trainingsketten nicht nur ein Datenschutzproblem sind. Sie können für Anbieter und Unternehmenskunden zu einem erheblichen Haftungs-, Sicherheits- und Reputationsrisiko werden.