Das zu Elon Musk gehörende Unternehmen xAI verklagt einen Mann aus South Carolina, der angeblich den Chatbot Grok AI des Unternehmens verwendet hat, um Material über sexuellen Kindesmissbrauch (Child Sexual Abuse Material, CSAM) zu generieren. In eine Klage gemeldet früher von ReutersxAI behauptet, Terry Wayne Harwood habe „grok wissentlich und absichtlich genutzt, um Schutzmaßnahmen zu umgehen, nicht einvernehmliche Bilder zu ändern und CSAM zu generieren und zu verbreiten“, was gegen die Richtlinien des Unternehmens verstößt.

Harwood wurde verhaftet im Februar wegen angeblichen Besitzes und der Verbreitung von CSAM verurteilt und wird wegen acht Straftaten angeklagt. In der Klage wird behauptet, dass „zumindest einige“ der Bilder im Zusammenhang mit Harwoods Strafanzeigen „mit Grok erstellt oder verändert“ wurden und dass Harwood die Schutzmaßnahmen von Grok umgangen und „das Tool missbraucht hat, um nicht-sexuelle Fotos in sexuell eindeutige Bilder umzuwandeln“, ohne die Zustimmung der Betroffenen.

xAI behauptet, Harwoods angebliche Handlungen hätten das Unternehmen „erheblichen rechtlichen Risiken und Reputationsschäden“ ausgesetzt. Es hat das Gericht gebeten, Harwood zu verurteilen, xAI für etwaige Schäden sowie „angemessene Kosten zu zahlen, die ihm bei der Verteidigung in etwaigen rechtlichen Schritten entstanden sind, die von einem Opfer des Verhaltens des Beklagten eingeleitet wurden“. xAI möchte außerdem, dass der Richter Harwood daran hindert, ein xAI-Konto zu erstellen oder Grok zu verwenden.