Evodrop
Ein Gesetz, das soziale Netzwerke verpflichtet, sexuelle Deepfakes und andere nicht einvernehmliche Bilder schnell zu entfernen, ist jetzt vollständig in Kraft. Experten warnen jedoch davor, dass die Richtlinie wenig dazu beitragen könnte, den Opfern zu helfen – und im schlimmsten Fall die Online-Zensur erleichtern könnte.
Im vergangenen Mai unterzeichnete Präsident Donald Trump den Take It Down Act, ein Gesetz gegen nicht einvernehmliche intime Bilder (NCII). Das Gesetz kriminalisierte sofort die Verbreitung von NCII, sei es in Form von echtem oder KI-generiertem Material viele Staaten zumindest teilweise schon. Aber die gleichnamige Deaktivierungsbestimmung ist weitreichender. Es tritt ein Jahr nach der Verabschiedung des Gesetzes – am 19. Mai 2026 – in Kraft und verpflichtet Online-Plattformen dazu, NCII innerhalb von 48 Stunden zu entfernen, andernfalls drohen Geldstrafen.
Andrew Ferguson, Vorsitzender der Federal Trade Commission schickte Briefe an über ein Dutzend Technologieunternehmen Vor Ablauf der Frist enthielt eine Liste nach Angaben der FTC Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok und Die für die Durchsetzung des Gesetzes zuständige Behörde erinnerte Unternehmen daran, dass ein Verstoß gegen das Gesetz zu zivilrechtlichen Strafen von mehr als 53.000 US-Dollar pro Verstoß führen könnte.
Wichtige Plattformen wie Meta, Microsoft, Google, TikTok und Snap unterstützte den Gesetzentwurfund zeigte sich zuversichtlich, dass sie dem nachkommen könnten. Snap sagte in einem Blogbeitrag letztes Jahr, dass es „mit unseren laufenden Bemühungen übereinstimmt und diese ergänzt“. Sprecherin Monique Bellamy sagte Der Rand dass es die Sicherheitssysteme weiter „entwickelt“, „einschließlich der Investition in Tools und Technologien, um unerwünschte Nacktbilder und ähnliche Bilder proaktiv zu erkennen und Maßnahmen zu ergreifen“.
Meta-Leiterin für Frauensicherheit, Cindy Southworth, sagte, das Unternehmen habe „seit langem gegen Missbrauch intimer Bilder auf unseren Plattformen gekämpft“, unter anderem durch die Entfernung, die Unterstützung bei der Entwicklung von Tools zur Aufdeckung usw Klage gegen KI-App-Entwickler, die sie „nudifizieren“. die ihre Regeln brechen. Southworth fügte hinzu, dass die Werkzeuge des Unternehmens darauf trainiert seien, nüchternen Anfragen nicht nachzukommen. „Wir unterstützen weiterhin den TAKE IT DOWN Act, einen wichtigen Schritt zur Bekämpfung dieses Missbrauchs im Internet, und wir halten ihn bereits seit mehreren Monaten ein.“ Der US-Sprecher von TikTok, Mahsau Cullinane, sagte, das Unternehmen verfolge eine Null-Toleranz-Politik gegenüber NCII und verwies auf seine Partnerschaften mit NCMEC und StopNCII.org; das Unternehmen derzeit anbietet ein Formular und In-App-Tools für die Berichterstellung.
Sogar X, das eine sehr wechselvolle Geschichte mit sexualisierten KI-Bildern hat, hat das Gesetz unterstützt. Das Unternehmen erlaubte bekanntermaßen im Jahr 2024 die Verbreitung sexuell eindeutiger KI-Deepfakes von Taylor Swift, worauf Wochen später ein Video folgte, von dem Nutzer annahmen, dass es sich um den Rapper Drake bei einer sexuellen Handlung handelte. In jüngerer Zeit riefen Benutzer den integrierten KI-Chatbot Grok dazu auf, Benutzer auszuziehen, oft ohne deren Zustimmung. Eine New York Times Analyse fanden heraus, dass Grok in nur neun Tagen „mindestens 1,8 Millionen sexualisierte Bilder von Frauen“ geteilt hatte, obwohl einige Schätzungen sogar noch höher lagen.
Der Präsident witzelte 2025 Lage der Nation dass „ich diese Rechnung für mich selbst verwenden werde“
Aber die Deaktivierungsbestimmung des Gesetzes hat sowohl Befürworter der freien Meinungsäußerung als auch Gegner von Online-Missbrauch alarmiert – darunter auch Leute, die den Kriminalisierungsteil weitgehend befürworteten. Selbst wenn sie in gutem Glauben durchgesetzt werden, können Deaktivierungsgesetze Unternehmen dazu ermutigen, nicht anstößige Inhalte übermäßig zu moderieren, um das Risiko zu verringern. Unter der Trump-Administration könnte der Take It Down Act auch zu einer Waffe gegen politische Feinde werden und gleichzeitig Trump-freundlichen Plattformen Zutritt verschaffen. Der Präsident witzelte 2025 Lage der Nation dass „ich diese Rechnung für mich selbst verwenden werde“, weil „niemand schlechter behandelt wird als ich online.“ Linda Yaccarino, die damalige CEO von X nahm an der Unterzeichnungszeremonie teilwo Trump – dessen Regierung zu diesem Zeitpunkt seinen Besitzer Elon Musk beschäftigte – sie dafür lobte, dass sie „großartige Arbeit geleistet“ habe.
Trumps Aussage sei „das Gegenteil von dem, was wahr ist“, sagt Mary Anne Franks, Präsidentin der Cyber Civil Rights Initiative, die sich für Maßnahmen zur Bekämpfung von bildbasiertem sexuellen Missbrauch einsetzt. Sie war skeptisch, dass das Gesetz fair durchgesetzt werden würde, ebenso wie Trumps Kommentar zur Lage der Nation. „Das ist seltsam zu sagen, und es ist eine Ankündigung von höchster Stelle, dass dieses Gesetz nicht auf prinzipielle Weise angewendet wird, sondern eher zur Begleichung persönlicher Rechnungen“, sagt sie.
Franks ist „verdächtig“, warum große Technologieplattformen, die normalerweise gegen neue Vorschriften als Belastung der Meinungsfreiheit protestieren, dieses Gesetz befürwortet haben. „Meine Befürchtungen, und ich hoffe, dass ich mich irre, sind, dass die Unternehmen deshalb nicht wütend darüber sind, weil sie wissen, dass es nie wirklich gegen sie verwendet werden wird“, sagt sie. Das allein könnte dazu führen, dass das Gesetz den Opfern von NCII kaum mehr als falsche Hoffnungen vermittelt.
„Es ist eine Ankündigung von höchster Stelle, dass dieses Gesetz nicht prinzipientreu angewendet wird“
Aber Franks befürchtet auch, dass das Gesetz gegen Plattformen eingesetzt werden könnte, die der Regierung ein Dorn im Auge sind, wie etwa Wikipedia. „Ich denke, das Schlimmste, was passieren kann, ist, dass es sich als Papiertiger gegen die Unternehmen erweist, die am schlechtesten abschneiden, und dass es sich als eine Möglichkeit erweist, unpopuläre Plattformen zu bestrafen und tatsächlich gegen sie vorzugehen und Reden zu zensieren“, sagt Franks. Diese Rede könnte LGBTQ+-Ausdrücke beinhalten, insbesondere als geschlechtergerechte Betreuung für Transgender-Jugendliche ist bereits im Visier der FTC. „Ich mache mir große Sorgen darüber, dass dies als Vorwand genutzt wird, um noch stärker gegen einvernehmlich sexuell eindeutiges Material vorzugehen, oder speziell gegen Bildungsmaterialien für Kinder, die ihre Geschlechtsidentität oder ihre sexuelle Orientierung erforschen“, sagt Franks. Selbst wenn ein Gericht entscheidet, dass dies nicht in den Geltungsbereich des Gesetzes fällt, würde es den Plattformen eine klare Botschaft darüber senden, wie sie moderieren sollen.
Andere Gruppen, darunter die Electronic Frontier Foundation (EFF)Die Cato-InstitutUnd Öffentliches Wissenhaben gewarnt, dass die Mitteilungs- und Entfernungsbestimmung erhebliche Auswirkungen auf die Meinungsäußerung haben könnte, wobei die EFF sie als Rezept für „Übermaß und Zensur“ bezeichnet.
In der Zwischenzeit deckt das Gesetz möglicherweise nicht einmal scheinbar eindeutige digitale Verstöße gegen die Einwilligung ab. Einige von Groks nicht einvernehmlichen sexualisierten Bildern könnten beispielsweise nicht als sexuell explizit genug gelten. Es ist unklar, ob KI-Tools wie Grok als „Ersteller“ von NCII gelten, deren Besitzer strafrechtlich verfolgt werden könnten, und wenn die Bilder privat erstellt werden, ist auch nicht unbedingt klar, ob sie der Deaktivierungsbestimmung unterliegen.
Im ersten Jahr seines Inkrafttretens hat das Justizministerium sagte es benutzt Die strafrechtliche Bestimmung des Take It Down Act in einer Verurteilung eines Mannes aus Ohio, der sexuell eindeutige KI-Deepfakes produzierte, um Opfer zu belästigen. Die Auswirkungen der Deaktivierungsbestimmung könnten unmittelbarer spürbar sein – aber die Frage ist, ob diese Ergebnisse das Internet sicherer machen werden.
