Der Generalstaatsanwalt von New Mexico, Raúl Torrez, gewann Anfang des Jahres in einem bahnbrechenden Verfahren zum Schutz von Kindern gegen Meta eine historische Summe von 375 Millionen US-Dollar. Aber die nächste Phase des Kampfes könnte für Meta und die Social-Media-Branche insgesamt noch folgenreicher sein.

Ab Montag werden Anwälte von Meta und New Mexico zu einem dreiwöchigen Gerichtsverfahren wegen öffentlicher Belästigung in ein Gerichtsgebäude in Santa Fe zurückkehren, wo sie über die Straftat streiten werden Änderungen, die der AG vom Richter anordnen möchte Meta-Make zu Facebook, Instagram und WhatsApp. Zu diesen Änderungen gehören das Hinzufügen einer Altersverifizierung für Benutzer in New Mexico, das Verbot der Ende-zu-Ende-Verschlüsselung für Benutzer unter 18 Jahren und die Begrenzung ihrer Nutzung auf 90 Stunden pro Monat, die Einschränkung von Funktionen zur Steigerung des Engagements wie unendliches Scrollen und automatische Wiedergabe sowie die Verpflichtung von Meta, 99 Prozent des neuen Materials zum sexuellen Missbrauch von Kindern (CSAM) zu erkennen.

„Von Anfang an war es unser Ziel, die Geschäftsabläufe des Unternehmens zu verändern“, sagte Torrez Der Rand bei einem kürzlichen Besuch in Washington, D.C., um sich für neue Kindersicherheitsgesetze einzusetzen. „Mir ist klar, dass selbst 375 Millionen US-Dollar für ein so großes und profitables Unternehmen an sich nicht ausreichen, um die Art und Weise, wie sie Geschäfte machen, zu ändern. Tatsächlich gibt es wahrscheinlich einige Leute in diesem Unternehmen, die es als die Kosten der Geschäftsabwicklung betrachten.“

Während alle vom Richter angeordneten Änderungen nur für Meta und seine Aktivitäten in New Mexico gelten würden, könnte das Unternehmen die Änderungen der Einfachheit halber auch in anderen Bundesstaaten anwenden. Oder es könnte, wie angedroht wird, es im Staat einfach dunkel werden. Ein Gerichtsbeschluss könnte anderen Technologieunternehmen signalisieren, dass Gerichte möglicherweise bereit sind, ihre Geschäfte zu ändern, wenn sie haftbar gemacht werden.

Während des Prozesses wird New Mexico argumentieren, dass Meta zu einem öffentlichen Ärgernis geworden sei, indem sie eine Gefahr für die öffentliche Gesundheit im Staat geschaffen habe. Das Büro der AG geht davon aus, etwa 15 Zeugen aufzurufen, darunter Experten, die die Durchführbarkeit der vorgeschlagenen Abhilfemaßnahmen bezeugen, und Tatsachenzeugen, die über Metas angebliche Schäden aussagen. Nachdem Meta seine Verteidigung vorgetragen hat, wird Richter Bryan Biedscheid bewerten, welche Vorschläge relevant und machbar sind – ein Prozess, der im Vergleich zu der schnellen Umsetzung des Geschworenenurteils im März einige Zeit in Anspruch nehmen könnte.

Ein durchschlagender Sieg für New Mexico könnte Torrez und Tausenden anderen Klägern, die derzeit Verfahren gegen Technologieunternehmen verfolgen, neuen Schwung verleihen. Umgekehrt könnte eine begrenzte Bestellung einen erheblichen Rückschlag bedeuten. Das Ergebnis wird sich nicht direkt auf andere Fälle auswirken, wird aber mit ziemlicher Sicherheit die Verhandlungen über mögliche Vergleiche beeinflussen.

Bei mehreren von Torrez‘ Forderungen handelt es sich um brisante Fragen der Technologiepolitik. Die Altersüberprüfung würde mit ziemlicher Sicherheit erfordern, dass Meta oder ein Drittanbieter mehr persönliche Informationen über Erwachsene und Minderjährige sammeln, was Datenschützer immer wieder gewarnt haben, was die Sicherheit der Benutzer beeinträchtigen kann. Don McGowan, der zuvor im Vorstand des National Center for Missing and Exploited Children (NCMEC) tätig war, sagte, dass das Verbot verschlüsselter Kommunikation auf Plattformen wie Facebook „eine großartige Möglichkeit ist, sicherzustellen, dass niemand mehr den Facebook Messenger nutzt und seine Aktivitäten einfach auf andere Plattformen verlagert, die von dieser Klage nicht betroffen sind.“

Das Mandat wird möglicherweise wenig dazu beitragen, die Realität bestimmter Teile des Geschäfts zu ändern – Meta gab kürzlich bekannt, dass es Ende-zu-Ende-verschlüsselte Nachrichten auf Instagram abschaffen werde, die angeblich „nur sehr wenige Leute“ tatsächlich nutzten.

Peter Chapman, stellvertretender Direktor des Knight-Georgetown Institute, das sich dafür einsetzt, politische Entscheidungsträger und andere mit unabhängiger Technologiepolitikforschung zu verbinden, sagte, dass ein Verschlüsselungsverbot „erhebliche Kompromisse“ mit sich bringen könnte und andere Änderungen möglicherweise effektiver seien. Zum Beispiel Beweise vom Staat vorgelegt zeigte, dass Metas eigene Profilempfehlungen eine Verbindung zwischen Erwachsenen und Minderjährigen herstellten, ein Merkmal, das eine deutlichere Schadensgefahr ohne großen Nutzen darstellt und das Torrez vom Gericht ebenfalls auffordert, es zu stoppen. „Es besteht die Möglichkeit, auf dieser Ebene einzugreifen und zu versuchen, weitere dieser schädlichen Interaktionen zu verhindern, ohne sich mit der Verschlüsselung befassen zu müssen“, sagte Chapman.

Keine einzelne Funktionsänderung werde wahrscheinlich das gesamte Problem der Sicherheit von Kindern und Jugendlichen lösen, sagte Chapman, weshalb es bemerkenswert sei, dass Torrez mehrere Ebenen von Änderungen fordern will. Dennoch hängt die Gesamtwirksamkeit eines bestimmten Mittels auch davon ab, wie es umgesetzt und überwacht wird. Welche Methode würde Meta beispielsweise verwenden, um eine Erkennungsrate von 99 Prozent für neues CSAM zu melden? Wie zählt oder vermutet es, was es nicht gefangen hat? Das Gleiche gilt für die Genauigkeit und Zuverlässigkeit einer etwaigen vorgeschriebenen Altersüberprüfung.

Meta weist in seinem Argument gegen die von Torrez vorgeschlagenen Abhilfemaßnahmen auf dieses potenzielle Problem hin. „Unabhängig davon, wo die Genauigkeitsschwelle festgelegt ist, wäre Meta niemals in der Lage zu beweisen, dass das System diesen Standard erfüllt, da die Berechnung erfordern würde, dass Meta 100 % des CSAM erkennt, um es als Nenner zu verwenden“, schrieb das Unternehmen in einer Klageschrift. Der oberste Stellvertreter von Torrez, James Grayson, sagte in einem Pressegespräch, dass das Gericht und ein ernannter unabhängiger Beobachter einen gewissen Ermessensspielraum bei der Verfolgung hätten; Das Büro hat noch nicht identifiziert, wer dieser Monitor sein wird.

Meta und andere Gruppen, die den Ansatz der AG ablehnen, sagen, die von ihm angestrebten Ergebnisse seien kontraproduktiv. „Die Forderungen, die in New Mexico gestellt werden, sind unzureichend fundiert und stellen ein massives zusätzliches Risiko für andere Arten der Ausbeutung dar“, sagte Maureen Flatley, Präsidentin von Stop Child Predators, einer Gruppe, die sich für mehr Mittel für die Durchsetzung von Strafgesetzen gegen Kindesmissbrauch einsetzt und dies getan hat erhielten Fördermittel von Meta-gestützte Handelsgruppe NetChoice. „Die Vorstellung, dass die Plattformen für die Vertreibung all dieser Leute verantwortlich sein müssen, wäre, als würde man der US-Bankenvereinigung sagen: ‚Übrigens sind Sie von jetzt an für alle Banküberfälle verantwortlich‘, was lächerlich ist.“

„Die Konzentration des Generalstaatsanwalts von New Mexico auf eine einzige Plattform ist eine fehlgeleitete Strategie, die die Hunderte anderer Apps ignoriert, die Jugendliche täglich nutzen“, sagte Meta-Sprecher Chris Sgro in einer Erklärung. „Die vom Staat vorgeschlagenen Mandate verletzen die elterlichen Rechte und unterdrücken die freie Meinungsäußerung für alle Neumexikaner. Unabhängig davon bleiben wir bestrebt, sichere, altersgerechte Erlebnisse zu bieten, und haben bereits viele der vom Staat angestrebten Schutzmaßnahmen eingeführt, darunter 13 Sicherheitsmaßnahmen im vergangenen Jahr.“

Aber Torrez hat auch die breitere Technologiebranche ins Visier genommen. Kürzlich besuchte er Washington, D.C., um sich für neue Schutzmaßnahmen für Kinder im Internet und eine Überarbeitung von Abschnitt 230 einzusetzen, dem Gesetz, das Technologieplattformen davor schützt, für die Beiträge ihrer Nutzer haftbar gemacht zu werden. „Obwohl wir uns vor unserem Bezirksgericht in Santa Fe durchsetzen konnten, bin ich immer noch der Meinung, dass das Gesetz in seiner jetzigen Form für große Unklarheiten sorgt“, sagte er Der Rand bei diesem Besuch. „Wenn Abschnitt 230 nicht etwas wäre, hinter dem sich diese Unternehmen verstecken könnten, dann erhöht es die Wahrscheinlichkeit, dass sie ihren Fall tatsächlich vor einer Jury vertreten müssen.“

Aber Chapman sagte, Regulierung durch Klagen sei in den USA keine „ungewöhnliche Geschichte“. „Ob es um Tabak, Opioide oder E-Zigaretten geht, es gibt einen Präzedenzfall für rechtliche Schritte, die eine breitere politische Diskussion anstoßen.“