Evodrop
Wie viele Menschen war auch Regisseurin Valerie Veatch fasziniert, als OpenAI im Jahr 2024 erstmals sein generatives KI-Modell Sora für Text-zu-Video der Öffentlichkeit vorstellte. Obwohl sie die Technologie nicht vollständig verstand, war sie neugierig, was sie leisten konnte, und sie sah, dass andere Künstler Online-Communitys bauten, um ihre neuen KI-Kreationen zu teilen. Die Hoffnung, mit Menschen in Kontakt zu treten, zog Veatch in den KI-Bereich, aber als sie dort war, war sie schockiert, als sie sah, wie oft die Technologie Bilder erzeugte, die von Rassismus und Sexismus trieften.
Noch beunruhigter war Veatch darüber, dass es ihren neuen KI-begeisterten Kollegen offenbar egal war, dass die Maschine, um die sie sich scharten, hasserfüllten, bigotten Müll ausspuckte, ohne ausdrücklich dazu aufgefordert zu werden. Die bizarre Situation brachte Veatch von ihren frühen Experimenten mit Gen-KI ab. Aber es inspirierte sie auch zum Basteln Geist in der Maschineein neuer Dokumentarfilm über die Technologien und Denkschulen, die den Grundstein für die Existenz der Gen-KI legten.
Anstatt sich auf die potenziellen (wenn auch höchst unwahrscheinlichen) Vorteile für die Gesellschaft zu konzentrieren, von denen die KI-Beschleuniger der Generation schwören, dass sie unmittelbar bevorstehen, Geist in der Maschine untersucht die Geschichte der Technologie, um zu erklären, warum sie so funktioniert, wie sie jetzt funktioniert. Als ich kürzlich mit Veatch über den Film sprach, sagte sie mir, dass sie die Entstehung der Gen-KI aufzeichnen wollte, um den Menschen einen klaren Überblick über den sehr intensiven Zyklus des Branchenhypes zu geben, den wir derzeit durchleben. Zunächst musste sie jedoch die gezielte Verschleierung des gesamten Konzepts durch KI-Firmen durchbrechen.
„Um den Ausdruck ‚künstliche Intelligenz‘ verwenden zu können, müssen wir wissen, was zum Teufel dieser Ausdruck bedeutet“, sagte mir Veatch in einem Videoanruf. „Die Wahrheit ist, dass es nichts bedeutet; es ist ein Marketingbegriff und war es schon immer. Es ist eine völlig irreführende, dumme Phrase, die eine eigene kulturelle Bedeutung angenommen hat, und ich denke, dass es wichtig ist, sich über die von uns verwendeten Wörter und die Bedeutung dieser Wörter wirklich im Klaren zu sein.“
Als Geist in der Maschine Wie immer wieder betont, wurde „künstliche Intelligenz“ ursprünglich 1956 vom Informatiker John McCarthy geprägt, als er versuchte, mehr Mittel für seine Projekte zu erhalten. Der Dokumentarfilm präsentiert die Entstehung des Begriffs jedoch nur als einen von vielen wichtigen Punkten auf einer Zeitleiste, die tatsächlich im viktorianischen England mit der Geburt der Eugenik beginnt. Francis Galton war nicht nur Charles Darwins Cousin, sondern auch der Begründer der Eugenik – des rassistischen und diskreditierten Glaubens, dass die Menschheit durch die systematische Eliminierung „minderwertiger“ (sprich: nicht weißer) Rassen verbessert werden kann.
Während Galton es definitiv geschafft hat manche Als wertvoller Beitrag zur Wissenschaft erklärte Veatch in unserem Interview, dass es wichtig sei, die Tatsache nicht zu vernachlässigen, dass seine tief verwurzelten weißen supremacistischen Überzeugungen die Sozialwissenschaften dieser Zeit beeinflussten. Galton und sein Eugenikerkollege/Schützling Karl Pearson waren nicht direkt an der Entwicklung früher Rechenmaschinen beteiligt. Aber Galtons grundlegende Arbeit mit mehrdimensionaler Modellierung – einer Technik, die er bei der Messung der Attraktivität afrikanischer und europäischer Frauen einsetzte – prägte Pearsons Denken, als er statistische Werkzeuge wie die logistische Regression entwickelte, die eine der grundlegenden Komponenten des modernen maschinellen Lernens ist.
„Werde ich Sam Altman vor der Kamera umarmen? Ist das ein wahrheitsgetreuer Film über diese Technologie? Das ist Propaganda.“
Galton Pearson hat geholfen, die Idee zu normalisieren dass sich Menschen verschiedener Rassen in quantifizierbarer Weise grundlegend unterschieden. Diese Art von rassistischem Denken führte dazu, dass Galton und seine Kollegen glaubten, dass die menschliche Intelligenz gemessen werden könne und dass menschliche Gehirne sehr ähnlich wie Maschinen funktionieren. Laut Veatch spielte dieser Sprung eine wichtige Rolle dabei, die Öffentlichkeit von der fantastischen Idee der künstlichen Intelligenz zu überzeugen.
„Was mich bei meinem ersten Einstieg in all das wirklich überrascht hat, war, dass es, wenn man sich als Dokumentarfilmer oder Journalist mit der Frage der Superintelligenz beschäftigt, nicht lange dauert, bis man mit der Stirn in den niedrigen Türrahmen der Rassenwissenschaft stößt, weil diese in dieser Technologie verankert ist“, sagte Veatch und erklärte, dass diese Konzepte vom eugenischen Denken „durchdrungen“ seien.
Anstatt zu versuchen, die Idee zu widerlegen, dass KI-Modelle der Generation hasserfüllte Ideologien hervorbringen, weil sie darauf trainiert wurden (ein Konzept, das allgemein als „GIGO“ bekannt ist – Müll rein, Müll raus), Geist in der Maschine nutzt seine historische Analyse, um zu erklären, warum die Unternehmen, die diese Technologie entwickeln, anscheinend so desinteressiert sind, ihre aktuellen Probleme anzugehen. Dieser historische Kontext half Veatch, einige ihrer eigenen beunruhigenden Erfahrungen mit Gen-KI zu verstehen, als sie in einem Künstler-Slack mit einer frühen Version von Sora herumspielte. Veatch erinnert sich, dass die Gruppe ein freundlicher, einladender Ort war, bis ein anderes Mitglied – eine farbige Frau – begann, Bedenken darüber zu äußern, wie das Model sie jedes Mal beschönigte, wenn sie es aufforderte, Bilder auf der Grundlage von Fotos von sich selbst zu erstellen.
„Es behielt ihre Zöpfe und ihre Mode, aber sie drängte sich selbst in eine Kunstgalerie, die das Programm als ‚weißen Raum‘ verstand“, erklärte Veatch. „Meine Reaktion war ‚Was zum Teufel‘ und ich habe versucht, der Gruppe zu erklären, dass das eigentlich ein Problem mit der Software selbst war.“ Niemand sonst in der Gruppe hat sich mit ihrem Beitrag beschäftigt. „Das war ein Slack, bei dem es normalerweise auf jeden Beitrag Dutzende schreiender Koala-Emoji-Reaktionen gibt. Aber dieses Mal gab es nichts.“
Veatch nahm es sich zur Aufgabe, direkt Kontakt mit OpenAI aufzunehmen, um das Unternehmen darauf aufmerksam zu machen, „wie rassistisch, sexistisch und frauenfeindlich die Ergebnisse waren, die sie sah – Ergebnisse, bei denen Frauen nach etwa zwei Runden der Generierung einer Szene anfingen, sich zusätzliche Titten wachsen zu lassen und zu twerken.“ Veatch ging davon aus, dass OpenAI dies als einen kritischen Fehler ansehen würde, der behoben werden sollte, bevor mehr Menschen dazu ermutigt werden, Sora in ihr Leben zu übernehmen. Stattdessen wischte das Unternehmen ihre Bedenken beiseite.
„Das Feedback, das ich bekam, war im Wesentlichen: ‚Es ist sehr abscheulich, es anzusprechen; wir können nichts tun, um es zu ändern‘“, erinnert sich Veatch.
Diese Situation entfachte bei Veatch den Anstoß, herauszufinden, warum sich so viele verschiedene Formen der generativen Intelligenz immer wieder auf so hässliche und problematische Weise verhalten. Anfangs glaubte sie nicht wirklich, dass aus Zoom-Anrufen mit den Autoren von Whitepapers über die Technologie ein fesselnder Dokumentarfilm entstehen könnte, aber das änderte sich, als sie begann, eine klare Linie von Galtons eugenischer Statistikarbeit zu modernen KI-Outfits der Generation zu erkennen.
Die Stimmen in Geist in der Maschine – eine Mischung aus KI-Forschern, Historikern und kritischen Theoretikern – belegen überzeugend, dass im Grunde jede Facette des KI-Bereichs tiefgreifend von seinen historischen Verbindungen zu Wissenschaftsbereichen beeinflusst wurde, die darauf ausgerichtet sind, diskriminierende Weltanschauungen zu unterstützen. Als ich Veatch fragte, ob sie jemals daran interessiert gewesen sei, direkt mit den Leitern der Unternehmen zu sprechen Geist in der Maschine geht zur Rede, lachte sie. Um einen solchen Zugang zu erhalten, müsste sie, sagte sie, alle möglichen ideologischen Übungen durchführen und Kompromisse eingehen, die ihren Film zu einem Mitschuldigen an den Schäden der Gen-KI machen würden.
„Es gibt die Idee, wissen Sie, dass diese Leute nicht irgendjemandem vertrauen“, sagte Veatch. „Ja, kein Scheiß, und ich hoffe auf jeden Fall, dass sie mir nicht vertrauen würden. Ich möchte sie nicht im Film haben und sie sprechen bereits genug mit den Medien. Werde ich Sam Altman vor der Kamera umarmen? Ist das ein wahrheitsgetreuer Film über diese Technologie? Das ist Propaganda.“
Geist in der Maschine wird zur Verfügung stehen Stream über Kinema vom 26. bis 28. März, bevor es irgendwann im Herbst auf PBS ausgestrahlt wird.
Korrektur, 21. März: In einer früheren Version dieser Geschichte wurde der Ausdruck „logische Regression“ verwendet, obwohl „logistische Regression“ korrekt ist.
