Senatorin Elizabeth Warren (D-MA) schickte eine Brief an Verteidigungsminister Pete Hegseth am Montag, in dem er seine Besorgnis über die Entscheidung des Pentagons zum Ausdruck brachte, Elon Musks Unternehmen xAI Zugang zu geheimen Netzwerken zu gewähren.

„Grok, das umstrittene KI-Modell, das von xAI entwickelt wurde, hat beunruhigende Ergebnisse für Benutzer geliefert, darunter ‚Ratschläge für die Begehung von Morden und Terroranschlägen‘, die Generierung antisemitischer Inhalte und die Erstellung von Material über sexuellen Missbrauch von Kindern“, heißt es in dem Brief.

Warren sagte, Groks „offensichtlicher Mangel an angemessenen Leitplanken“ könne „ernsthafte Risiken für die Sicherheit des US-Militärpersonals und für die Cybersicherheit geheimer Systeme“ darstellen. Sie forderte Hegseth auf, Informationen darüber bereitzustellen, wie das Verteidigungsministerium „diese potenziellen nationalen Sicherheitsrisiken abmildern“ will.

Warren ist nicht der Erste, der seine Besorgnis darüber zum Ausdruck bringt, dass Grok, der umstrittene Chatbot von xAI, Zugang zu geheimen Systemen erhält. Letzten Monat forderte eine Koalition gemeinnütziger Organisationen die Regierung auf, den Einsatz von Grok in Bundesbehörden, einschließlich des Verteidigungsministeriums, sofort auszusetzen, nachdem X-Benutzer den Chatbot wiederholt dazu aufgefordert hatten, echte Fotos von Frauen und in einigen Fällen Kindern ohne deren Zustimmung in sexualisierte Bilder umzuwandeln. Am selben Tag, an dem Warren ihren Brief verschickte, wurde eine Sammelklage gegen xAI eingereicht, in der behauptet wurde, Grok habe sexuelle Inhalte aus echten Bildern der Kläger als Minderjährige generiert.

Der Brief folgt auf die Entscheidung des Pentagons, Anthropic als Lieferkettenrisiko einzustufen, nachdem sich das KI-Unternehmen geweigert hatte, dem Militär uneingeschränkten Zugang zu seinen KI-Systemen zu gewähren. Anthropic war bis vor Kurzem das einzige KI-Unternehmen mit klassifizierten Systemen. Inmitten dieses Konflikts unterzeichnete das Verteidigungsministerium eine Vereinbarung mit OpenAI und xAI, um die KI-Systeme der beiden Unternehmen in geheimen Netzwerken zu nutzen, heißt es Axios.

Ein hochrangiger Pentagon-Beamter bestätigte, dass Grok für den Einsatz in einer geheimen Umgebung vorgesehen war, aber noch nicht eingesetzt wird.

„Es ist unklar, welche Zusicherungen oder Unterlagen xAI dem Verteidigungsministerium über die Sicherheitsvorkehrungen, Datenverarbeitungspraktiken oder Sicherheitskontrollen von Grok vorgelegt hat und ob das Verteidigungsministerium diese Zusicherungen geprüft hat, bevor es Berichten zufolge Grok Zugang zu geheimen Systemen gewährt hat“, schreibt Warren.

Warren forderte eine Kopie der angeblich zwischen dem Verteidigungsministerium und xAI erzielten Vereinbarung über die Verwendung von Grok in geheimen Systemen sowie eine Erklärung, wie das Ministerium sicherstellen will, dass Grok keinen Cyberangriffen ausgesetzt ist und „keine sensiblen oder geheimen militärischen Informationen preisgibt“.

(Letzte Woche soll ein ehemaliger Mitarbeiter von Musks Department of Government Efficiency Berichten zufolge persönliche Daten von Amerikanern von der Sozialversicherungsbehörde gestohlen und auf einem USB-Stick gespeichert haben – der jüngste Vorwurf von DOGE-bezogene Datenlecks.)

Der Chefsprecher des Pentagons, Sean Parnell, sagte, das Ministerium freue sich darauf, Grok in naher Zukunft auf seiner offiziellen KI-Plattform GenAI.mil einzusetzen.

GenAI.mil ist die sichere Unternehmensplattform des Militärs für generative KI, die DoD-Mitarbeitern Zugriff auf große Sprachmodelle (LLMs) und andere KI-Tools in staatlich genehmigten Cloud-Umgebungen ermöglicht. Es soll bei hauptsächlich nicht klassifizierten Aufgaben wie Recherche, Dokumenterstellung und Datenanalyse helfen.