Nvidia am Montag sagte Es schließt sich mit Microsoft, SpaceX, IBM und anderen Technologieunternehmen zusammen, um Open-Source-KI-Sicherheitstools zu entwickeln und zu teilen.

Die neue Open Secure AI Alliance sagte, dass offene Tools erforderlich sind, um Angriffe von Frontier-Modellen effektiv abzuwehren. Die Initiative ist eine direkte Reaktion auf wachsende Bedenken hinsichtlich der Sicherheit fortschrittlicher KI-Systeme, nachdem ein betrügerisches OpenAI-Modell der Eindämmung entgangen war und während der Tests ein anderes Unternehmen angegriffen hatte. Dieses Unternehmen, Hugging Face, sagte, es sei gezwungen gewesen, ein chinesisches Modell mit offenem Gewicht zu verwenden, um sich zu verteidigen, da die strengen Sicherheitsvorschriften den Nutzen der besten US-Modelle einschränkten.

Zu den Gründungsmitgliedern zählen Palantir, OpenClaw, die Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens und DoorDash. Auffällig abwesend sind führende US-amerikanische KI-Unternehmen, darunter OpenAI, Google und Anthropic.

Die Allianz kommt inmitten wachsender Spannungen darüber zustande, ob die leistungsfähigsten KI-Modelle der Welt offen bleiben sollten. Chinesische Unternehmen haben immer leistungsfähigere Open-Weight-Modelle auf den Markt gebracht, insbesondere Kimi K3 von Moonshot AI, und stellen damit die Strategie der US-Labore in Frage, die Frontier-Systeme weitgehend geschlossen und proprietär gehalten haben. Nvidia und seine Partner argumentieren, dass die Sicherung der KI den Zugriff auf sowohl geschlossene als auch offene Modelle erfordert, und betonen, dass Verteidiger die Werkzeuge benötigen, um aufkommenden Bedrohungen entgegenzuwirken.

Die Ankündigung folgt auch Berichten der Trump-Administration berücksichtigt Einschränkung des Zugangs zu hochmodernen chinesischen Modellen und einer Branchenbewegung – erneut angeführt von Nvidia – Verteidigung der Notwendigkeit von Offenheit in der KI. Auch Google und OpenAI haben diesen Brief verspätet unterzeichnet, Anthropic bleibt jedoch abwesend.