KI-Firma Anthropic blockiert Pentagon-Vertrag über ethische Bedenken

Ein Streit um ethische Leitplanken für Militär-KI droht einen Millionenauftrag zu stoppen. Das US-Verteidigungsministerium und der KI-Pionier Anthropic liegen über den Einsatz von KI in Waffensystemen und zur Überwachung über Kreuz. Der Konflikt zeigt den wachsenden Graben zwischen den Sicherheitsprinzipien des Silicon Valley und den Sicherheitsambitionen der Regierung.

Verhandlungen über einen Vertrag im Volumen von bis zu 200 Millionen Euro sind festgefahren. Anthropic besteht auf strikten Beschränkungen für seine KI-Modelle – eine Haltung, die mit den operativen Zielen des Pentagons kollidiert. Es geht um die Grundsatzfrage: Wie viel Einfluss dürfen private Tech-Firmen auf den militärischen Einsatz ihrer immer mächtigeren KI-Systeme nehmen?

Die roten Linien: Keine autonomen Waffen, keine Bürger-Überwachung

Im Kern fürchtet Anthropic den Missbrauch seiner Technologie. Das Unternehmen hat Bedenken geäußert, seine KI könnte für die Zielsteuerung von Waffensystemen ohne ausreichende menschliche Kontrolle oder zur Überwachung US-amerikanischer Bürger angepasst werden. Die Modelle sind mit grundlegenden Sicherheitsvorkehrungen ausgestattet. Eine Umrüstung für Militärzwecke erfordert die aktive Mithilfe der Anthropic-Ingenieure.

Unternehmenschef Dario Amodei bekräftigte diese Haltung kürzlich in einem Blogbeitrag. KI solle zwar der nationalen Verteidigung dienen, aber nicht auf eine Weise, die die USA ihren autokratischen Gegnern angleiche. Dieses Prinzip scheint die Verhandlungen zu dominieren und sorgt für Reibung mit den Verteidigungsprioritäten der aktuellen Regierung.

Die neuen Regeln zur KI-Nutzung stellen Unternehmen und Entwickler vor konkrete Pflichten — von Risikoklassen bis zu Dokumentationsanforderungen. Gerade bei sensiblen Einsätzen wie in Verteidigungs- oder Überwachungs-Kontexten können falsche Einstufungen zu rechtlichen und operativen Risiken führen. Das kostenlose E‑Book zur EU‑KI‑Verordnung erklärt kompakt, welche Pflichten für Anbieter und Anwender gelten und liefert eine praktische Checkliste zur Einordnung Ihres Systems. KI-Verordnung: Umsetzungsleitfaden herunterladen

Pentagon pocht auf uneingeschränkten Einsatz

Das Verteidigungsministerium kontert: Der Staat habe das Recht, kommerzielle Technologie nach eigenem Ermessen einzusetzen – solange dies im Rahmen des US-Rechts geschehe. Unternehmensrichtlinien dürften legale Regierungsoperationen nicht übertrumpfen. Diese Position deckt sich mit einer AI-Strategie des Ministeriums vom 9. Januar, die breite Befugnisse für den Einsatz fortschrittlicher Technologien fordert.

Das Drängen auf weniger Restriktionen unterstreicht das dringende Bestreben des Militärs, KI für Aufklärungsanalyse, Operationsplanung und Entscheidungsunterstützung im Gefechtsfeld zu integrieren. Im vergangenen Jahr vergab das Ministerium bereits Verträge an mehrere führende KI-Firmen, darunter auch Google, OpenAI und xAI.

Präzedenzfall für die gesamte Tech-Branche

Der Disput ist mehr als ein vertraglicher Zwist. Er offenbart eine grundlegende Spannung zwischen den Schöpfern mächtiger KI und ihren staatlichen Nutzern. Für Anthropic, das sein Markenversprechen auf KI-Sicherheit aufbaut und einen Börsengang vorbereitet, sind Ruf und Geschäftsmodell auf dem Spiel.

Branchenbeobachter vermuten, dass die Situation andere KI-Entwickler zwingen könnte, ihre eigenen ethischen roten Linien im Rennen um lukrative Rüstungsaufträge zu definieren. Die Abhängigkeit des Pentagons von den Anthropic-Ingenieuren für Anpassungen verleiht dem Unternehmen erheblichen Hebel. Die Armee kann die eingebauten Sicherheitsfeatures nicht einfach umgehen.

Was kommt jetzt? Eine unklare Zukunft

Derzeit zeigt keine Seite Kompromissbereitschaft. Anthropic betont in einer Stellungnahme, seine KI werde bereits umfangreich für nationale Sicherheitsmissionen genutzt und die Gespräche mit dem Ministerium seien produktiv. Der Stillstand bei den spezifischen Sicherheitsvorkehrungen für autonome Systeme und Überwachung bleibt jedoch bestehen.

Der Weg nach vorn ist ungewiss. Die Uneinigkeit könnte zu Neuverhandlungen, zur Streichung des Vertrags oder zu einer breiteren Debatte über die ethischen Verpflichtungen von Zulieferfirmen für das Militär führen. Klar ist: Die Lösung dieses Konflikts wird einen Präzedenzfall für die Zukunft der KI in der Kriegsführung und das komplexe Verhältnis zwischen Silicon Valley und dem nationalen Sicherheitsapparat setzen.

PS: Seit August 2024 gelten EU-weite Regeln für KI-Systeme — sind Ihre Prozesse und Produkte konform? Der Gratis-Leitfaden fasst Kennzeichnungspflichten, Übergangsfristen und Dokumentationsanforderungen verständlich zusammen und zeigt, wie Sie Ihr System richtig klassifizieren, um Bußgelder und Nutzungseinschränkungen zu vermeiden. Ideal für Entwickler, Anbieter und Behörden, die KI rechtssicher einsetzen wollen. Jetzt KI-Act-Guide anfordern