Das US-Unternehmen Anthropic hat den Zugang zu seinen neuen KI-Modellen Fable 5 und Mythos 5 gesperrt. Es reagiere damit auf eine Anordnung der US-Regierung, teilte das Unternehmen in einer Stellungnahme mit. Die Regierung hatte gefordert, dass Ausländer keinen Zugang mehr zu den Modellen haben sollten – zum Schutz der nationalen Sicherheit. Gemeint seien damit auch Menschen ohne US-Staatsbürgerschaft, die sich in den USA aufhalten, sowie ausländische Mitarbeiter von Anthropic. In Reaktion auf die Anordnung sperrte das Unternehmen den Zugang zunächst für alle.

Die künstliche Intelligenz hinter Mythos 5 ist offenbar sehr gut darin, Sicherheitslücken in Software zu finden, auch solche, die über Jahrzehnte unentdeckt geblieben sind. Das kann hilfreich sein, weil Unternehmen und Behörden solche Schwachstellen dann schließen können. Gleichzeitig besteht aber die Sorge, dass eine solche KI auch für Cyberangriffe missbraucht werden könnte.

Mythos 5 ist die nichtöffentliche volle Version und soll nur von Behörden und ausgewählten Firmen eingesetzt werden, um deren Computersysteme sicherer zu machen. Das diese Woche veröffentlichte Modell Fable 5 basiert auf derselben Technologie. Bei ihm wurden aber einige Sicherheitsmechanismen eingebaut, etwa in den Bereichen Cybersicherheit und Biotechnologie.

Anthropic hält Sperrung für überzogen

Anthropic teilte mit, man habe von der Regierung bisher nur unvollständige Informationen erhalten. Die Firma habe einen Bericht geprüft, der nach Einschätzung des Unternehmens zur Entscheidung der Regierung geführt haben soll. Die US-Regierung befürchtet laut Anthropic offenbar, dass es eine Möglichkeit geben könnte, Sicherheitsbeschränkungen der KI zu umgehen. Diese Möglichkeit gibt es laut Anthropic auch bei Modellen anderer Anbieter. Deshalb halte die Firma die Sperrung für überzogen. Zudem seien die Sicherheitsvorkehrungen von Fable 5 gründlich getestet worden.

Anthropic-Chef Dario Amodei hatte erst vor wenigen Tagen gesagt, dass potenziell gefährliche KI-Software notfalls von der Regierung gestoppt werden sollte. Anthropic betont aber, dass so etwas nur auf Grundlage transparenter Verfahren und technischer Fakten geschehen dürfe. Das sei jetzt nicht der Fall.

Zusätzlich gibt es schon länger Streit zwischen Anthropic und der US-Regierung. Das Unternehmen wollte nicht zulassen, dass seine KI für autonome Waffen oder große Überwachungssysteme in den USA benutzt wird. Die Regierung erklärte Anthropic daraufhin zu einem Lieferkettenrisiko. Die Firma geht dagegen juristisch vor.