October 21, 2026 at 08:17AM: Golem.de schreibt zum Thema
Anthropic: US-Stopp für KI erst ab Milliardenrisiko oder vielen Todesopfern:

Anthropic hat einen Gesetzentwurf für die KI-Sicherheit in den USA vorgeschlagen.

– Ein neues KI-Modell darf nur gestoppt werden, wenn es mindestens 1 Milliarde US-Dollar Schaden verursachen oder mehr als 50 Menschen töten oder schwer verletzen könnte.

– Der Entwurf sieht ein System unabhängiger Prüfer vor, die die KI-Modelle regelmäßig begutachten.

– Stellt ein Prüfer Risiken fest, die die Katastrophenschwelle erreichen, muss er seine Ergebnisse binnen 72 Stunden nach Abschluss der Bewertung an das Handelsministerium melden.

– Ein Bundesrichter des District of Columbia entscheidet, ob die Veröffentlichung des Modells gestoppt wird.

– Andere Vorschläge für eine KI-Regulierung umfassen ein Verbot der Entwicklung von Superintelligenz und eine freiwillige Selbstverpflichtung der Tech-Konzerne.

*Zusammenfassung mit KI erstellt.*