Neuer Kongressabgeordneter Scott Wiener verspricht aggressive KI‑Regulierung

Scott Wiener, frisch gewählt, um Nancy Pelosi in San Francisco zu ersetzen, sagt, er werde den Kongress dazu drängen, schnell gegen KI‑Risiken zu handeln. In seinem ersten Interview nach dem Sieg warnte er, dass ein aktueller METR‑Bericht, der nahelegt, dass Anthropic rekursive Selbstverbesserung erreicht haben könnte, das „Fenster für Regulierung“ dramatisch verkleinere.

Was geschah

Laut MIT Technology Review hat Wiener – ehemals kalifornischer Staats Senator – im Jahr 2024 den Gesetzentwurf SB 1047 verfasst, ein Gesetz, das die erste Frontier‑KI‑Regulierung des Landes gewesen wäre, bevor Gouverneur Gavin Newsom es mit einem Veto blockierte. Später unterstützte er den leichteren SB 53, den Newsom unterzeichnete und der föderale Vorschläge inspiriert hat. Seine Kongresskampagne erhielt über 3 Millionen US‑Dollar von Public First Action, einer gemeinnützigen Organisation, die KI‑Regulierung unterstützt und hauptsächlich von Anthropic finanziert wird. Kritiker haben die Spende als Interessenkonflikt dargestellt, aber Wiener betont, dass sie seine Vorreiterrolle in der KI‑Politik widerspiegele.

Wiener verwies auf einen METR‑Bericht, der einen Tag vor seiner Wahl veröffentlicht wurde und weithin als Hinweis darauf gelesen wurde, dass Anthropic rekursive Selbstverbesserung erreicht habe – ein Szenario, in dem KI‑Systeme ihre eigenen Fähigkeiten beschleunigen und damit „die Möglichkeit eines totalen Kontrollverlustes“ erhöhen. Er wiederholte den Begriff im Interview etwa ein halbes Dutzend Mal und betonte die Dringlichkeit: „Wir müssen das verlangsamen… wir könnten im Schlaf in eine Katastrophe laufen.“

Er zeigte Begeisterung für ein mögliches KI‑Ausschuss des Repräsentantenhauses und sagte, er würde einen Sitz begrüßen. Außerdem lobte er den Vorschlag von Abgeordneter Ro Khanna für einen „starken, befugten, agilen föderalen Regulierer“. Neben einem Regulierer hob Wiener den Schutz von Hinweisgebern, verpflichtende Tests und Audits sowie die Anforderung eines „Kill‑Switch“ als wesentliche Sicherheitsmaßnahmen hervor. Er warnte vor einer umfassenden föderalen Vorwegnahme von staatlichen KI‑Gesetzen und berief sich dabei auf Louis Brandeis' Metapher der „Staaten als Labore“ und argumentierte, dass Flexibilität auf Landesebene nach wie vor entscheidend sei.

Wieners Optimismus ist jedoch gemessen. Er beschrieb sich selbst als „vorsichtig optimistisch“ hinsichtlich der Fähigkeit des Kongresses, KI einzudämmen, und verwies auf die historisch schwache Technologie‑Regulierungsbilanz des Senats sowie die unvorhersehbare Haltung von Präsident Donald Trump, der das katastrophale KI‑Risiko als „Schwindel“ abgetan hat. Trotzdem hofft Wiener, dass ein kleines, begrenztes Ereignis schließlich die Exekutive zum Handeln bewegen könnte.

Warum es für Kleinunternehmer und Teamleiter wichtig ist

Für kleine Unternehmen, die bereits KI‑Werkzeuge einsetzen – sei es für Marketing, Kundensupport oder interne Analysen – könnte Wieners Vorstoß innerhalb weniger Monate zu konkreten Compliance‑Verpflichtungen führen. Ein föderaler Regulierer mit „echten Zähnen“ würde wahrscheinlich die Dokumentation von Modultests, Risikobewertungen und Prüfpfaden verlangen, was die begrenzten rechtlichen und technischen Ressourcen stark belasten kann. Im Gegensatz dazu bedeutet seine Ablehnung einer pauschalen föderalen Vorwegnahme, dass Bundesstaaten wie Kalifornien die Möglichkeit behalten, leichtere, maßgeschneiderte Regelungen zu erproben, was ein potenzieller Sandbox für Start‑ups sein könnte, die nicht den landesweiten Standards entsprechen.

Wieners Betonung von Hinweisgeber‑Kanälen und Kill‑Switch‑Mechanismen signalisiert zudem, dass die zukünftige Haftung über den KI‑Anbieter hinaus auf die Unternehmen ausgedehnt werden könnte, die die Modelle einsetzen. Kleine Unternehmen müssen nicht nur Lieferantenverträge, sondern auch interne Governance‑Praktiken überwachen. Schließlich deutet die politische Realität – hohe Wahlkampfspenden von einer KI‑freundlichen Non‑Profit‑Organisation – darauf hin, dass jede kommende Gesetzgebung ein Kompromiss sein wird, der wahrscheinlich die Interessen der Industrie mit Sicherheitsvorkehrungen ausbalanciert. Zu verstehen, wo das Gleichgewicht liegt, hilft Eigentümern, kostenbezogene Auswirkungen vorherzusehen und Produkt‑Roadmaps vor der Durchsetzung anzupassen.

Was diese Woche zu tun ist

1. Führen Sie eine schnelle Inventarisierung jedes KI‑basierten Tools durch, das Ihr Team nutzt, und notieren Sie Anbieter, Modellversion und Datenquellen.
2. Erstellen Sie eine einseitige interne Richtlinie, die festlegt, wer neue KI‑Implementierungen genehmigen darf, und eine grundlegende Risikocheckliste (Datenschutz, Bias und Ausfall‑Minderung) verlangt.
3. Bestimmen Sie eine Ansprechperson, die die föderalen KI‑Regulierungsnachrichten verfolgt – insbesondere Ankündigungen des House‑Select‑Committee – damit Sie Ihren Compliance‑Plan anpassen können, bevor eine Regel Gesetz wird.

Quellen

• Nancy Pelosi’s replacement is ready to regulate AI — MIT Tech Review