Le nouveau congressman Scott Wiener promet une régulation agressive de l'IA

Scott Wiener, fraîchement élu pour remplacer Nancy Pelosi à San Francisco, déclare qu'il poussera le Congrès à agir rapidement sur les risques liés à l'IA. Dans sa première interview après sa victoire, il a averti qu'un récent rapport de METR suggérant qu'Anthropic a peut-être atteint l'amélioration auto-récursive fait « rétrécir considérablement la fenêtre de régulation ».

Ce qui s'est passé

Selon MIT Technology Review, Wiener, ancien sénateur de l'État de Californie, a rédigé le SB 1047 en 2024, une loi qui aurait été la première loi fédérale sur l'IA de frontière avant d'être rejetée par le gouverneur Gavin Newsom. Il a ensuite parrainé le SB 53, plus souple, que Newsom a signé et qui a inspiré des propositions fédérales. Sa campagne au Congrès a reçu plus de 3 millions de dollars de Public First Action, une organisation à but non lucratif qui soutient la régulation de l'IA et est financée en grande partie par Anthropic. Les critiques ont présenté ce don comme un conflit d'intérêts, mais Wiener affirme qu'il reflète son rôle pionnier dans la politique de l'IA.

Wiener a cité un rapport de METR publié la veille de son élection, largement interprété comme une preuve qu'Anthropic avait atteint l'amélioration auto-récursive — un scénario où les systèmes d'IA accélèrent leurs propres capacités, soulevant « la possibilité d'une perte totale de contrôle ». Il a répété ce terme une demi-douzaine de fois lors de l'interview, soulignant l'urgence : « Nous devons ralentir les choses… nous pourrions nous endormir dans un désastre. »

Il a exprimé son enthousiasme pour un éventuel comité spécial de la Chambre sur l'IA et a déclaré qu'il accueillerait favorablement un siège. Il a également salué la proposition du représentant Ro Khanna pour un « régulateur fédéral fort, habilité et agile ». Au-delà d'un régulateur, Wiener a mis en avant les protections des lanceurs d'alerte, les tests et audits obligatoires, et l'exigence d'un « interrupteur d'arrêt » comme mesures de sécurité essentielles. Il a averti contre une préemption fédérale large des lois de l'État sur l'IA, invoquant la métaphore de Louis Brandeis des « États comme laboratoires », et a soutenu que la flexibilité au niveau de l'État reste cruciale.

L'optimisme de Wiener est tempéré. Il s'est décrit comme « optimiste avec prudence » quant à la capacité du Congrès à maîtriser l'IA, notant le bilan historiquement médiocre du Sénat en matière de régulation technologique et la position imprévisible du président Donald Trump, qui a qualifié le risque catastrophique lié à l'IA de « canular ». Néanmoins, Wiener espère qu'un petit incident contenu pourrait enfin inciter à une action exécutive.

Pourquoi cela compte pour les propriétaires de petites entreprises et les responsables d'équipe

Pour les petites entreprises qui intègrent déjà des outils d'IA — que ce soit pour le marketing, le service client ou l'analyse interne — la poussée de Wiener pourrait se traduire par des obligations de conformité concrètes dans les mois à venir. Un régulateur fédéral « aux dents » exigerait probablement la documentation des tests de modèles, des évaluations des risques et des pistes d'audit, ce qui peut mettre à rude épreuve les ressources juridiques et techniques limitées. Inversement, son opposition à une préemption fédérale générale signifie que des États comme la Californie peuvent conserver la capacité d'expérimenter des règles plus légères et plus ciblées, offrant un bac à sable potentiel pour les startups qui ne peuvent pas respecter les normes nationales.

L'accent mis par Wiener sur les canaux de signalement des lanceurs d'alerte et les mécanismes d'interrupteur d'arrêt signale également que la responsabilité future pourrait s'étendre au-delà du fournisseur d'IA aux entreprises qui déploient les modèles. Les petites entreprises devront surveiller non seulement les contrats avec les fournisseurs, mais aussi les pratiques de gouvernance interne. Enfin, la réalité politique — des contributions de campagne importantes d'une organisation à but non lucratif favorable à l'IA — suggère que toute législation à venir sera un compromis, équilibrant probablement les contributions de l'industrie avec des mesures de sécurité. Comprendre où se situe cet équilibre aidera les propriétaires à anticiper les impacts sur les coûts et à ajuster les feuilles de route produit avant l'application.

Ce qu'il faut faire cette semaine

1. Effectuer un inventaire rapide de tous les outils alimentés par l'IA utilisés par votre équipe et noter le fournisseur, la version du modèle et les entrées de données.
2. Rédiger une politique interne d'une page qui précise qui peut approuver les nouveaux déploiements d'IA et exige une liste de contrôle des risques de base (confidentialité, biais et atténuation des pannes).
3. Désigner une personne de contact pour suivre l'actualité réglementaire fédérale sur l'IA — en particulier les annonces du comité spécial de la Chambre — afin que vous puissiez adapter votre plan de conformité avant que toute règle ne devienne loi.

Sources

• Nancy Pelosi’s replacement is ready to regulate AI — MIT Tech Review