Aller au contenu
Le 8 h04/11

Régulation

Anthropic propose une loi qui bloquerait une IA capable de tuer plus de 50 personnes

Anthropic, l’éditeur de Claude, a soumis à des élus américains un projet de loi confidentiel, révélé par Politico. Un modèle d’IA n’y serait bloqué qu’en cas de risque imminent de tuer ou blesser gravement plus de 50 personnes, ou de causer plus de 1 milliard de dollars de dégâts. Le texte fixe qui pourra arrêter une IA.

Par , Octolinks.fr ·

Illustration en noir et blanc, générée par IA
Illustration en noir et blanc, générée par IA

Un seuil chiffré, trois scénarios

Le mécanisme central est une « ordonnance de blocage » visant la mise sur le marché ou l’utilisation d’un modèle. Selon Next, elle ne pourrait viser que trois cas : une aide de niveau expert pour fabriquer ou diffuser une arme chimique, biologique, radiologique, cyber ou nucléaire, une cyberattaque menée sans supervision humaine significative, ou un modèle qui échappe au contrôle de son développeur ou de son utilisateur. Le risque doit aussi être prévisible et imminent. Ces seuils rappellent ceux de la loi californienne SB 53, récemment entrée en vigueur, note TechCrunch.

Le calendrier intrigue. Le texte arrive environ un mois après l’appel de Dario Amodei, le patron d’Anthropic, à une « pause » dans le développement de l’IA, une position que les dépenses de l’entreprise contredisent, relève Next. D’après TechCrunch, Anthropic défend depuis juin auprès des élus fédéraux et des États un cadre baptisé « Advanced AI Framework ».

Des évaluateurs payés par les labos, un juge pour trancher

La détection reviendrait à des évaluateurs indépendants, enregistrés auprès du département du Commerce. Ils examineraient périodiquement chaque laboratoire et ses modèles les plus avancés. Le laboratoire pourrait les rémunérer, à condition que le paiement ne dépende pas du résultat de l’évaluation. TechCrunch juge flou le moyen d’empêcher cet argent de peser sur les conclusions.

S’ils repèrent un risque imminent, les évaluateurs auraient 72 heures pour prévenir le département du Commerce. Celui-ci demanderait ensuite à un juge de Washington de suspendre la sortie du modèle. Aucun autre ministère, agence ou responsable fédéral ne pourrait, de sa propre initiative, suspendre le développement, le déploiement ou l’usage interne d’un modèle. Les amendes seraient plafonnées à 0,2 % du chiffre d’affaires annuel.

Un texte pris entre deux camps

Le seuil a fait réagir. Le magazine Mother Jones ironise : si un modèle ne pouvait tuer que quelques personnes, le gouvernement n’aurait aucun moyen de le réguler, rapporte Next. Concrètement, un modèle capable de faire 49 victimes passerait sous le radar.

À l’autre bout du spectre, Jensen Huang, le patron de Nvidia, estime que le secteur n’a besoin d’aucune nouvelle loi. Les laboratoires ont jusqu’ici résisté à tout contrôle public obligatoire et préféré des « évaluateurs embarqués » sur la base du volontariat, rappelle TechCrunch. Demis Hassabis, de DeepMind, avait de son côté évoqué un organisme d’autorégulation calqué sur la FINRA, l’instance privée qui encadre la finance américaine.

Les relations d’Anthropic avec Washington restent tendues. En février, après le refus de Dario Amodei de laisser son IA servir à la surveillance de masse ou à des armes entièrement autonomes, Donald Trump a ordonné aux agences fédérales de cesser d’utiliser ses produits, qualifiant l’entreprise de « fournisseur à risque pour la sécurité nationale », selon Next.

Notre avis

Cet avis est celui de la rédaction. Anthropic va plus loin que ses concurrents : un seuil écrit, une procédure, un juge, quand Nvidia refuse toute loi et que d’autres misent sur l’autorégulation. Mais quand l’élève écrit le règlement, la barre reste à sa hauteur. Le seuil laisse de côté les dommages diffus, les évaluateurs pourraient être payés par ceux qu’ils contrôlent, et les agences fédérales perdraient tout pouvoir de suspension, une clause qui prend du relief après le bras de fer de février.

Les agents d’IA pirates évoqués plus tôt dans notre édition resteraient sans doute sous ce seuil. Si votre entreprise utilise des modèles d’IA, ne comptez pas sur ce texte pour filtrer les risques du quotidien : demandez à vos fournisseurs qui évalue leurs modèles, et qui paie ces évaluations.

Sources

  1. Anthropic pitches AI safety bill that may block a model if 50+ people could be killed TechCrunch, 20.10.2026
  2. La régulation selon Anthropic : une IA ne doit pas pouvoir tuer « plus de 50 personnes » Next, 20.10.2026

Article rédigé avec l’aide de l’IA à partir des sources citées, relu et validé par Thibaut Lefort. La présentatrice du 8 h est un personnage généré par IA ; elle ne signe aucun article. Notre méthode.

Dans la même édition

Le 8 h du 21.10.2026

Le 8 h chaque matin dans votre boîte

Gratuit. Un e-mail par édition, désinscription en un clic. Votre adresse ne sert qu’à cet envoi (confidentialité).

Chaque matin, 8 h

Recevez Le 8 h avant votre premier café.

Cinq minutes d’actu tech et digitale, tous les jours. L’essentiel du jour et nos articles, le lien de la vidéo, chaque fait sourcé.

Gratuit. Un e-mail par édition, désinscription en un clic. Votre adresse ne sert qu’à cet envoi (confidentialité).

Octo-News · Le 8 h · 08:00

Le 8 h du 4 novembre : le faux recruteur à 6,3 milliards

  • Sujet 1Binance : le casse du faux recruteur
  • Sujet 2Mémoire : le Raspberry Pi à 500 euros
  • Sujet 3Google coupe l’IA, et sa recherche

Le LevierVerrouillez en dix minutes les comptes qui coûtent cher

Aperçu de l’e-mail, sur l’édition du jour