Anthropic veut une loi sur l’IA avec un seuil de 1 milliard $ de dommages

Anthropic, l’entreprise derrière l’assistant IA Claude, mène en coulisses des actions de lobbying auprès des législateurs américains pour défendre sa propre proposition de loi sur la sécurité de l’IA. Selon Politico, le texte prévoit que les pouvoirs publics ne pourraient intervenir lors du lancement ou de l’utilisation d’un modèle d’IA qu’en cas de risque démontrable et imminent de plus d’un milliard de dollars de dommages ou d’au moins 50 morts ou blessés graves. Un seuil particulièrement élevé pour l’intervention des pouvoirs publics dans les systèmes d’IA avancés.

En bref :

• Anthropic présente aux législateurs américains sa proposition de loi non publiée sur la sécurité de l’IA.
• Les pouvoirs publics ne pourraient intervenir qu’en cas de risque imminent de plus d’un milliard de dollars de dommages ou d’au moins 50 victimes.
• Le texte instaurerait aussi des audits indépendants obligatoires et placerait les règles des États fédérés en matière d’IA sous contrôle fédéral.

Un seuil élevé pour l’intervention des pouvoirs publics

La proposition d’Anthropic vise spécifiquement les modèles dits de frontière, c’est-à-dire les systèmes d’IA les plus avancés actuellement en développement. Selon le texte, les pouvoirs publics ne pourraient imposer des restrictions qu’en cas de risques concrets et imminents, comme l’utilisation d’armes biologiques, la perte de contrôle d’un système d’IA par son développeur ou des cyberattaques à grande échelle.

Ce seuil d’un milliard de dollars de dommages ou de 50 victimes constitue donc un choix délibéré pour empêcher les pouvoirs publics d’intervenir trop rapidement lors du développement et du lancement de nouveaux modèles d’IA. Des critiques pourraient considérer que ce seuil est si élevé qu’une intervention devient en pratique quasiment impossible tant qu’un incident grave ne s’est pas déjà produit.

Les règles fédérales doivent remplacer la législation des États

Le texte prévoit également que les règles de sécurité en matière d’IA, existantes et à venir, des différents États fédérés relèveraient d’un cadre fédéral. Anthropic cherche ainsi à éviter un patchwork de lois étatiques, source de complexité juridique pour les entreprises d’IA actives dans l’ensemble des États-Unis.

La proposition instaure en outre l’obligation de procéder à des évaluations indépendantes régulières des modèles de frontière. Cet élément s’inscrit dans les discussions plus larges en cours à Washington sur la meilleure façon d’organiser la surveillance des systèmes d’IA puissants. Anthropic se présente depuis longtemps comme un acteur qui prend la sécurité au sérieux, mais le fait que l’entreprise soumette désormais activement son propre cadre législatif aux législateurs montre qu’elle entend aussi y ancrer ses propres intérêts.