Nvidia crée une couche de sécurité externe à l’agent IA

Nvidia ne fait pas confiance au jugement de ses agents d’IA et construit donc une couche de sécurité qui opère entièrement en dehors du modèle d’IA. Avec le nouveau Open Agent Safety Platform, c’est l’infrastructure elle-même qui détermine ce qu’un agent peut faire ou non, indépendamment de ce que le modèle décide en interne. À mesure que les agents accèdent de plus en plus souvent à des fichiers, du code, des API et des systèmes d’entreprise, l’attention en matière de sécurité de l’IA se déplace de ce qu’un modèle dit vers ce qu’il est réellement autorisé à exécuter.

En bref :

• Nvidia lance une plateforme de sécurité pour les agents d’IA avec deux couches : OpenShell et Sentry.
• L’accès est refusé par défaut et les droits sont appliqués en dehors du modèle.
• La plateforme est destinée aux entreprises qui travaillent à grande échelle avec des agents d’IA.

OpenShell et Sentry forment les deux couches

La plateforme se compose de deux éléments distincts. OpenShell gère ce à quoi un agent a accès, comme le système de fichiers, le réseau, les sources de données et les services externes. Tout ce qui sort des règles définies est automatiquement bloqué.

Le deuxième élément, Sentry, surveille de manière indépendante ce qu’un agent fait réellement. Dès qu’un agent franchit les limites établies, Sentry peut isoler cet agent en quelques millisecondes. Les deux couches réunies forment ce que Nvidia décrit comme un contrôle externe : c’est le système, et non le modèle d’IA, qui détermine ce qui est techniquement possible.

Les agents présentent un risque différent des chatbots

Le raisonnement derrière la plateforme est que les agents d’IA autonomes sont fondamentalement différents des chatbots ordinaires. Un chatbot peut donner une mauvaise réponse, mais un agent peut aussi exécuter cette mauvaise réponse. Il peut modifier des fichiers, envoyer des requêtes, consulter des bases de données ou activer des systèmes externes, tout cela avant qu’un humain n’intervienne.

Cela rappelle ce qui avait été observé précédemment lors d’incidents de confidentialité via des agents d’IA, où les conséquences d’actions autonomes sont difficiles à annuler. À mesure que les entreprises déploient davantage d’agents, l’importance de ce type de contrôle infrastructurel augmente.

Par défaut, aucun accès, sauf autorisation explicite

L’approche de Nvidia repose sur le principe de zéro confiance : l’accès est refusé par défaut et les droits sont appliqués exclusivement en dehors du modèle. Ce n’est pas l’agent, mais le système qui détermine quelles actions sont techniquement exécutables.

Les entreprises qui déploient des milliers d’agents à grande échelle disposent ainsi d’une couche de contrôle centrale. Que cette plateforme devienne une norme dans le secteur dépendra de la rapidité avec laquelle d’autres fournisseurs proposeront des solutions comparables et de la manière dont les entreprises arbitreront entre autonomie et contrôle dans leur usage de l’IA.