OpenAI piraté via le modèle d’IA Claude d’Anthropic

OpenAI a été piraté plus tôt cette année à l’aide de Claude, le modèle d’IA de son concurrent Anthropic. Des chercheurs de Hacktron AI sont parvenus, via une vulnérabilité dans un forum d’un tiers, à accéder aux comptes ChatGPT de plusieurs employés d’OpenAI et finalement à la base de code GitHub interne de l’entreprise. OpenAI a depuis corrigé les vulnérabilités et récompensé les chercheurs via son programme de primes aux bugs.

En bref :

• Hacktron AI a utilisé Claude d’Anthropic pour exploiter des vulnérabilités chez OpenAI
• L’attaque a donné accès aux comptes d’employés et à la base de code GitHub interne
• OpenAI a résolu les problèmes et payé 6 500 $ aux chercheurs

Claude déployé pour attaquer OpenAI

Les chercheurs de Hacktron AI ont utilisé Claude, le grand modèle de langage d’Anthropic, pour trouver et exploiter une vulnérabilité dans le forum d’un fournisseur externe utilisé par OpenAI. Par ce forum, ils ont réussi à accéder aux comptes ChatGPT de plusieurs employés d’OpenAI.

Ces comptes ont ouvert une voie vers la base de code GitHub interne d’OpenAI, où sont stockés du code source sensible et des informations sur des projets. L’intrusion a eu lieu en juillet, mais les conclusions ne sont rendues publiques que maintenant, rapporte le Financial Times.

OpenAI paie 6 500 $ aux chercheurs

Une fois les vulnérabilités signalées, OpenAI les a corrigées. L’entreprise a versé aux chercheurs une récompense de 6 500 $ via son programme de primes aux bugs. Ces programmes visent à inciter les chercheurs externes en sécurité à signaler les vulnérabilités de manière responsable plutôt qu’à les exploiter ou à les rendre publiques.

L’affaire montre que les modèles d’IA ne sont pas seulement utilisés à des fins productives, mais aussi comme outils de recherche en sécurité et de détection de failles dans les systèmes d’autres entreprises. Le fait qu’OpenAI, l’une des entreprises d’IA les plus connues au monde, ait été la cible d’une attaque menée en partie avec la technologie d’un concurrent rend cette révélation remarquable.