OpenAI lance un programme de Bug Bounty
jeu, 13/04/2023 - 08:00
OpenAI, la société qui a créé ChatGPT qui fait tant parler en ce moment, lance un programme de chasse ou bugs ou Bug Bounty, afin de renforcer la sécurité de ses outils.
La mission d'OpenAI est de créer des systèmes d'intelligence artificielle qui profitent à tous. À cette fin, nous investissons massivement dans la recherche et l'ingénierie pour nous assurer que nos systèmes d'IA sont sûrs et sécurisés. Cependant, comme pour toute technologie complexe, nous comprenons que des vulnérabilités et des failles peuvent apparaître.
Nous pensons que la transparence et la collaboration sont essentielles pour faire face à cette réalité. C'est pourquoi nous invitons la communauté mondiale des chercheurs en sécurité, des hackers éthiques et des passionnés de technologie à nous aider à identifier et à corriger les vulnérabilités de nos système, déclare la société.
Les chercheurs sont donc invités à rechercher des vulnérabilités dans les domaines suivants :
Les API OpenAI, les ressources ou infrastructure de cloud public impliquées dans le service de l'API OpenAI, notamment les comptes de stockage cloud (par exemple, blobs de données Azure) et les serveurs de calcul cloud (par exemple, machines virtuelles Azure). Les chercheurs sont invités à trouver des vulnérabilités XSS, injection SQL, des problèmes d'authentification, d'autorisation, d'exposition des données, et des problèmes de sécurité avec le système de création de plugin.
En revanche, faire en sorte que le modèle vous dise de mauvaises choses, faire en sorte que le modèle vous dise comment faire de mauvaises choses, demander au modèle d'écrire du code malveillant pour vous, sort du champ de recherche des bugs de sécurité selon OpenAI. Car oui, il arrive que ChatGPT dérape :-)
Selon la gravité des vulnérabilités découvertes, les récompenses s'échelonnent de 200 à 20 000 dollars.
Site : bugcrowd.com/openai
