Il est possible de gagner jusqu’à 20 000 dollars en piratant le système de l’agent conversationnel Gemini. C’est en tout cas ce que vient d’annoncer Google pour récompenser tous ceux qui parviendront à découvrir les failles de sécurité de l’IA de l’entreprise américaine.
Résumé de l’article en 4 points essentiels :
- Google lance un programme de récompense allant jusqu’à 20 000 dollars pour tous ceux qui vont détecter des failles critiques de sécurité sur Gemini,
- L’objectif principal est de renforcer la sécurité des données et la résistance de l’agent IA aux attaques,
- Seules les découvertes des failles critiques de sécurité seront rémunérées, tandis que les bugs mineurs seront récompensés par des primes plus modestes.
- A travers ce programme de « bug bounty », Google a déjà versé environ 430 000 dollars en deux ans aux hackers éthiques.
Une récompense pour ceux qui vont réussir à pirater Gemini
La récompense de 20 000 dollars sera donnée à tous ceux qui réussiront à casser le code de l’agent Gemini. En clair, il ne s’agit pas de détecter les bugs de Gemini où l’agent IA a souvent tendance à donner des réponses bizarres ou à générer des illustrations incompréhensibles. L’entreprise américaine souhaite sécuriser son chatbot contre tout attaque ou vol des données des utilisateurs.
Toutes les équipes de Google seules ne peuvent pas détecter à elles seules l’entièreté des failles de Gemini d’où cette récompense. Alors, si vous parvenez à détecter une vulnérabilité, vous allez vous retrouver du jour au lendemain avec une forte récompense. Cela permettra à l’entreprise de prévoir les attaques d’un hacker qui pourrait manipuler le compte d’un utilisateur ou accéder à des données sensibles.
En dehors de ses deux protections, Google voudrait aussi assurer la protection de Gemini pour éviter toute intrusion dans les serveurs qui permettrait à un intrus d’en savoir plus sur le fonctionnement du modèle. Ce n’est pas la première fois que de telles récompenses sont proposées à tous ceux qui ont la capacité de détecter les failles de sécurité.
En effet, Google le fait pour ses différents services et produits. Seulement, cette fois-ci, l’entreprise américaine met l’accent sur la sécurité des données des utilisateurs et celle des systèmes de l’agent Gemini.
Les tentatives de ridiculiser l’IA ne seront pas récompensées
Google a été bien précis sur les critères de récompense. Uniquement ceux qui réussiront à montrer une situation de faille de sécurité pourront recevoir cette somme. Par exemple, si vous parvenez à insérer un malware ou un lien malveillant dans un prompt ou une requête, à forcer l’accès aux données confidentielles d’un utilisateur ou à indiquer une situation de faille critique, alors vous serez en possession d’une somme forte.
Cependant, l’entreprise américaine a aussi évoqué le fait que ceux qui pourront relever les bugs mineurs de Gemini seront également récompensés, mais pas à la hauteur de cette somme. Il s’agit principalement des bugs qui ne représentent pas une menace directe pour la sécurité, mais qui impactent la stabilité et la fiabilité des modèles d’IA.
Pour donner une idée des sommes de récompense et des types de menace, une faille critique S1 peut rapporter jusqu’à 20 000 dollars. Dans le cas où il s’agit d’un bug mineur, vous allez emporter tout de même 500 dollars. Dans son programme de « bug bounty », Google a déjà eu à verser une somme de 430 000 dollars au cours de ces deux dernières années aux détecteurs de bugs d’agents IA. Rappelons que le bug bounty est un programme de détection des failles de sécurité par des hackers éthiques qui reçoivent une récompense financière de la part d’une entreprise.
