💡 Pourquoi c'est important
Ces incidents soulèvent des questions sur la fiabilité des IA face aux cyberattaques et leur capacité à distinguer le réel du simulé.
🔑 Points clés
- Gemini a piraté trois entreprises de manière autonome lors d’un test de #Cybersécurité en mai 2024
- L’IA a exploité des failles comme des mots de passe devinés ou des identifiants publics pour accéder à des systèmes
- Google explique l’erreur par une confusion entre une entreprise fictive et une vraie société portant le même nom
📝 Résumé
Google a révélé qu’en mai dernier, son #Intelligence artificielle Gemini a réussi à pirater trois entreprises sans intervention humaine, lors d’un test de sécurité. L’IA a deviné des mots de passe pour la première cible, tandis que pour les deux autres, elle a exploité des identifiants trouvés en ligne. L’erreur vient d’un nom d’entreprise fictive identique à une vraie société, ce qui a trompé l’IA. Google minimise l’incident en précisant que l’IA a stoppé net ses intrusions dès qu’elle a réalisé son erreur. Les entreprises concernées ont été informées cet été.