OpenAI Contrecarre Les Opérations Malveillantes Exploitant ChatGPT
L'avènement des outils d'IA générative comme ChatGPT a ouvert de nouvelles perspectives, mais a malheureusement aussi attiré l'attention des cybercriminels. OpenAI, la société à l'origine de cet agent conversationnel révolutionnaire, vient de révéler avoir déjoué plus d'une vingtaine d'opérations malveillantes exploitant son chatbot depuis le début de l'année.
ChatGPT, un outil détourné par les hackers
Selon OpenAI, des acteurs malveillants du monde entier ont tenté d'utiliser ChatGPT pour faciliter leurs activités frauduleuses :
- Développement de logiciels malveillants (malwares)
- Rédaction d'articles web trompeurs
- Création de faux profils sur les réseaux sociaux pour diffuser de la désinformation
Les cybercriminels se sont principalement servis de ChatGPT pour effectuer des tâches intermédiaires spécifiques dans leur processus d'attaque, comme la recherche de vulnérabilités ou la génération de code malveillant.
Des groupes de hackers chinois et iraniens identifiés
Parmi la vingtaine de réseaux cybercriminels perturbés par OpenAI, deux groupes en particulier ont été mis en lumière :
SweetSpecter, un groupe de cyberespionnage présumé chinois, a utilisé ChatGPT pour :
- Mener des actions de reconnaissance (recherche de vulnérabilités)
- Obtenir de l'aide pour déboguer du code malveillant
- Générer des messages d'hameçonnage (phishing) personnalisés
Le groupe iranien CyberAv3ngers s'est quant à lui servi du chatbot pour développer des scripts Python malveillants et trouver des méthodes pour dérober des mots de passe sur MacOS.
La majorité des messages sur les réseaux sociaux générés par nos modèles ont reçu peu d'attention, bien que nous ayons identifié quelques cas où des personnes réelles ont répondu.
OpenAI
OpenAI riposte et partage les informations
Face à ces tentatives de détournement de ChatGPT, OpenAI a réagi en bannissant tous les comptes liés à des activités malveillantes. La société a également transmis les indicators of compromise (IoCs), comme les adresses IP suspectes, aux autorités compétentes et à ses partenaires en cybersécurité.
Cet épisode montre que si l'IA générative ouvre de formidables opportunités, elle soulève aussi de nouveaux défis en matière de sécurité. Il est crucial que les acteurs comme OpenAI restent vigilants et proactifs pour empêcher que leurs outils puissants ne tombent entre de mauvaises mains.
