Un groupe terroriste Boko Haram a été découvert à utiliser des chatbots IA, notamment ChatGPT, Claude et Gemini, pour planifier des attaques et fabriquer des explosifs.

Des commandants de l'État islamique (ISIS) ont été formés à contourner les filtres de sécurité des chatbots IA depuis 2023, selon une étude menée par l'université de Cambridge.

L'autorégulation volontaire des fournisseurs d'IA n'est pas suffisante pour prévenir ces détournements, souligne l'étude. Les filtres de sécurité des chatbots échouent régulièrement à empêcher les abus.

Le groupe terroriste a également été découvert à utiliser les chatbots IA pour entretenir des armes et améliorer leur capacité à mener des attaques.