Un article très intéressant sur : Phishing Emails Are Now Aimed at Users and AI Defenses – Malware Analysis, Phishing, and Email Scams

 En résumé, les attaquants ne ciblent plus uniquement les utilisateurs humains, mais cherchent désormais à manipuler les défenses basées sur l’intelligence artificielle (IA). Des prompts cachés sont destinés à perturber l’analyse automatisée.

 L’email de phishing classique :

Objet : « Login Expiry Notice »
Message : avertit que le mot de passe de l’utilisateur expire bientôt, incitant à cliquer pour le renouveler.
Technique : urgence, perturbation, et imitation du branding Gmail dans l’article.

 L’attaque contre l’IA
Dans la section MIME en texte brut de l’email, un bloc de texte est inséré, rédigé comme un prompt complexe destiné aux modèles IA. Ce prompt demande à l’IA de :

• Simuler une réflexion profonde et multi-perspective
• Retarder sa réponse.
• Explorer des contre-arguments et des interprétations alternatives

Le but est de détourner l’attention de l’IA, l’empêcher de classer rapidement l’email comme phishing, et perturber les workflows automatisés qui s’ensuivent (étiquetage, escalade, création de tickets).

Pour les humains : un leurre classique de mot de passe expiré.
Pour les IA : une tentative d’injection de prompt pour éviter la détection automatique