Menaces émergentes liées à l’utilisation illicite de l’IA : Kaspersky alerte sur l’exploitation croissante de ChatGPT dans le Dark Web

ACM_Prod_Blogger_Koffi1 février 2024

0 10 Moins d’une minute

Une récente enquête menée par le service Digital Footprint Intelligence de Kaspersky a mis en évidence une préoccupation croissante quant à l’exploitation de ChatGPT et d’autres modèles de langage sur le dark web à des fins illégales. Les chercheurs ont découvert près de 3 000 messages échangés, détaillant divers scénarios allant de la création de clones malveillants de ChatGPT au jailbreaking de sa version originale.

Selon les chercheurs de Kaspersky, les acteurs malveillants ne se contentent pas de créer des copies altérées du chatbot, ils s’attaquent également à des comptes ChatGPT volés. Ainsi, ils inondent les canaux du dark web avec des publications tout en proposant de les générer automatiquement en masse. En parallèle, des services tels que XXXGPT et FraudGPT, commercialisés comme des alternatives supérieures à ChatGPT ont particulièrement attiré l’attention de ces cybercriminels.

Pour Alisa KULISHENKO, Analyste de l’Empreinte Numérique chez Kaspersky, les acteurs de la menace explorent activement divers scénarios pour exploiter ChatGPT et l’IA en général. Cette exploration, selon elle, inclut le développement de logiciels malveillants, le traitement de données volées des utilisateurs et l’analyse de fichiers provenant d’appareils infectés. En conséquence, les outils d’Intelligence Artificielle ont trouvé leur place dans les forums des cybercriminels où des réponses automatisées sont intégrées pour faciliter les attaques.

“Si l’IA générative et les chatbots pourraient potentiellement révolutionner le paysage des attaques, au moins en 2024, la nature automatisée des cyberattaques implique souvent des défenses automatisées”, a poursuivi Alisa KULISHENKO. “Néanmoins, il est essentiel de rester informé des activités des attaquants pour devancer les adversaires au niveau de la cybersécurité des entreprises “, a-t-elle conclu

Cette étude met en lumière l’importance croissante de la vigilance dans le domaine de la cybersécurité, incitant les entreprises et les utilisateurs à renforcer leurs défenses face à l’évolution constante des tactiques employées par les cybercriminels.