Selon un rapport, des pirates nord-coréens utiliseraient ChatGPT pour inciter les utilisateurs de LinkedIn et d’autres réseaux sociaux à fournir des informations et des données sensibles.
La société mère de ChatGPT, OpenAI, et l’investisseur Microsoft ont révélé la semaine dernière qu’ils avaient « perturbé 5 acteurs affiliés à des États qui cherchaient à utiliser des services d’IA pour soutenir des activités cybernétiques malveillantes ».
Grâce à Microsoft Threat Intelligence, les comptes associés à deux acteurs affiliés à la Chine et connus sous le nom de Charcoal Typhoon et Salmon Typhoon, à l’acteur affilié à l’Iran et connu sous le nom de Crimson Sandstorm, à l’acteur affilié à la Corée du Nord et connu sous le nom d’Emerald Sleet, et à l’acteur affilié à la Russie et connu sous le nom de Forest Blizzard, ont été identifiés et supprimés.
Microsoft, qui possède LinkedIn, a noté qu’Emerald Sleet, également connu sous le nom de Kimsuky, s’est fait passer pour « des institutions académiques et des ONG réputées afin d’inciter les victimes à répondre avec des idées et des commentaires d’experts sur les politiques étrangères liées à la Corée du Nord ».
Dans son article de blog, elle indique qu’elle n’a pas trouvé de preuves que ces acteurs ont mené des cyberattaques importantes, mais que la plupart de ses découvertes sont « représentatives d’un adversaire explorant les cas d’utilisation d’une nouvelle technologie ».
OpenAI a indiqué que le compte Emerald Sleet de la Corée du Nord a utilisé ses services « pour identifier des experts et des organisations axés sur les questions de défense dans la région Asie-Pacifique, comprendre les vulnérabilités accessibles au public, aider à effectuer des tâches de script de base et rédiger des contenus susceptibles d’être utilisés dans des campagnes de phishing ».
Comment les pirates nord-coréens ciblent LinkedIn ?
Selon Yonhap, l’agence de renseignement de l’État sud-coréen a détecté des signes indiquant que la Corée du Nord essayait d’intégrer l’IA générative dans ses attaques de piratage et autres cyberactivités illicites.
« Récemment, il a été confirmé que les pirates nord-coréens utilisent l’IA générative pour rechercher des cibles de piratage et des technologies nécessaires au piratage », a déclaré à la presse un haut responsable du Service national de renseignement (NIS). Le NIS a déclaré avoir constaté une moyenne quotidienne de 1,62 million de tentatives de piratage dans le secteur public sud-coréen l’année dernière, soit une augmentation de 36 % par rapport à l’année précédente.
Le NIS a ajouté qu’il est également soupçonné d’utiliser ses travailleurs informatiques à l’étranger pour trouver des emplois dans des entreprises informatiques afin d’implanter des codes malveillants dans les programmes logiciels qu’ils ont développés dans les entreprises pour voler des crypto-monnaies.
Erin Plante, vice-président des enquêtes de Chainalysis, une société de cybersécurité spécialisée dans les cryptomonnaies, a déclaré au Financial Times que « des groupes de pirates nord-coréens ont été vus en train de créer des profils de recruteurs d’apparence crédible sur des sites de réseautage professionnel tels que LinkedIn ».
« L’IA générative aide à discuter, à envoyer des messages, à créer des images et de nouvelles identités — toutes les choses dont vous avez besoin pour établir une relation étroite avec votre cible », a-t-elle ajouté.
GPT-4 peut-il aider les hackers ?
OpenAI a déclaré que ses conclusions s’alignaient sur les évaluations externes, indiquant que les capacités de GPT-4 à aider les « tâches malveillantes de cybersécurité » sont limitées à ce qui peut déjà être accompli à l’aide d’outils accessibles au public qui n’utilisent pas l’IA.
L’année dernière, il a été rapporté que des pirates soutenus par la Corée du Nord avaient ciblé des clients de crypto-monnaies en infiltrant les systèmes de la société américaine de logiciels d’entreprise JumpCloud.
