La puissance de l’intelligence artificielle générative peut déjà sembler effrayante, mais l’absence totale de protections ou de garde-fous représente un problème majeur. C’est précisément ce que DeepSeek doit désormais gérer, son manque de contrôles appropriés en faisant un outil potentiellement exploitable par des personnes mal intentionnées.
DeepSeek : une absence totale de protections, selon des analystes
Un rapport de la société israélienne ActiveFence, relayé par YNetNews.com, met en lumière des lacunes importantes dans le fonctionnement de DeepSeek, une startup chinoise spécialisée dans l’intelligence artificielle. Contrairement aux modèles développés par des entreprises occidentales comme OpenAI, Google ou Perplexity, DeepSeek ne semble pas avoir mis en place de directives ou de politiques de protection.
Les chercheurs d’ActiveFence affirment que DeepSeek n’a intégré aucun garde-fou ni mécanisme de protection internes ou externes pour sécuriser les comptes utilisateurs.
Ce manque de régulation ouvre la porte à des utilisations malveillantes, où l’IA pourrait être détournée à des fins frauduleuses.
Un risque d’exploitation par des cybercriminels
Le rapport souligne que les technologies de DeepSeek pourraient être exploitées par des criminels souhaitant orchestrer des escroqueries ou manipulations de masse. En testant DeepSeek V3, ActiveFence a soumis l’IA à des prompts à risque et a constaté qu’elle fournissait des réponses potentiellement dangereuses dans 38 % des cas.
L’essor des crimes liés à l’intelligence artificielle
L’essor de l’intelligence artificielle a entraîné une augmentation des crimes numériques, notamment via la création de deepfakes à des fins de désinformation ou de propagande. Pire encore, certains cybercriminels utilisent l’IA pour générer du contenu illégal, notamment des images manipulées à caractère pornographique impliquant des mineurs.
Face à ces dérives, plusieurs gouvernements travaillent actuellement sur des réglementations visant à limiter les abus de l’IA et à garantir un usage responsable de cette technologie.
