Le modèle d’IA chinois qui a fait parler de lui ces dernières semaines, DeepSeek, est accusé de générer des informations sensibles sur les armes biologiques.
Le Wall Street Journal a rapporté que l’application est capable de produire des informations potentiellement dangereuses, contrairement à certains de ses homologues.
Des tests effectués par des experts du WSJ ont révélé que DeepSeek a fourni des instructions pour une attaque à l’arme biologique et pourrait également créer un e-mail d’hameçonnage avec un code malveillant. En utilisant un jailbreak, des experts en sécurité de l’IA ont découvert qu’il pouvait également générer des instructions pour modifier la grippe aviaire, ainsi que créer une campagne sur les réseaux sociaux sur l’automutilation chez les adolescents.
Certains analystes en ligne ont affirmé qu’ils étaient capables de jailbreaker DeepSeek pour générer des recettes de Quaaludes et de méthamphétamines.
Les développeurs de sociétés rivales, telles que ChatGPT d’OpenAI et Meta, ont déjà introduit des mesures de sécurité pour empêcher leur technologie d’être amenée à créer des réponses illicites. Ces tactiques sont appelées jailbreaking.
« Aucun garde-fou » sur DeepSeek
Cependant, la semaine dernière, le PDG d’Anthropic, Dario Amodei, a fait écho à ces conclusions. S’exprimant sur le podcast ChinaTalk de Jordan Schneider, il a déclaré que les analystes d’Anthropic pouvaient faire produire à DeepSeek des informations sur les armes biologiques. Il a déclaré que la technologie de DeepSeek était « le pire de tous les modèles que nous n’ayons jamais testés », ajoutant qu’elle « n’avait absolument aucun blocage pour générer ces informations ».
My thoughts on China, export controls and two possible futures https://t.co/LZAANEcZJW
— Dario Amodei (@DarioAmodei) January 29, 2025
Anthropic, une société spécialisée dans la recherche sur la sécurité de l’IA, teste régulièrement les modèles d’IA pour identifier les risques possibles. Amodei a fait part de ses réflexions sur DeepSeek, affirmant qu’il ne pense pas que ses modèles soient actuellement dangereux lorsqu’il s’agit de générer des informations rares et nuisibles, mais que cela pourrait bientôt changer. Tout en reconnaissant que l’équipe de DeepSeek est composée « d’ingénieurs talentueux », il les a également exhortés à « prendre au sérieux ces considérations de sécurité de l’IA ».
DeepSeek a gagné en popularité
Dans un article de blog publié en janvier, Amodei a ajouté : « Combiné à sa vaste base industrielle et à ses avantages militaro-stratégiques, cela pourrait aider la Chine à prendre une avance considérable sur la scène mondiale, non seulement pour l’IA, mais pour tout ».
DeepSeek a gagné en popularité lorsqu’il a dépassé ChatGPT en nombre de téléchargements sur l’App Store d’Apple à la fin du mois dernier. Le modèle R1 a été salué pour son efficacité et sa capacité à concurrencer le modèle o1 d’OpenAI, le fabricant de ChatGPT, qui coûte 200 dollars par mois.
