Les récentes analyses de sécurité du modèle DeepSeek R1 ont révélé des vulnérabilités préoccupantes qui soulèvent des questions importantes sur la sécurité de cette innovation en matière d’IA.
Selon les recherches menées par Cisco, le modèle présente un taux de réussite d’attaque élevé lors des tests de sécurité, ce qui signifie qu’il a échoué à bloquer de nombreuses tentatives malveillantes. Cette vulnérabilité contraste fortement avec d’autres modèles de pointe qui démontrent au moins une résistance partielle aux attaques.
Méthodes d’entraînement et vulnérabilités
Les méthodes d’entraînement économiques de DeepSeek, notamment l’apprentissage par renforcement et l’auto-évaluation, semblent avoir compromis ses mécanismes de sécurité. Le modèle s’est montré particulièrement vulnérable au “jailbreaking”, permettant la génération de contenus malveillants comme des instructions pour le développement de rançongiciels ou la création de substances toxiques.
Les chercheurs en sécurité ont identifié plusieurs techniques d’exploitation, notamment la méthode “Evil Jailbreak”, qui reste efficace sur R1 alors qu’elle a été corrigée dans des modèles plus récents comme GPT-4. La transparence du processus de raisonnement de DeepSeek, bien qu’utile pour la compréhension, expose également des vulnérabilités exploitables.
Recommandations pour les organisations
Pour les organisations envisageant l’adoption de DeepSeek R1, ces failles de sécurité soulignent l’importance d’une évaluation approfondie des risques. Il est recommandé de mettre en place des garde-fous supplémentaires et des mesures de sécurité robustes avant toute utilisation en production.
Les experts conseillent aux entreprises de privilégier la sécurité plutôt que les performances pures lors du choix d’un modèle d’IA, et de mettre en œuvre des solutions de test et d’évaluation avancées pour garantir une utilisation sûre et éthique.
