L'indépendance européenne en matière d'IA au lieu des modèles chinois

Si les principes de l'open source sont fondamentalement bienvenus dans la politique numérique européenne pour de nombreuses raisons, cet argument néglige les risques systématiques pour la sécurité qui sont structurellement inhérents aux modèles chinois.

Tout d'abord, les LLM peuvent être équipés de portes dérobées qui ne peuvent être supprimées, même après des procédures de formation intensive en matière de sécurité. Ces « agents dormants » peuvent rester indétectables pendant des années et ne révéler leur véritable comportement que lorsqu'un déclencheur spécifique est activé, par exemple dans le contexte d'une éventuelle crise à Taïwan. Les recherches actuelles montrent que les modèles plus grands sont particulièrement sensibles à ce problème. Paradoxalement, les systèmes infectés par des portes dérobées sont souvent plus performants dans les tâches ordinaires, ce qui rend leur détection encore plus difficile. Pour les entreprises européennes qui contrôlent des infrastructures ou des processus de production critiques à l'aide de tels modèles, cela constituerait un risque sérieux pour la sécurité. The Economist affirme que l'IA chinoise offre une « assurance » contre le verrouillage américain. C'est vrai, mais ce raisonnement ignore les risques similaires en cas d'escalade à Taïwan.

Deuxièmement, le contrôle politique des modèles d'IA chinois ne s'exerce pas seulement au niveau des applications, mais est profondément ancré dans l'architecture des données d'entraînement. Une étude publiée dans Nature a révélé d'importantes incohérences dans les LLM bilingues sur des sujets liés à la Chine : les versions en chinois présentent systématiquement des récits conformes à la ligne du parti, tandis que les versions en anglais sont plus critiques. Cette divergence résulte notamment de la censure stricte exercée sur l'internet chinois, qui fausse le corpus de données d'entraînement. Le célèbre fournisseur chinois d'open source DeepSeek illustre bien ce problème : dans 85 % des cas, le modèle censure les sujets politiquement sensibles sans en dévoiler les mécanismes. Une analyse empirique a montré que DeepSeek-R1 présente systématiquement davantage de propagande chinoise que ChatGPT, non seulement lorsqu'il s'agit de sujets explicitement politiques, mais aussi en ce qui concerne les modes de vie et les thèmes culturels. Ces distorsions idéologiques sont des instruments stratégiques du soft power chinois, dont le mot-clé est « Route de la soie numérique ». Cela signifie que les modèles chinois ouverts utilisés dans les entreprises européennes pourraient privilégier de manière subtile mais systématique les perspectives chinoises.

Troisièmement, la bonne nouvelle : l'Europe dispose déjà d'alternatives open source technologiquement matures et démocratiquement légitimées qui conviennent parfaitement à la plupart des applications industrielles. Des fournisseurs tels que Mistral offrent des performances suffisantes dans ce domaine. La recherche montre également clairement que des modèles plus petits et finement ajustés surpassent souvent les modèles génériques de pointe pour des tâches industrielles spécialisées.

L'intuition de base de The Economist est correcte : l'IA open source est la bonne voie pour que l'Europe redevienne plus compétitive et rattrape son retard en matière d'IA. Cependant, la conclusion est dangereuse. L'Europe ne devrait pas s'appuyer sur les modèles open source chinois, mais sur les modèles européens. Il y a plusieurs bonnes raisons à cela : les recherches sur les portes dérobées dans les LLM montrent que les modèles développés dans des contextes autoritaires peuvent être structurellement compromis, avec des mécanismes de déclenchement qui ne peuvent être éliminés dans l'état actuel des choses. En outre, les modèles plus petits spécifiques à un domaine sont souvent plus puissants que les modèles de pointe pour les applications industrielles. De tels modèles plus petits existent également en Europe. L'IA open source européenne est la seule réponse durable à la domination chinoise dans ce domaine. Tout le reste n'est qu'asservissement technologique sous couvert d'open source.