Auparavant pressentie comme pionnière de l’intelligence artificielle, la Chine a pris du retard face aux outils américains comme ChatGPT. Inquiet pour son contrôle de l’information sur son territoire, le pays a annoncé lundi vouloir imposer des « inspections de sécurité » sur les outils qui seront développés en Chine.
Une « intelligence » sous surveillance. La Chine a annoncé ce lundi vouloir contrôler les intelligences artificielles en développement sur son territoire. Si ChatGPT n’y est pas accessible, le pays suit avec intérêt les avancées des plateformes américaines.
Les géants chinois, comme le moteur de recherche Baidu ou l’entreprise de e-commerce Alibaba se sont eux aussi lancés dans la course à l’intelligence artificielle. Des avancées que souhaite encadrer l’autorité de régulation d’internet, évoquant une volonté d’un « développement sain […] de la technologie d’intelligence artificielle générative ».
Protéger l’« ordre public »
Ainsi, l’autorité de régulation souhaite qu’un contrôle des requêtes soit effectué sur ces plateformes, avec la possibilité de signaler des contenus susceptibles de porter atteinte à la « morale sociale » et à l’« ordre public ». Il spécifie que les contenus générés doivent « refléter les valeurs fondamentales du socialisme ». Les éléments relatifs à la « subversion du pouvoir de l’État, de renversement du système socialiste, d’incitation à diviser le pays, de saper l’unité nationale, […] les fausses informations et les contenus susceptibles de perturber l’ordre économique et social. » Autre obligation : les informations générées devront être « vraies et exactes », rester encore à savoir comment sera déterminée la véracité d’une information.
Le flou de cette proposition rend difficile, pour l’IA, de mettre en avant des informations pouvant mettre en difficulté le pourvoir chinois. L’intelligence artificielle pourrait, se retrouver comme simple porte-parole de la communication étatique.
Mais les outils d’intelligence artificielle en Chine n’ont pas attendu ce règlement pour rester discrets sur les sujets politiques. Un robot conversationnel chinois, testé par le WallStreet Journal, s’est avéré peu bavard à propos de politique intérieure. Une journaliste du WallStreet Journal avait partagé une conversation où l’interface invitait à « changer de sujet » à l’évocation de Xi Jinping.
Certaines plateformes prennent les devants
Pour ne pas risquer d’être interdite, un grand nom de l’IA a, elle, décidé de bannir certaines requêtes pour ne pas pénaliser ses utilisateurs chinois. En 2022, le générateur d’images Midjourney a bloqué toute demande d’image mentionnant les termes « Xi Jinping » ou « président chinois », et affiché, en réponse, un message d’alerte. Le PDG de l’entreprise d’intelligence artificielle, assume ce choix. En juin 2022, il a déclaré sur la plateforme d’échange Discord vouloir « minimiser les risques » pour ne pas mettre en danger les utilisateurs chinois de Midjourney. « La question est de savoir si le mieux est de les laisser [les internautes chinois] utiliser la technologie, ou de faire de la satire politique en Chine », avait-il expliqué. L’entreprise a donc pris la décision de restreindre certaines possibilités de caricatures pour que l’outil puisse être utilisé en Chine.
D’autres outils similaires, comme Dall.e ou Canva, ont décidé de restreindre les requêtes impliquant les images d’hommes politiques ou de grands événements mondiaux.
Ce n’est pas la première fois qu’une entreprise tente de s’adapter aux contraintes de censure du pouvoir Chinois. En 2018, des employés de Google avaient révélé que la firme préparait un moteur de recherche conforme à la censure de Pékin, filtrant les sites et mots-clés interdits par le gouvernement chinois. Ce projet avait été rapidement abandonné après la polémique déclenchée.