Pour lancer son IA en Chine, Apple doit se plier aux exigences du gouvernement. Le système sera testé avec 2 000 questions sensibles et devra refuser de répondre à au moins 95 % d'entre elles. Une version du coup très différente de celle proposée dans le reste du monde.
Un test de censure imposé par Pékin
Le lancement d'Apple Intelligence en Chine prend une tournure particulière. Avant d'être autorisé, le système devra passer un examen officiel : répondre (ou plutôt ne pas répondre) à 2 000 questions conçues pour faire émerger des informations censurées. Pour obtenir le feu vert des autorités, Apple Intelligence devra refuser de traiter au moins 95 % de ces requêtes. Ce test sera actualisé chaque mois, avec de nouvelles questions ajoutées régulièrement.
Les sujets interdits couvrent tout ce qui pourrait inciter à la subversion du pouvoir de l'État ou porter atteinte à l'unité nationale. Cela va du massacre de la place Tian'anmen à la ressemblance supposée entre le président Xi Jinping et Winnie l'Ourson. Les listes de mots-clés interdits peuvent être mises à jour chaque semaine.
Alibaba aux commandes de la censure
Pour se conformer aux règles chinoises, Apple a noué un partenariat avec Alibaba. Le géant chinois du e-commerce a développé une surcouche logicielle capable d'analyser et de modifier les réponses des modèles d'IA d'Apple. Ce filtre intervient de manière transparente, sans que l'utilisateur soit prévenu lorsqu'une réponse est censurée. Baidu interviendra également comme partenaire secondaire, en particulier pour les fonctions de Visual Intelligence.
Le système prévoit même une désactivation automatique d'Apple Intelligence lorsqu'une mise à jour de censure est disponible, pour éviter que l'utilisateur n'accède à du contenu non filtré pendant la transition.
Une version fondamentalement différente
La version chinoise d'Apple Intelligence n'aura pas grand-chose à voir avec celle disponible aux États-Unis ou en Europe. Les chinois peuvent oublier l'intégration de ChatGPT et les serveurs Private Cloud Compute d'Apple. Tout passera par les partenaires locaux et leurs infrastructures. Cette surcouche de censure ne sera installée que sur les iPhone vendus en Chine : les appareils achetés à l'étranger n'en seront pas équipés, même si leur propriétaire se rend sur place.
Le lancement est prévu avant la fin 2025. Les autorités américaines ont d'ailleurs exprimé des inquiétudes sur le rôle d'Alibaba, craignant que cette architecture permette au gouvernement chinois de manipuler les réponses de l'IA ou d'exercer une forme de surveillance.
On en dit quoi ?
On savait qu'Apple faisait des compromis en Chine pour maintenir son accès au marché, mais là on atteint un sacré niveau. Le principe même de tester une IA sur sa capacité à ne pas répondre est quand même assez dingue. Quoi qu'il en soit, sur ces questions, Apple est dans une position inconfortable : soit accepter ces conditions et se faire critiquer sur les droits humains, soit renoncer à un marché gigantesque. Visiblement, le choix est fait.
