IA, 5G, ou comment les algorithmes peuvent vous coûter plus que votre argent

Par Mary Clark
24 septembre 2020
Mis à jour: 24 septembre 2020

Les données sont le pétrole d’aujourd’hui, et la Chine est l’Arabie saoudite d’aujourd’hui, a déclaré en 2018 l’expert chinois en intelligence artificielle (IA) Kai-fu Lee.

En termes commerciaux, les bénéficiaires de toutes ces données sont Baidu, Alibaba et Tencent – les équivalents chinois de Google, Amazon et Facebook – qui les alimentent dans une énorme plateforme d’IA qui alimente des algorithmes pour que les clients en redemandent, explique l’expert en sécurité nationale et général à la retraite Robert Spalding, de l’armée de l’air américaine.

Mais en termes sociétaux, ces mêmes données peuvent aussi être exploitées pour influencer plus que de simples choix de dépenses.

« Ces algorithmes qui incitent les gens à revenir pour acheter sont les mêmes algorithmes qui peuvent être utilisés pour les amener à aimer le Parti communiste chinois [PCC] », a déclaré Spalding, l’auteur de Stealth War : How China Took Over While America Slept, (guerre furtive : comment la Chine s’est emparée du pouvoir pendant que les États-Unis dormaient) à Epoch Times.

« C’est un moyen très puissant d’influencer les gens. Amazon Prime, ils savent comment vous faire acheter plus de choses, donc c’est grâce à cette même psychologie qu’ils[le PCC] vous font les aimer davantage ou du moins aimer leur récit. »

La domination mondiale

Alors que le PCC cherche à étendre son influence en dehors de la Chine, comprendre la façon dont les Occidentaux pensent est d’une grande valeur. En collectant des données, le PCC peut apprendre à « vous encourager systématiquement lorsque vous êtes un bon citoyen et vous décourager lorsque vous êtes un mauvais citoyen », a déclaré M. Spalding.

Cette idée est à la base du « système de crédit social » chinois, que Samantha Hoffman de l’Institut australien de politique stratégique décrit comme « l’utilisation de la collecte et de l’analyse de grandes données pour surveiller, façonner et évaluer le comportement par le biais de processus économiques et sociaux ».

« Pour que le système fonctionne, il doit prévoir des sanctions pour les actes commis en dehors des limites comportementales fixées, et des avantages pour inciter les personnes et les entités à se conformer volontairement, ou au moins faire de la participation le seul choix rationnel », a écrit Hoffman dans un rapport de 2018 intitulé Technology-enhanced authoritarian control with global consequences.

Un écran montre des visiteurs filmés par des caméras de sécurité à intelligence artificielle avec une technologie de reconnaissance faciale lors de la 14e Exposition internationale sur la sécurité publique au Centre international d’exposition de Chine à Pékin le 24 octobre 2018. (NICOLAS ASFOURI/AFP/Getty Images)

« Alors, pensez-y de cette façon », a dit M. Spalding. « Disons, par exemple, que vous êtes sur WeChat en Chine – vous dites que Xi Jinping est génial, que Xi Jinping a de merveilleuses idées, et puis vous remarquez que plus vous faites cela, moins vos produits sont chers […] moins vos billets d’avion sont chers, moins vos chaussures sont chères, et puis si vous critiquez, plus le prix est élevé. »

C’est une forme de coercition puissante pour se conformer à la ligne du Parti.

Le système de crédit social personnel est encore en développement, avec divers programmes pilotes en Chine, mais il a le potentiel, avec le système de surveillance de masse chinois appelé « Skynet », de surveiller et de classer le comportement des citoyens.

« C’est 1984 qui prend vie », a déclaré M. Spalding, en référence au roman dystopique de George Orwell sur un régime totalitaire qui surveille ses citoyens jour et nuit pour s’assurer de leur conformité à l’idéologie du Parti.

« [Le système] ne s’arrête pas aux frontières de la Chine. La réglementation du crédit social est déjà utilisée pour obliger les entreprises à changer leur langage afin de s’adapter aux exigences politiques du Parti communiste chinois », a écrit M. Hoffman.

« Alors que les entreprises continuent à se conformer, l’acceptation des revendications du PCC finira par devenir une décision automatique, et donc une norme qui interfère avec la souveraineté des autres nations. Pour les membres du public bénéficiaires de ces changements, le récit du PCC devient la ‘vérité’ dominante, et les opinions et preuves alternatives sont marginalisées. »

Le logo de l’application de messagerie instantanée chinoise WeChat sur l’écran d’une tablette, le 24 juillet 2019. (Martin Bureau/AFP/Getty Images)

Le régime chinois interdit presque tous les médias sociaux internationaux et les plateformes de communication, pour encourager le développement de leurs équivalents locaux tels que WeChat (la réponse chinoise à Facebook et plus encore). L’utilisation de WeChat est presque obligatoire en Chine, car des services tels que la banque, les voyages, les achats et la communication sont tous intégrés à l’application.

L’utilisation de l’application s’étend en dehors de la Chine, tout comme la surveillance et le potentiel d’influence.

Craintes concernant la vie privée et la sécurité

Les observations de M. Spalding surviennent alors que l’Occident s’intéresse de plus en plus aux craintes en matière de vie privée et de sécurité liées aux applications chinoises telles que TikTok, la populaire petite application vidéo utilisée par des millions de personnes, qui appartient au géant de l’internet basé à Pékin ByteDance Technology Co.

TikTok, comme toutes les autres entreprises chinoises, est obligée par les lois de sécurité chinoises de coopérer avec les agences de renseignement lorsqu’on le lui demande, ce qui est l’une des raisons pour lesquelles les États-Unis considèrent les applications de communication chinoises comme un risque pour la sécurité nationale.

Les experts en cybersécurité ont également averti que l’on ne pouvait pas faire confiance à TikTok.

Mark Grabowski, professeur associé spécialisé en cyberdroit et en éthique numérique à l’université d’Adelphi, a décrit TikTok comme « un malware du gouvernement chinois se faisant passer pour une application de média social ».

Alors que le serveur de données de l’entreprise se trouve aux États-Unis, la société de cybersécurité Penetrum a découvert (pdf) que l’application est en grande partie liée à des serveurs chinois.

Une femme passe devant le siège de ByteDance, la société mère de l’application de partage vidéo TikTok, à Pékin le 16 septembre 2020. (Greg Baker/AFP via Getty Images)

Bien que TikTok ait nié les allégations de collecte de données et cherché à prendre ses distances avec son propriétaire de Pékin, les États-Unis sont maintenant tellement préoccupés par les risques de sécurité de TikTok qu’en août, ils ont lancé un ultimatum à ByteDance : soit vendre les activités américaines de TikTok à une société américaine, soit être interdit aux États-Unis.

Juste avant que l’interdiction n’entre en vigueur le 20 septembre, le président Donald Trump a accepté un accord de partenariat entre ByteDance, Oracle et Walmart.

TikTok n’a pas encore suscité une telle réaction en Europe. La société a déclaré début août qu’elle allait créer son premier centre de données européen en Irlande.

Manipulation

Curtis Ellis, directeur politique de l’association à but non lucratif America First Policies, a mis en garde en août dernier, lors d’une interview accordée à l’émission American Thought Leaders, contre le potentiel de récolte de données de TikTok.

« TikTok est une entité de collecte de données, une application de collecte de données qui est déguisée en média social – elle collecte des informations sur les noms d’utilisateurs, l’adresse IP de votre téléphone, de chaque ordinateur de votre réseau WiFi », a-t-il déclaré.

Toutes ces données pourraient être introduites dans des systèmes d’intelligence artificielle pour comprendre le comportement des gens et même prédire leur façon de penser. Avec ces connaissances, il serait possible d’influencer le comportement des gens, souvent sans qu’ils ne s’en rendent compte.

« Bien au-delà de la simple collecte de données, il s’agit d’un outil de persuasion », a déclaré Ellis. « Il utilise l’intelligence artificielle pour envoyer des vidéos, des vidéos sélectionnées, aux utilisateurs, de sorte que vous recevez des vidéos sur votre appareil qui sont sélectionnées par des algorithmes écrits par le Parti communiste chinois. »

Le 28 juillet, six sénateurs américains ont écrit aux responsables de la sécurité du gouvernement américain pour leur faire part de leur inquiétude quant au fait que TikTok pourrait ouvrir la porte au régime chinois pour mener des opérations d’influence et influencer les élections américaines.

Le PCC « consacre des ressources importantes pour mener des opérations d’information à l’étranger » et propager ses récits, ont noté les sénateurs.

Intelligence artificielle

Un problème majeur est que la Chine est déjà avancée dans sa capacité d’IA, a déclaré M. Spalding.

Cela se voit en Chine par le biais de sociétés technologiques liées à l’État et subventionnées par l’État, comme Baidu, Alibaba et Tencent – le propriétaire de WeChat. L’installation de caméras de reconnaissance faciale est également de plus en plus répandue. Cette technologie signifie qu’à l’avenir, votre téléphone n’aura même plus besoin de faire l’objet d’une surveillance étroite, a déclaré M. Spalding.

Dans ce scénario de « ville intelligente », M. Spalding décrit comment vous pourriez simplement quitter votre maison, dire le mot « Uber », les caméras captent votre visage, lisent sur vos lèvres, et votre taxi arrive. De cette façon, chacun de vos mouvements est suivi et peut être utilisé contre vous en tant qu’individu et contre la société dans son ensemble.

« Toutes ces données collectées et qui vous rendent la vie plus commode, c’est encore une fois la façon dont ils[le PCC] comprennent qui vous êtes en tant que personne, quel est votre système de croyance, avec qui vous interagissez », a déclaré M. Spalding.

« Une fois qu’ils ont une idée de qui vous êtes, ils peuvent commencer à l’intégrer dans les algorithmes pour le commerce qui s’installe. »

Votre accès aux services de base tels que les soins de santé, le gouvernement et les services de transport pourrait alors dépendre de votre score de citoyen.

« C’est ce qu’ils[le PCC] cherchent à exporter, et ils l’exportent par le biais de leurs relations économiques mondiales avec d’autres entreprises clientes, d’autres entreprises en dehors de leurs frontières », a déclaré M. Spalding.

« Il s’agit d’abord de ‘faire venir vos centres de recherche en IA en Chine’ et une fois que notre IA est meilleure que la vôtre, une fois que nous pouvons vous concurrencer sur le marché parce que nous allons être subventionnés [par l’État chinois], vous commencerez d’abord à vous associer, puis après avoir établi un partenariat, nous commencerons lentement à vous prendre en charge. »

« Finalement, Baidu achètera Google, Tencent achètera Facebook… Alibaba achètera Amazon », a déclaré M. Spalding.

5G et la surveillance de l’État

Le PCC investit massivement dans le développement et le déploiement de réseaux mobiles 5G dans les pays du monde entier par le biais de son initiative de la route et la ceinture et de la Route de la soie numérique.

La 5G permettra une intégration beaucoup plus poussée de la technologie – « l’internet des objets » – où toutes sortes d’objets électroniques, des brosses à dents aux voitures sans conducteur, sont connectés à l’internet et peuvent communiquer entre eux. Et ils produisent tous des données qui peuvent être collectées.

Grâce à ce réseau, il est de plus en plus difficile d’échapper à l’enregistrement de tous vos mouvements et actions.

« C’est ça qui est terrible, n’est-ce pas ? » a déclaré M. Spalding. « Aujourd’hui, vous pouvez jeter votre téléphone [pour éviter d’être suivi]. Mais quand la 5G sera construite, ces millions d’appareils connectés à chaque km² signifieront que partout où vous irez, vous serez suivi, parce que ce n’est plus votre téléphone, c’est la ville construite autour de vous – elle sera faite pour vous suivre. »

« Il n’y aura alors rien que vous puissiez faire. »

Avec peut-être un peu d’espoir, il ne voit pas cela se produire dans les pays occidentaux avant dix ans en raison des infrastructures nécessaires.

Mais c’est presque à ce stade que se trouve le Xinjiang, une région autonome du nord-ouest de la Chine. Le Xinjiang et sa population d’origine ouïghoure sont devenus un terrain d’essai pour ce genre d’État de surveillance de haute technologie, a écrit Ross Andersen, rédacteur en chef adjoint de The Atlantic.

Une femme ouïghoure (C) passant par l’entrée d’un bazar à Hotan, dans la région du Xinjiang, dans le nord-ouest de la Chine, le 31 mai 2019. (Greg Baker/AFP via Getty Images)

Andersen a décrit une situation où les caméras sont positionnées à quelques pâtés de maisons d’intervalle et où il y a plusieurs points de contrôle, chacun enregistrant les mouvements des citoyens. Si vous voulez quitter la ville, vous devez passer par un autre visage et un autre scan d’identité. Les applications téléphoniques obligatoires surveillent les activités en ligne, y compris les achats et les conversations. Des « contrôles de santé » obligatoires permettent de prélever des échantillons de sang et d’ADN. Les voix sont enregistrées.

Même la consommation d’électricité est surveillée pour détecter les résidents non autorisés. Le fait de se tenir à l’écart des médias sociaux peut également éveiller les soupçons.

Avec l’amélioration de l’intelligence artificielle et le développement des bases de données, ce type de contrôle sur les citoyens pourrait être facilement automatisé, a expliqué M. Andersen.

Vers une solution

M. Hoffman a suggéré que les pays occidentaux revoient leurs collaborations de recherche avec la Chine et l’exportation de la technologie occidentale pour s’assurer qu’elle n’est pas utilisée dans le développement de systèmes de surveillance. L’utilisation de lois strictes sur la protection des données qui tiennent compte de la vie privée et qui régissent la manière dont les données personnelles peuvent être exportées et utilisées à l’étranger pourrait également contrer les actions du PCC.

Mais si le système qui transporte les données est compromis, même ces mesures pourraient être inutiles.

M. Spalding a qualifié de « décision très positive » la décision du Premier ministre britannique Boris Johnson, en juillet dernier, d’interdire puis de retirer du réseau britannique le matériel 5G de Huawei au cours des sept prochaines années.

Cependant, même si Huawei n’est plus autorisée à participer à l’infrastructure, il existe toujours des insécurités logicielles, laissant tout réseau 5G ouvert à une exploitation potentielle.

Une équipe travaille sur une tour de téléphonie cellulaire pour la mettre à jour afin de pouvoir gérer le nouveau réseau 5G à Orem, dans l’Utah, le 10 décembre 2019. (George Frey/AFP via Getty Images)

La seule façon de protéger les populations démocratiques contre l’espionnage potentiel du PCC est de fournir une solution complètement nouvelle, a déclaré M. Spalding.

Cette solution et la voie à suivre sont la fourniture d’un réseau 5G alternatif et très sécurisé, qui intègre la confidentialité des données pour les utilisateurs finaux et donc des protections contre le danger de subversion ou de contrôle par le PCC, dit-il.

Les gens peuvent alors, s’ils le souhaitent, choisir cette alternative pour eux-mêmes.

« Nous devons prendre le contrôle de notre propre destin en tant que peuple libre », a-t-il déclaré.

« Nous ne pouvons pas permettre que les relations des entreprises avec les Chinois ou les relations politiques du gouvernement avec le Parti communiste chinois ou les institutions financières affectent nos démocraties. Nous devons prendre en main notre destin. »

FOCUS SUR LA CHINE – 1 M$ retrouvés chez un chef de village

* Epoch Times qualifie le nouveau coronavirus, à l’origine de la maladie Covid-19, de « virus du PCC » parce que la dissimulation et la mauvaise gestion du Parti communiste chinois ont permis au virus de se propager dans toute la Chine et de créer une pandémie mondiale.

Le saviez-vous ?

Epoch Times est un média indépendant, différent des autres organisations médiatiques. Nous ne sommes influencés par aucun gouvernement, entreprise ou parti politique. Notre objectif est d’apporter à nos lecteurs des informations factuelles et précises, en étant responsables envers notre lectorat. Nous n’avons d’autre intention que celle d’informer nos lecteurs et de les laisser se faire leur propre opinion, en utilisant comme ligne directrice les principes de vérité et de tradition.

RECOMMANDÉ