TikTok, un outil de guerre informationnelle à haut risque pour ses utilisateurs et notre démocratie. Par Guillaume Sylvestre. ADIT

Le réseau social chinois TikTok, dont le succès fulgurant a pris de court ses concurrents, est de plus en plus pointé du doigt, et c’est une bonne chose. Outre les problématiques inhérentes à son fonctionnement basé sur les comportements addictifs et ciblant bien plus les jeunes que les autres réseaux sociaux, TikTok est aussi un outil de guerre informationnelle.
 
La censure y est omniprésente, et sous couvert de censurer les sujets trop politisés, permet au parti communiste chinois d’intervenir directement pour avantager ses alliés. Cela a été le cas au début de la guerre en Ukraine, TikTok ne permettant que la publication de vidéos pro-Poutine en Russie sur la guerre à partir d’avril 2022 (le mois précédent la grande majorité des vidéos postées en Russie étaient opposées à la guerre). Notons que si les réseaux sociaux américains ont également des liens étroits avec les services de renseignement US, TikTok est par ailleurs obligé de répondre à un contrôle politique direct de la part des autorités chinoises, sans aucun garde-fou. Les publications concernant Taïwan ou les Ouïghours sont ainsi largement censurées.
 
Dans un contexte de tensions géopolitiques accrues, et de guerre économique entre l’Europe et la Chine, TikTok pose un réel risque dès lors que cette plateforme est plus utilisée par ses utilisateurs, et les jeunes en particulier, que Google pour se renseigner sur l’actualité .
TikTok met d’ailleurs en avant sur plusieurs sujets, comme l’alunissage de 1969, la Covid ou le changement climatique, des vidéos complotistes, qui vont in fine reprendre des narratifs anti-occidentaux. Le chercheur David Colon considère ainsi que TikTok est partie prenante de la «guerre intelligentisée » menée en ligne contre les démocraties par la Chine et la Russie (intervention au colloque Viginum 20 juin 2023).

Le succès fulgurant de TikTok vient de son algorithme qui propose du contenu à partir des actions des utilisateurs (interactions, durée de visionnage, heure, hashtags …), de leurs caractéristiques (localisation, âge, sexe, type d’appareil …) et de l’analyse du contenu des vidéos (musique, objets, sentiments détectés ...). Le réseau d’abonnés impacte peu le contenu proposé sur le flux vidéo « Pour toi » proposé aux utilisateurs par TikTok, qui est en fait un média dont l’algorithme décide plus que l’utilisateur des contenus proposés.
 
Sur plusieurs sujets étudiés dans le cadre d’un travail de recherche conduit avec l’Ecole Nationale Supérieure de la Police en 2022 : violences sexistes, harcèlement, racisme, challenges dangereux, on constate qu’entre 30% et 50% des contenus les plus viraux viennent de profils avec très peu d’abonnés, qui ont in fine surfé sur des tendances.
 
Si on prend l’exemple des violences sexistes et du harcèlement, les contenus à succès seront notamment masculinistes et orientés contre les femmes, aggravant les risques de harcèlement et de comportement toxique … tandis que les vidéos dénonçant ce type d’actions ont 10 à 20 fois moins de visibilité. Certains utilisateurs gagnent d’ailleurs beaucoup d’argent via TikTok en proposant des contenus problématiques et haineux.
 
L’étude de la littérature scientifique sur le sujet montre que TikTok génère un comportement addictif, qui va également favoriser la diffusion de vidéos polémiques, complotistes, racistes ou sexistes. Ce fonctionnement va ainsi :
 

• Encourager la publication de contenus mensongers, violents, insultants et racistes qui génèrent de l’engagement (fake news, challenges dangereux, racisme …). La modération de TikTok est souvent défaillante, et lors de plusieurs tests c’est le réseau social qui acceptait le plus de diffuser des fake news.
   
• Amener les utilisateurs s’intéressant à des sujets triviaux (respect de règles religieuses, développement personnel …) à consulter des vidéos plus extrêmes sur ces sujets qui seront proposées par l’algorithme (pratiques sectaires, masculinisme agressif …). Il y a ici un détournement des utilisateurs de leur recherche initiale qui les fait in fine tomber dans une boucle cumulative de fake news et de violence.
   
• Enfermer les personnes fragiles dans le visionnage de contenus potentiellement anxiogènes, notamment pour les plus jeunes (boulimie, anorexie …). Ce phénomène de boucles rétroactives est ici amplifié par l’effet du réseau : plus un contenu négatif aura du succès, plus il sera proposé à des profils similaires.

 
TikTok est aussi le réseau social qui capte le plus de données personnelles, ayant amené l’interdiction de son usage par les fonctionnaires dans de nombreux pays dont la France, et partage avec beaucoup d’acteurs tiers ces informations.
 
Les utilisateurs de TikTok sont principalement jeunes, ils sont en recherche de reconnaissance et de visibilité, de validation par leurs pairs. TikTok mise dessus, sans arriver à en limiter les dérives, mêmes celles contre lesquelles le réseau social lutte activement (par exemple la censure des images de nus, récemment contournée avec des dizaines de milliers de mineurs potentiellement touchés en France.

TikTok étant le réseau social le plus censuré au monde, il est bien plus sensible à la pression réglementaire que X dont le propriétaire Elon Musk adore provoquer les politiques. Le tollé suscité par l’annonce d’une prochaine version de TikTok proposant de rémunérer le visionnage de vidéos, finalement annulée en Europe, montre que TikTok reste attentif à ces aspects (même si on peut imaginer qu’il s’agissait d’une stratégie pour mettre en scène un recul sur une fonctionnalité finalement peu stratégique, et éviter ainsi une loi plus contraignante).
 
Le travail de recherche mené avec l’ENSP et le logiciel de veille Visibrain, permet de dresser quelques pistes pour agir sur TikTok en attendant une hypothétique interdiction, issues de la littérature scientifique, de témoignages d’experts et de nos analyses :
 
 

• Obliger TikTok à fournir l’accès à ses données aux chercheurs, dans le cadre de la directive DSA sur les obligations de transparence des plateformes numériques, afin de pouvoir auditer et surveiller les dérives de son algorithme. Démontrer que TikTok agit comme un média en poussant du contenu aux utilisateurs incitera à responsabiliser ce réseau social sur la diffusion de contenus haineux, de fausses informations, comme des médias TV ou radio.
   
• Documenter les actions d'ingérence ciblant la France sur TikTok pour acculturer les élus et le grand public aux risques liés à ce réseau social. Au-delà de la désinformation présente partout, il est essentiel de faire prendre conscience au grand public que TikTok ne peut pas être considéré comme un moyen fiable pour s'informer.

 

• Sensibiliser et accompagner les jeunes utilisateurs aux risques notamment de cyberharcèlement, en les redirigeant vers des associations spécialisées telles que e-Enfance qui travaillent avec les réseaux sociaux pour prendre en compte leurs signalements. Les jeunes restent les principales victimes des risques posés par TikTok.

TikTok ne doit pas être un bouc émissaire pour l’ensemble des réseaux sociaux. Pour autant, son algorithme est devenu un modèle pour Facebook, Instagram, X, et va s’il est copié aggraver les problèmes sur les autres réseaux sociaux. Les risques posés par TikTok peuvent devenir une opportunité de légiférer ce secteur, avant que nos démocraties ne soient trop fracturées par la propagation de la haine, du harcèlement et de la désinformation.

Guillaume Sylvestre est Directeur Digital Intelligence de l'ADIT.
Il s'intéresse aux actions de déstabilisation / de désinformation ciblant les entreprises et le grand public, notamment comme chercheur associé à l'Ecole Nationale Supérieure de la Police. Il donne des cours sur ces sujets à l'Ecole de Guerre Economique et dans le Master Intelligence Economique et Stratégies Compétitives de l'Université d'Angers.

 

 

 - Quatre questions à Guillaume Sylvestre Directeur Digital Intelligence de l'ADIT.

"Plus qu'interdire #TikTok il faudrait responsabiliser ce RS sur son fonctionnement : l'algorithme de TikTok a une logique éditoriale et met en avant du contenu auprès des utilisateurs, donc c'est de sa responsabilité si des fausses informations, du contenu violent, haineux etc ... sont diffusés largement. Sans amende / punition qui impacte directement leur business, ils n'ont aucun intérêt à améliorer leur modération, comme sur X, Facebook etc ...
Les réseaux sociaux sont devenus des médias sociaux, il doivent être soumis à des obligations similaires - l'une des réelles différence avec les médias traditionnels étant leur très forte rentabilité d'ailleurs, qui leur donne les moyens d'agir sur la modération et le cas échéant de payer des amendes ! Sans oublier que par ailleurs aucun d'entre-eux ne respecte le RGPD ...
L'ingérence chinoise à travers #TikTok doit évidemment être également prise en compte, elle est bien plus forte que sur les autres RS."

Source