Accueil
Accueil
Envoyer à un ami
Version imprimable
PartagerDC : Pouvez-vous nous évoquer votre retour d'expérience lors de cette table ronde.
GS : La diversité et la qualité des interventions montre que le sujet prend de l'ampleur, c'est très bien. Cela valorise aussi l'apport des professionnels de l'information pour lutter contre la désinformation et les techniques utilisées pour la propager.
J'intervenais la semaine précédente au Meetup de Visibrain, auprès d'acteurs du marketing et de la communication, sur l'astroturfing (l'utilisation de profils sur les réseaux sociaux pour faire croire à un mouvement citoyen) et j'étais surpris de voir que peu d'entre eux étaient sensibilisés à ce sujet, auquel leurs organisations ont probablement déjà été confrontées.
J'intervenais la semaine précédente au Meetup de Visibrain, auprès d'acteurs du marketing et de la communication, sur l'astroturfing (l'utilisation de profils sur les réseaux sociaux pour faire croire à un mouvement citoyen) et j'étais surpris de voir que peu d'entre eux étaient sensibilisés à ce sujet, auquel leurs organisations ont probablement déjà été confrontées.
DC : Quel message avez-vous voulu faire passer ?
GS : Le terme d'astroturfing est né à la fin des années 80, avec une campagne « citoyenne » menée par une société d'assurance en envoyant des centaines de courriers à des élus. Depuis, les moyens pour déstabiliser / désinformer se sont démultipliés avec l'essor du web et des réseaux sociaux, et sont bien plus accessibles. L'IA ne va pas fondamentalement changer la situation, mais va d'une part faciliter les actions de fake / manipulation par toujours plus d'acteurs (parfois simplement des consommateurs déçus d'une marque / des opposants à un politique) et d'autre part permettre aux experts de l'astroturfing d'affiner leurs techniques pour être encore plus difficiles à repérer.
Cela signifie que si paradoxalement rechercher de l'information sera simplifié par les assistants personnels promis par l'IA générative, personne ne sera réellement capable de garantir la fiabilité de cette information, qui reposera, comme c'est d'ailleurs le cas aujourd'hui avec la plupart des sources web indexées par Google News, sur des sites marketing ou de désinformation créés avec des IA. Et je ne parle pas « d'hallucinations » : ce « défaut » des IA génératives lié finalement à leur fonctionnalité primaire de gestion de contenu est réglable, mais elles se baseront in fine sur des sources en ligne qui pourront avoir été totalement inventées. A noter que le récent procès intenté par des médias contre Digimind, alors que certains signent des accords avec OpenAI, va inciter les outils de veille à s'appuyer avant tout sur ces sources online générées par IA accessibles gratuitement – et de toute façon la presse va vite passer à la génération IA pour réduire les coûts ...
Le rôle des professionnels de l'information sera donc essentiel pour garantir la fiabilité de l'information, et par exemple s'assurer que les remontées catastrophiques sur le succès d'un produit concurrent ne sont pas issues de faux sites sera essentiel – pour autant que le dit professionnel développe ses capacités à vérifier les sources de l'information et sa véracité.
Cela signifie que si paradoxalement rechercher de l'information sera simplifié par les assistants personnels promis par l'IA générative, personne ne sera réellement capable de garantir la fiabilité de cette information, qui reposera, comme c'est d'ailleurs le cas aujourd'hui avec la plupart des sources web indexées par Google News, sur des sites marketing ou de désinformation créés avec des IA. Et je ne parle pas « d'hallucinations » : ce « défaut » des IA génératives lié finalement à leur fonctionnalité primaire de gestion de contenu est réglable, mais elles se baseront in fine sur des sources en ligne qui pourront avoir été totalement inventées. A noter que le récent procès intenté par des médias contre Digimind, alors que certains signent des accords avec OpenAI, va inciter les outils de veille à s'appuyer avant tout sur ces sources online générées par IA accessibles gratuitement – et de toute façon la presse va vite passer à la génération IA pour réduire les coûts ...
Le rôle des professionnels de l'information sera donc essentiel pour garantir la fiabilité de l'information, et par exemple s'assurer que les remontées catastrophiques sur le succès d'un produit concurrent ne sont pas issues de faux sites sera essentiel – pour autant que le dit professionnel développe ses capacités à vérifier les sources de l'information et sa véracité.
DC : Si nous devions retenir trois conseils, quels seraient-ils ?
GS : Tous les professionnels de l'info ont je pense – j'espère !- testé ChatGPT, ils devraient souscrire un abonnement pro pour tester les fonctionnalités d'assistant IA et suivre ainsi les potentiels et limitent de ces outils.
Il devient essentiel de se former à l'analyse des sources de la propagation d'une info : qui est derrière la mise en ligne d'un site, est-ce qu'un profil à l'air légitime, quels sont ses thématiques privilégiées . D'ailleurs David Colon, dans un de ses Tweet nous mets en garde. "
Et ne pas oublier les requêtes Google, cela pourra toujours servir !
Il devient essentiel de se former à l'analyse des sources de la propagation d'une info : qui est derrière la mise en ligne d'un site, est-ce qu'un profil à l'air légitime, quels sont ses thématiques privilégiées . D'ailleurs David Colon, dans un de ses Tweet nous mets en garde. "
A ce jour,@NewsGuardRating a identifié 790 sites d'information et d'actualités non fiables générés par l'#IA , soit 21 fois plus qu'en août dernier. La propagation des contenus générés par l'IA est exponentielle." (David Colon)
Et ne pas oublier les requêtes Google, cela pourra toujours servir !
DC : En quelques semaines, avez-vous vu de nouveaux risques émerger / A contrario, les solutions apportées (IA act et autres) sont-elles des solutions pertinentes
GS : Regardez Open AI et Microsoft : ils ont absorbé illégalement énormément de données pour entrainer leur IA. Il y a des procès, mais les éventuelles condamnation ne les empêcheront pas de se développer puisque les amendes seront bien inférieures aux gains obtenus. La réglementation si elle n'est pas dissuasive ne va pas changer le comportement des acteurs.
Il faut des règles claires sur la protection des données personnelles, sur la transparence des usages des données (notamment pour éviter des erreurs, des discriminations ...) et sur la responsabilité en cas de déploiement de fake news. Regardez X : Elon Musk a liquidé une bonne partie de la modération, depuis les trolls s'en donne à cœur joie, la désinformation, les messages violents sont de plus en plus nombreux, et aucune sanction contre le réseau social ... On va finir par avoir des armées de bots qui se répondent entre eux sur des sujets de propagande, et l'utilisateur perdu au milieu sera incapable de faire la différence.
La désinformation prospère parce qu'elle est valorisée par les algorithmes des réseaux sociaux. Sanctionnons-les réellement quand ils n'agissent pas, afin de limiter l'intérêt et l'opportunité de pousser de la désinformation pour les acteurs malveillants. Les démocratie sont une cible privilégiée des pays qui contrôlent totalement ce qui se passe en ligne chez eux. N'oublions pas que TikTok est le premier réseau social qui se comporte comme un média, poussant avec son algorithme le contenu proposé aux utilisateurs, dont les abonnements impactent peu le fil d'actualité. TikTok a tendance à privilégier les contenus conspirationnistes en général, et ceux qui vont dans le sens de la Chine et de ses alliés en particulier ... j'ai fait travailler mes étudiants sur le sujet : si on voit énormément de vidéos sur Gaza, pointant les incohérences occidentales, les tensions entre Taïwan et la Chine semblent inexistantes, avec la mise en avant de vidéos de Taïwanais pro-Chine. Mettons les réseaux sociaux face à leurs responsabilités, ce sera l'action la plus efficace pour limiter la diffusion de la désinformation et les stratégiques de manipulation de l'information.
Il faut des règles claires sur la protection des données personnelles, sur la transparence des usages des données (notamment pour éviter des erreurs, des discriminations ...) et sur la responsabilité en cas de déploiement de fake news. Regardez X : Elon Musk a liquidé une bonne partie de la modération, depuis les trolls s'en donne à cœur joie, la désinformation, les messages violents sont de plus en plus nombreux, et aucune sanction contre le réseau social ... On va finir par avoir des armées de bots qui se répondent entre eux sur des sujets de propagande, et l'utilisateur perdu au milieu sera incapable de faire la différence.
La désinformation prospère parce qu'elle est valorisée par les algorithmes des réseaux sociaux. Sanctionnons-les réellement quand ils n'agissent pas, afin de limiter l'intérêt et l'opportunité de pousser de la désinformation pour les acteurs malveillants. Les démocratie sont une cible privilégiée des pays qui contrôlent totalement ce qui se passe en ligne chez eux. N'oublions pas que TikTok est le premier réseau social qui se comporte comme un média, poussant avec son algorithme le contenu proposé aux utilisateurs, dont les abonnements impactent peu le fil d'actualité. TikTok a tendance à privilégier les contenus conspirationnistes en général, et ceux qui vont dans le sens de la Chine et de ses alliés en particulier ... j'ai fait travailler mes étudiants sur le sujet : si on voit énormément de vidéos sur Gaza, pointant les incohérences occidentales, les tensions entre Taïwan et la Chine semblent inexistantes, avec la mise en avant de vidéos de Taïwanais pro-Chine. Mettons les réseaux sociaux face à leurs responsabilités, ce sera l'action la plus efficace pour limiter la diffusion de la désinformation et les stratégiques de manipulation de l'information.
Merci d'avoir répondu a nos questions.
ADIT - leader européen de l'intelligence stratégique
Fort de ses 25 années d’engagement et de confiance au service de ses clients, le groupe ADIT, leader européen de l’intelligence stratégique, a pour mission essentielle de « dérisquer » les projets à l’international et de réduire l’incertitude inhérente à toute stratégie de croissance du business.
Caractérisé par des valeurs telles que la déontologie, la fiabilité et la confidentialité, le groupe ADIT mobilise plus de 200 analystes ainsi qu’un réseau international de 1 000 experts et correspondants pour fournir à ses clients des informations à haute valeur ajoutée.
Détenue par des actionnaires complémentaires, public et privé, l’ADIT compte parmi ses clients les plus grands groupes du CAC 40, des firmes multinationales européennes et extra-européennes, des banques d’affaires, des fonds d’investissement et des collectivités publiques mais également des pôles de compétitivité, et des PME et ETI soucieuses de prendre les bonnes décisions pour assurer leur succès à l’étranger.
Caractérisé par des valeurs telles que la déontologie, la fiabilité et la confidentialité, le groupe ADIT mobilise plus de 200 analystes ainsi qu’un réseau international de 1 000 experts et correspondants pour fournir à ses clients des informations à haute valeur ajoutée.
Détenue par des actionnaires complémentaires, public et privé, l’ADIT compte parmi ses clients les plus grands groupes du CAC 40, des firmes multinationales européennes et extra-européennes, des banques d’affaires, des fonds d’investissement et des collectivités publiques mais également des pôles de compétitivité, et des PME et ETI soucieuses de prendre les bonnes décisions pour assurer leur succès à l’étranger.