Faut-il une loi de séparation du numérique et de l’humain pour lutter contre le réchauffement sémantique?

Jean Rohmer est Ingénieur ENSIMAG et Docteur ès Sciences. Il est président de l'Institut Fredrik Bull, et chercheur associé au De Vinci Research Center
 

 "On nous somme d’utiliser l’intelligence artificielle pour, selon la formule rabâchée  « nous libérer des tâches routinières pour nous concentrer sur des activités à haute valeur ajoutée ».
Cependant philosophes et essayistes sont divisés, entre ceux annonçant  la plus grande révolution de l’humanité, ceux disant « même pas peur »,  jusqu’à ceux redoutant la disparition prochaine de la civilisation. Toutes  choses pas forcément contradictoires.

Discussion entre un directeur général et son responsable de veille sur une note stratégique que ce dernier vient de lui envoyer. Le DG est un peu gêné, car son  IA vient de lui dire «je l’ai lue,  rien d’urgent, je vous alerterai le cas échéant en fonction de l’actualité », et donc il n’est pas très disert.
Le  veilleur est soulagé, car de son côté c’est son IA à lui qui a rédigé la note qu’ il n’a pas pris le temps de relire. Tous les deux sont devenus des travailleurs du vide.
 

 Et si les grands modèles de langage n’étaient pas  des perroquets mais des coucous ?

On sent bien que, plus l’IA sera imposante ou imposée, plus il faudra mettre en place des limites. L’hypothèse d’une  Loi de Séparation du Numérique et de l’Humain (LSNH) mérite  l’attention.

L’IA générative accélère le réchauffement sémantique car elle « produit les mots suivants ».
Sa capacité exponentielle à amplifier  l’information nous pousse à en rajouter, via des prompts, ou en publiant notre grain de sel et nos vidéos à tout propos, en espérant des milliers de clics flattant notre vanité. Réaction en chaine, qui à la fin peut tous nous griller.
Ce n’est plus juste une bulle financière qui risque d’exploser. La jeune Mila déclarait récemment : « Nous n’aurions jamais dû avoir les réseaux sociaux ».
 

Une Loi de Séparation du Numérique et de l'Humain - LSNH - doit se différentier des actuelles réglementations: ne pas simplement limiter ce que l’IA peut faire, mais dire ce que l’humain doit rester en capacité de faire, voire élargir ce périmètre.

Revenons sur ces « tâches répétitives » que l’IA doit nous épargner. Un pianiste virtuose ne passe pas son temps à donner des récitals, il le passe à faire des gammes. Un champion de marathon ne court que deux ou trois marathons par an, le reste du temps, il s’entraine, il se soigne, il se repose.  Imaginons le cauchemar d’un brillant décideur si, « libéré » du temps perdu à tourner les pages, à lire jusqu’au bout  des articles difficiles, il avait non plus dix décisions à prendre par jour, mais cent. Pour courir le 100 mètres en 10 secondes, il faut 10 ans.

Si les machines nous dispensent de ces temps essentiels d’étude, d’effort, d’exercice, elles nous privent en fait de notre temps de construction intellectuelle, elles nous enlèvent cet apprentissage que nous sommes diaboliquement tentés de leur déléguer.
Wittgenstein disait que les grandes théories naissent dans les halls de gare. Qui n’a jamais eu en voyage des idées inattendues  qui ne se seraient jamais présentées en Zoom ou à la lecture du résultat d’un prompt ?
 

Face au réchauffement sémantique, les professionnels des systèmes d’information  sont au cœur du réacteur. Une Loi de Séparation du Numérique et de l'Humain - LSNH - les légitimerait à mettre en place les principes suivants qu’au fond d’eux-mêmes ils ressentent comme du bon sens :

1) cloisonner –avec les bonnes passerelles- des zones d’information distinctes selon le contrôle que l’on y exerce en tant qu’humains:  de l’incontrôlé  global des ChatGPT et autres, aux grands modèles de langage locaux avec des sources choisies, aux bases de connaissances métier structurées et validées, jusqu’à des espaces de mémoire personnels .

2)  dans les processus de traitement, définir de même des zones de souveraineté humaine diversifiées : réflexion purement individuelle, confrontation en tête à tête, travail en groupe rapproché, travail en réseau, usage critique de ce raffinage de connaissances collectives que sont les moteurs de recherche et les grands modèles de langage, évidemment incontournables et par bien des côtés prodigieux.

Adopter ces deux principes supposera des efforts considérables  pour résister  à la  facilité d’une collaboration toujours plus profonde et continue avec une IA venue d’ailleurs.