Les limites de l'intelligence artificielle. "Le vivant ne se met pas en équation" Tribune par Geneviève Bouché

L’IA fonctionne avec des données, qui retracent des évènements échus, et des algorithmes, qui ont été conçus par des Hommes à partir de leur perception d’une certaine réalité.
Mais, leur perception est marquée par leur vécu, c’est ce que l’on appelle les biais cognitifs. Par ailleurs, en construisant les algorithmes, ils peuvent se tromper.
Quant aux données, elles ne donnent que ce qu’elles savent du passé. La machine n’a pas d’avis sur la qualité des données et encore moins sur la pertinence de celles qui lui sont soumises. Elle incapable de signaler des manques de données … ce que savent faire les chercheurs.

Enfin, pour faire fonctionner une IA, il faut lui soumettre un prompt. Si cette tâche devient un nouveau métier, c’est qu’il est assez difficile de poser correctement une question à une IA au regard de l’usage qui va être fait de la réponse.
Ces critiques sont désormais connues. Elles contribuent d’ailleurs à engager l’effet de « desengouement » qui a suivi la montée en puissance rapide qu’a connu CHAT GPT, puis ses concurrents.

Cette dynamique avait été créée par les éditeurs qui avaient besoin de tests massifs. Mais lorsque les européens ont commencé à comprendre qu’ils contribuaient à mettre au point les IA made in USA, ils ont commencé à regarder de plus près les résultats.
 

Un autre grief, et pas des moindres, est que l’IA est incapable de prendre en compte les capacités d’adaptation du vivant. Or, elles sont immenses.

De ce fait, le bon usage de l’IA se restreint à des champs d’application précis.
Elle peut aborder le moyen et le long terme, sur des sujets qui s’inscrivent eux-mêmes dans le très long terme comme tout ce qui touche au minéral. Ou, au contraire, pour des sujets limités pour lesquels de nombreuses données sont disponibles. Par exemple dans l’interprétation de scanners médicaux.
Cela peut sembler décevant au regard des besoins que nous avons pour rendre nos relations avec la nature plus efficace ou pour disposer d’institutions plus démocratiques et justes.
 
À chaque grande étape de son évolution, l’Homme a été confronté à des problèmes nouveaux et a fini par y trouver des réponses. Mais ces réponses n’ont qu’un temps. Il faut donc les revoir périodiquement. Le déploiement de l’IA nous permet de franchir une étape dans la rationalisation de certains de nos besoins.

Mais d’autres approches de la complexité vont devoir être explorées dès à présent … Par exemple, en explorant la manière de traiter les environnements flous puisque nos modes de pensés résultent de processus flous (c’est ce qui nous rend créatifs !).

Le numérique a envahi nos vies. Nous l’avons accepté avec l’espoir d’avoir un modèle de société plus confortable tout en étant plus loyal. En réalité, le numérique ne fait que décupler le potentiel des Hommes en matière de brassages des données utilisées comme aide à la décision. Les malveillances deviennent terribles et inversement.

L’Homme doit demeurer responsable de ses gestes et de ses décisions. Qu’il ait utilisé ou pas du numérique pour agir.

La confiance n’exclut pas le contrôle. Le recours à l’IA  nécessite tout de même des vérifications et des raisonnements éthiques.