Fake news en entreprise : l’IA et le manque d’esprit critique favorisent les erreurs

Si vous pensez que seuls vos parents croient que le petit chat qui fait du diabolo est réel, vous vous trompez. Tout le monde peut croire aux fake news, même vos salariés. Les intelligences artificielles évoluent sans cesse et la diffusion de fausses informations ne relève plus seulement des réseaux sociaux. Entre biais cognitifs, confiance dans les outils et méconnaissance de l’IA, plusieurs facteurs expliquent ce phénomène.

Les outils numériques et les intelligences artificielles génératives se sont imposés dans le quotidien des collaborateurs, dans de nombreuses organisations. Ces technologies sont devenues incontournables pour trouver des informations, rédiger des contenus et même, parfois, prendre des décisions. Ces nouvelles habitudes augmentent le risque de tomber sur de fausses informations. 

Pendant des décennies, les informations diffusées sur le web ont été perçues comme fiables. Un logiciel de gestion, un tableur ou une base de données fournissaient des informations considérées comme exactes. « Les gens pensent que s’adresser à une IA, c’est la même chose que de suivre le tracé proposé par Google Maps. Ils ont confiance et sont persuadés que c’est la vérité. Mais l’IA ne fonctionne pas comme un GPS ! », nous explique Virginie Mathivet, experte en intelligence artificielle. 

Les IA génératives utilisent des LLM (Large Language Models). Elles s’entraînent en engrangeant toutes les informations qu’elles peuvent trouver afin d’apprendre à prédire la suite la plus logique d’une phrase. En repérant des régularités dans notre langage, elles s’en servent pour générer du texte cohérent. Mais leurs réponses ne sont pas tirées d’une compréhension au sens humain, mais de calculs statistiques. Comme tout repose sur des probabilités, elles peuvent donner un résultat très plausible, mais complètement faux. 

Virginie Mathivet précise : « Il est possible de modifier les réponses des LLM en les noyant avec de fausses informations. Car la réponse que vous donne l’IA, c’est l’info qu’elle retrouve le plus. » D’autant qu’aujourd’hui, la production de contenus trompeurs est devenue rapide, accessible et massive. 

Au-delà des outils, le fonctionnement de l’IA joue sur notre biais de confirmation. Eh oui, nous avons tendance à privilégier les informations allant dans notre sens. « Les IA ont été faites pour être d'accord avec nous. C’est ce que l’on appelle la sycophantie », explique l’experte. Un cercle vicieux qui rend encore plus difficile la remise en question de l’information.

À ces biais s’ajoute un manque de réflexes critiques dans l’usage des outils. « La plupart des personnes ne vont pas faire l’effort d’aller chercher la source de l’information. » Dans de nombreux cas, les informations issues de l’IA sont acceptées telles quelles, sans vérification. Plus préoccupant encore : « certaines n’ont même pas conscience que l’IA peut se tromper ». Ce défaut de vigilance facilite la diffusion de contenus erronés au sein même des entreprises. 

Virginie Mathivet ajoute : « Si une personne a utilisé des données fausses issues d’un LLM, ce n’est pas le LLM qui va avoir un procès, c’est la personne. Donc, quand j’ai une responsabilité sur la réponse, il faut s’assurer qu’elle est juste. » 

« Je pense qu’avant l’enjeu technologique, il y a l’humain. La tech suivra dans tous les cas. Mais c’est à nous de nous adapter. » Pour Virginie Mathivet, cette adaptation réside dans l’accompagnement des utilisateurs. La formation, en particulier à l’esprit critique, apparaît comme un levier central. 

Pour l’experte, cet apprentissage devrait être intégré aux programmes scolaires dès le primaire, puis poursuivi au collège et au lycée. « C’est un peu comme pour les premiers secours. Il faut suivre une grosse formation et faire des rappels régulièrement », image-t-elle. 

« Il ne faut pas éduquer uniquement aux outils, comme Claude, ChatGPT ou Copilot. C’est la formation à l’esprit critique qui est vitale ! Et aujourd’hui, le défi est immense puisque l’ensemble de la population en a besoin. » Cependant, beaucoup d’entreprises ne considèrent pas encore ces formations comme prioritaires.