Comprendre l’IALeçon 4/8

Leçon 4 sur 8 · 12 min

Quand l’IA se trompe

Réponses inventées, informations dépassées, biais : comment les reconnaître et vérifier.

Un assistant écrit toujours avec la même assurance, qu’il ait raison ou tort. C’est ce qui rend ses erreurs dangereuses : rien dans le ton ne vous avertit. Cette leçon vous apprend à reconnaître les principales erreurs et à vérifier ce qui compte, en quelques minutes.

Les réponses inventées

C’est l’erreur la plus connue. Quand l’information lui manque, l’assistant peut produire une réponse plausible mais fausse : un chiffre précis, une citation, un titre de livre, un article de loi, une référence scientifique qui n’existent pas. On parle souvent d’« hallucination ».

Cela découle directement de ce que vous avez vu dans la leçon 2 : il prédit une suite vraisemblable, il ne consulte pas de base de données. Une fausse référence bien formatée ressemble beaucoup à une vraie.

Les informations dépassées

Ce qu’un assistant a appris s’arrête à une certaine date. Il peut donc ignorer une nouvelle loi, un changement de prix, un résultat sportif ou une personne nouvellement nommée à un poste, et vous présenter l’ancienne situation comme si elle était actuelle.

Certains assistants font une recherche sur le web pour compléter. Regardez s’il indique des sources : si ce n’est pas le cas, considérez que la réponse peut être dépassée.

Les biais

L’assistant a appris sur des textes écrits par des humains, avec leurs préjugés. Il peut reproduire des stéréotypes (imaginer qu’un médecin est un homme et une infirmière une femme), privilégier un point de vue culturel, ou présenter comme évident ce qui est discutable.

Pour les repérer, demandez-vous : la réponse aurait-elle été la même pour une autre personne, un autre pays, un autre milieu ? N’hésitez pas à demander « Quels autres points de vue existent sur cette question ? ».

Les erreurs de calcul et de logique

Un assistant est fait pour le langage, pas pour compter. Il peut se tromper dans une addition, un pourcentage, une conversion ou un raisonnement en plusieurs étapes. Pour un calcul qui compte, utilisez une calculatrice ou un tableur, ou demandez-lui de détailler chaque étape pour pouvoir les vérifier.

Comment vérifier, simplement

Vous n’avez pas besoin de tout vérifier. Concentrez-vous sur ce qui sera utilisé, publié ou décidé.

  1. Demandez la source. « D’où vient ce chiffre ? Donne-moi la source exacte. »
  2. Ouvrez la source vous-même. Un lien peut ne pas exister, ou ne pas dire ce que l’assistant affirme.
  3. Recoupez avec une source fiable : un site officiel, un organisme public, un média reconnu, un professionnel.
  4. Testez sur ce que vous connaissez. Interrogez l’assistant sur votre ville ou votre métier : vous verrez vite son niveau de fiabilité.

Quand être particulièrement prudent

Pour la santé, le droit, l’argent et toute décision importante, l’assistant peut vous aider à comprendre, à préparer vos questions ou à résumer un document. Mais la décision doit s’appuyer sur une source fiable ou sur un professionnel : médecin, pharmacien, avocat, notaire, comptable.

L’essentiel à retenir

  • Un assistant peut inventer des chiffres, des citations et des références avec assurance.
  • Ses connaissances peuvent être dépassées, et ses réponses peuvent refléter des biais.
  • Il est fait pour le langage, pas pour les calculs exacts.
  • Vérifiez en priorité ce qui sera utilisé, publié ou décidé.
  • Demandez la source, ouvrez-la, recoupez-la.

Quiz

1. Où les réponses inventées se cachent-elles le plus souvent ?
2. L’assistant vous donne le prix actuel d’un service, sans indiquer de source. Que faut-il en penser ?
3. Vous voulez vérifier une affirmation importante. Quelle est la meilleure méthode ?
4. Pour un calcul de budget important, que faites-vous ?
Suivante