Un lien n’est pas une preuve : bien vérifier les sources citées par l’IA

Les trois niveaux d’une référence exploitable

La vérification des sources commence par un simple contrôle de leur existence : la publication mentionnée est-elle effectivement accessible, et son titre, ses auteurs ainsi que sa date sont-ils exacts ? Vient ensuite la vérification du contenu. Une étude réelle peut porter sur un autre sujet ou n’étayer qu’une affirmation de portée plus limitée. Ce n’est qu’à la troisième étape que l’on vérifie si la conclusion est justifiée. Une corrélation, par exemple, n’implique pas automatiquement un lien de causalité. Le profil de risque du NIST décrit les confabulations comme un risque notable des systèmes génératifs, notamment la présentation convaincante de contenus erronés. Les recherches sur l’entropie sémantique montrent par ailleurs que certaines fabrications instables peuvent être détectables. Pour mener des recherches fiables, il reste toutefois essentiel de confronter l’affirmation précise au passage correspondant dans la source originale, plutôt que de considérer la seule apparence d’une référence scientifique comme un gage de confiance.

Les chiffres et la portée des résultats sont particulièrement délicats

De nombreux malentendus ne proviennent pas de documents entièrement inventés, mais de glissements de sens. Un résultat issu d’un dispositif expérimental de petite envergure devient une affirmation générale sur l’ensemble des êtres humains. Une différence relative est présentée sans valeur de référence. Une prévision est formulée comme s’il s’agissait d’une observation. Dans les synthèses générées par l’IA, il convient donc de vérifier tout particulièrement les chiffres, les réserves et les populations étudiées. Le statut de publication compte également : une prépublication n’équivaut pas à un travail évalué par les pairs, et une description fournie par un fournisseur ne constitue pas une réplication indépendante. Ces différences ne rendent pas automatiquement une source inexploitable. Elles déterminent toutefois le degré de prudence avec lequel un résultat doit être interprété. Une synthèse utile expose donc non seulement le résultat, mais aussi les conditions dans lesquelles il a été obtenu et les questions qui restent ouvertes.

Une procédure de vérification reproductible

Pour les travaux rédactionnels et spécialisés, il est recommandé de constituer un petit tableau de vérification des références. À chaque affirmation importante sont associés une source originale, un emplacement précis dans celle-ci et une brève indication de ses limites. Le modèle de langage peut aider à repérer et à structurer ces éléments ; la validation n’intervient qu’après leur confrontation avec les affirmations. Pour les réponses longues, il est judicieux de vérifier d’abord les affirmations ayant le plus de conséquences, plutôt que de cliquer au hasard sur quelques liens. Si les sources ne peuvent pas être consultées ou ne contiennent pas l’information avancée, l’affirmation devrait être supprimée, nuancée ou faire l’objet de nouvelles recherches. Il est tout aussi important de consigner les résultats négatifs : le constat qu’aucune source solide n’a été trouvée constitue lui aussi une information pertinente sur les recherches effectuées. L’IA devient ainsi un outil de travail préparatoire vérifiable, et non une instance invisible qui produit de la crédibilité par la seule fluidité du langage.

Poursuivre la découverte

• Bien interpréter AlphaFold : les prédictions de structure doivent s’accompagner d’indications d’incertitude
• Descriptions d’images par l’IA : utiles lorsque l’objectif est clair
• Qualité des données : pourquoi leur provenance et leur sélection comptent davantage que leur seule quantité