Une nouvelle étude de Lenz Research a révélé que les modèles d'intelligence artificielle ne sont pas d'accord sur 67 % des affirmations vérifiées, jetant le doute sur la fiabilité des systèmes de vérification automatisés. Les résultats, publiés sans annonce préalable, suggèrent que même les outils d'IA avancés se contredisent fréquemment lorsqu'ils sont chargés de déterminer la vérité. Les chercheurs à l'origine de l'étude soulignent la nécessité de recourir à des sources diverses et à une supervision humaine dans la prise de décision, en particulier dans des domaines en évolution rapide comme les marchés financiers.
L'ampleur du désaccord
Le chiffre de 67 % est frappant. Cela signifie que sur trois affirmations vérifiées par différents modèles d'IA, deux aboutissent à des verdicts contradictoires. Lenz Research n'a pas précisé quels modèles ont été testés ni la nature des affirmations, mais l'implication est claire : aucun système d'IA unique ne peut être considéré comme fiable pour distinguer le vrai du faux par lui-même. Le taux de désaccord met en évidence des différences fondamentales dans la manière dont les modèles sont entraînés, les données qu'ils utilisent et leur logique sous-jacente.
Sur des marchés volatils, où les rumeurs peuvent faire bouger les prix en quelques secondes, les enjeux sont élevés. Un trader qui s'appuie sur un vérificateur de faits par IA pourrait agir sur la base d'une étiquette qu'un autre modèle rejetterait. Les auteurs de l'étude mentionnent explicitement les « marchés volatils » comme un contexte où des sources diverses et le jugement humain deviennent critiques. Les outils automatisés peuvent traiter d'énormes volumes, mais ils ne peuvent pas résoudre leurs propres contradictions sans qu'une personne soit impliquée.
Ce que l'étude suggère
La recommandation de Lenz Research est directe : ne comptez pas exclusivement sur une seule source d'IA. Recoupez plutôt les résultats, faites appel à des réviseurs humains et traitez les vérifications automatisées comme une source parmi d'autres. Ce n'est pas un appel à abandonner la technologie, mais un avertissement contre l'excès de confiance. L'étude n'offre pas de solution au problème du désaccord, mais elle plaide fortement pour que les personnes restent impliquées.
Ces résultats s'ajoutent à un nombre croissant de preuves montrant que l'IA, malgré sa rapidité, a du mal avec la cohérence. Lenz Research n'a pas indiqué si elle prévoit de poursuivre avec une analyse plus approfondie des raisons pour lesquelles les modèles divergent ou de la manière de les aligner. Pour l'instant, le message est simple : quand les machines ne peuvent pas se mettre d'accord, la décision revient aux humains.
