Un nuevo estudio de Lenz Research ha encontrado que los modelos de inteligencia artificial discrepan en el 67 % de las afirmaciones de verificación de hechos, lo que pone en duda la fiabilidad de los sistemas automatizados de verificación. Los hallazgos, publicados sin previo aviso, sugieren que incluso las herramientas avanzadas de IA a menudo se contradicen entre sí al determinar la verdad. Los investigadores detrás del estudio destacan la necesidad de contar con fuentes diversas y supervisión humana en la toma de decisiones, especialmente en áreas de rápido movimiento como los mercados financieros.
La magnitud del desacuerdo
La cifra del 67 % es llamativa. Significa que de cada tres afirmaciones de verificación procesadas por diferentes modelos de IA, dos terminan con veredictos contradictorios. Lenz Research no especificó qué modelos se probaron ni la naturaleza de las afirmaciones, pero la implicación es clara: ningún sistema de IA por sí solo puede ser confiable para separar los hechos de la ficción. La tasa de desacuerdo apunta a diferencias fundamentales en la forma en que los modelos son entrenados, los datos que utilizan y su lógica subyacente.
En mercados volátiles, donde los rumores pueden mover los precios en segundos, hay mucho en juego. Un operador que dependa de un verificador de hechos con IA podría actuar sobre una etiqueta que otro modelo rechazaría. Los autores del estudio mencionan explícitamente los "mercados volátiles" como un contexto donde las fuentes diversas y el juicio humano se vuelven críticos. Las herramientas automatizadas pueden procesar grandes volúmenes, pero no pueden resolver sus propias contradicciones sin la intervención humana.
Lo que sugiere el estudio
La recomendación de Lenz Research es clara: no confíe en una sola fuente de IA. En su lugar, coteje los resultados, incluya revisores humanos y trate las verificaciones automatizadas como un insumo más entre muchos. Esto no es un llamado a abandonar la tecnología, sino una advertencia contra el exceso de confianza. El estudio no ofrece una solución para el problema del desacuerdo, pero argumenta firmemente a favor de mantener la participación humana.
Estos hallazgos se suman a un creciente conjunto de evidencias que indican que la IA, a pesar de su velocidad, aún lucha con la consistencia. Lenz Research no ha indicado si planea realizar un análisis más profundo sobre por qué los modelos discrepan o cómo alinearlos. Por ahora, el mensaje es simple: cuando las máquinas no se ponen de acuerdo, la decisión corresponde a los humanos.
