La confianza del modelo y la experiencia del lector moldean la colaboración con IA

Una investigación reciente publicada en el ámbito de la radiología y la tecnología médica analiza de qué manera dos factores clave —la confianza que expresa un modelo de lenguaje grande (LLM) en sus respuestas y el nivel de experiencia del lector— influyen en la colaboración efectiva entre humanos e inteligencia artificial.

El estudio señala que cuando un LLM comunica alta certeza en sus salidas, los usuarios tienden a aceptar las respuestas con menor sentido crítico, independientemente de si son correctas o no. Este fenómeno, conocido como “sobreconfianza inducida”, puede comprometer la toma de decisiones en entornos de alto riesgo, como el diagnóstico médico o la interpretación de imágenes clínicas.

Por otro lado, los investigadores encontraron que los lectores con mayor experiencia en el dominio específico son más capaces de cuestionar y corregir las respuestas del modelo, lo que mejora significativamente los resultados finales. En cambio, los usuarios novatos mostraron mayor tendencia a delegar el juicio en el sistema, amplificando el impacto de los errores del LLM.

Los autores concluyen que el diseño de interfaces de colaboración humano-IA debe incorporar señales de incertidumbre más transparentes y calibradas, y que los programas de formación para usuarios son tan importantes como el desarrollo técnico de los propios modelos.