En un nuevo informe técnico publicado este lunes, OpenAI expuso las causas detrás de uno de los problemas más persistentes de sus modelos de lenguaje: las “alucinaciones”, es decir, respuestas incorrectas o inventadas que la inteligencia artificial ofrece con aparente certeza. A pesar de los avances en modelos como GPT‑4 y GPT‑5, el problema no solo persiste, sino que en algunos casos se intensifica.
Según la compañía, el origen del fenómeno está en la forma en que estos modelos son entrenados y evaluados. Durante el proceso de preentrenamiento, el sistema aprende a predecir la siguiente palabra en una secuencia, sin importar si el contenido es verdadero o falso. Este mecanismo, eficaz para generar texto fluido, falla notablemente en temas poco comunes o específicos —como nombres de libros, hechos históricos raros o datos científicos precisos—, donde el modelo simplemente “rellena los huecos” con información ficticia.
Lo más preocupante, advierte OpenAI, es que los modelos actuales están estructurados de forma que prefieren arriesgarse a inventar antes que reconocer que no saben algo. Esto se debe a que los sistemas de evaluación utilizados durante el entrenamiento tienden a premiar respuestas confiadas, incluso si son erróneas, y castigan la cautela o la admisión de incertidumbre.
El informe también detalla cómo los modelos más grandes no necesariamente alucinan menos. GPT‑5, por ejemplo, tiene una tasa de abstención del 52 % —es decir, reconoce con mayor frecuencia que no sabe la respuesta—, pero aún así presenta una tasa de error del 26 %. En comparación, modelos más pequeños como o4‑mini casi nunca se abstienen, pero cometen errores en un 75 % de los casos.
Desde OpenAI aseguran que la solución no está únicamente en mejorar la capacidad del modelo, sino en rediseñar los métodos de entrenamiento y evaluación. Para reducir las alucinaciones, es clave ajustar los incentivos: penalizar más duramente los errores cometidos con seguridad y valorar respuestas que expresen dudas o reconozcan limitaciones.
Este hallazgo tiene implicaciones directas en áreas sensibles como la salud, la educación y el soporte técnico, donde una respuesta incorrecta pero confiada puede tener consecuencias reales. Según el informe, lograr que los modelos “prefieran no responder antes que inventar” será uno de los principales desafíos de la inteligencia artificial en los próximos años.
