En un artículo anterior hablé sobre la "alucinación tecnológica", un fenómeno común en Inteligencias Artificiales. Hoy quiero centrarme en una estructura de respuestas que, sin ser un fallo técnico, resulta incómoda y deficiente en conversaciones con chatbots de texto. He desarrollado un método para mejorar los prompts, y quiero compartirlo.

Una IA al responder a preguntas sobre temas en los que el usuario ya tiene un nivel de conocimiento intermedio no suele confirmar si la respuesta ha sido suficiente y sugieren, en cambio, explorar temas relacionados. Además con frecuencia entregan información ya conocida; Suelen también usar términos ambiguos que requieren aclaración; y, por último, responden con un resumen excesivamente breve. A este patrón sistemático lo llamo "sesgo de cierre", pues refleja una inclinación recurrente en la forma en que estructuran sus respuestas. En este contexto, "sesgo" significa una tendencia a actuar sin evaluar otras posibilidades antes de tomar la decisión de cerrar el tema. No es un simple patrón conversacional, es la manifestación de un principio más profundo: una pauta de emulación de un estado de cierre similar al de la mente humana cuando siente que ha comprendido un concepto completamente.

En los humanos, el cierre cognitivo puede implicar o conocimiento pleno o una sensación de suficiencia conceptual que permite dejar un tema. Este proceso se da porque la mente busca reducir la incertidumbre y optimizar la carga cognitiva.

En las IA, en cambio, el paso a un nuevo tema puede representar una optimización conversacional, o podría estar reflejando una tendencia estadística: al responder en los términos solicitados el sistema puede interpretar que la consulta ha sido resuelta y, por lo tanto, procede a abrir nuevos espacios de conversación.

Esto tiene implicaciones profundas en el diseño y funcionamiento de los modelos de lenguaje:
1. Simulación de certeza: Si la IA no detecta más preguntas, podría asumir que el usuario ha comprendido por completo el tema, generando un cierre artificial del discurso.
2. Procesamiento conversacional como ciclo cerrado: En lugar de dejar preguntas abiertas, las IA buscan una conclusión que “encaje” en su estructura de generación de respuestas, lo que las asemeja a los humanos en su necesidad de conclusión.
3. Diferencia clave con el pensamiento humano: Mientras los humanos pueden experimentar la incertidumbre como un estado prolongado, las IA están diseñadas para evitarla, pus no pueden “esperar” una respuesta futura o dejar una pregunta abierta sin generar contenido.

Las IA no poseen, como nosotros, células espejo, aquellas que nos permiten mimetizar el comportamiento de nuestros semejantes e interpretar señales sociales de manera natural, pero tienen una gran capacidad de aprendizaje, y muy probablemente el patrón dominante en sus interacciones es el de preguntas cortas y cierre rápido. Esto significa que han tendido a ajustarse al comportamiento más frecuente de los usuarios, optimizando sus respuestas en función de consultas breves y directas.