Descubrí una analogía interesante,
La "ilusión" de la IA: cuando no sabe la respuesta correcta, también habla al azar según probabilidades.
Esto es muy parecido a las personas, muchas en campos que no comprenden en absoluto, dan "respuestas" basadas en su propia imaginación y confianza.
Una forma de manejar las "ilusiones" de la IA es: entrenarla con muchos diálogos en los que responde incorrectamente, para que entienda que cuando no sabe, debe decir: lo siento, no lo sé.
Ver originales