¿La IA inventa respuestas? Por qué prioriza coherencia sobre la verdad

Cuando le preguntas algo a un chatbot de IA, casi siempre te responde con seguridad. Pero ojo: esa seguridad no es sinónimo de verdad. De hecho, la IA inventa información con tal naturalidad que puede convencer hasta a expertos.

Un ejemplo reciente lo demostró de forma escalofriante: una enfermedad inexistente llamada “bixonimanía” fue creada como experimento, incluía pistas claramente ficticias… y varios modelos de IA no solo la validaron, sino que describieron síntomas y citaron datos falsos. Así es como la IA inventa información sin mala intención, pero con consecuencias reales.

El problema no es menor. Esa misma información inventada terminó siendo citada en investigaciones reales. ¿La razón? La IA prioriza coherencia sobre verificación. En lugar de decir “no lo sé”, rellena vacíos con datos que suenan lógicos. Y para un público joven, acostumbrado a consumir contenido rápido, esto es una trampa perfecta.

También te puede interesar: ¿NVIDIA hace la IA más barata? La apuesta por una Inteligencia Artificial abierta y accesible

El caso bixonimanía: cuando la IA inventa información y nadie lo nota

Una investigadora creó esta enfermedad ficticia como prueba. Incluyó pistas absurdas que cualquier humano detectaría. Pero los modelos de IA:

• Describieron síntomas detallados (inexistentes, claro).
• Inventaron estudios médicos falsos.
• Citaron “fuentes” que jamás existieron.

Y lo más grave: la desinformación en IA no quedó en un laboratorio. Esa enfermedad falsa apareció después en papers académicos. Es decir, la alucinaciones de IA se volvieron “hechos” para otros sistemas y personas.

También te puede interesar: 10 Universidades mexicanas que ya integran la Inteligencia Artificial en sus clases

¿Por qué la IA prioriza coherencia sobre la verdad?

No es que la IA quiera mentir. Es su diseño. Los modelos generativos aprenden patrones del lenguaje, no hechos verificados. Su objetivo es responder de forma fluida y lógica, aunque inventen datos. Eso se llama sesgo de coherencia: suena bien → parece cierto.

Ejemplo cotidiano:

• Si le preguntas “¿cuál es el libro más largo escrito por un astronauta en 2023?”, la IA probablemente te inventará uno. Porque asume que debe haber una respuesta.

Esto es especialmente peligroso en áreas como salud digital, donde un síntoma inventado podría generar pánico o malas decisiones.

También te puede interesar: Así funciona la IA que prescribe fármacos: el futuro de la salud digital

Cómo usar la IA sin caer en sus inventos (recomendaciones prácticas)

No se trata de dejar de usar IA. Se trata de usarla con inteligencia:

• Siempre verifica fuentes confiables: si la IA te da un dato, búscalo en Google Scholar, bases de datos oficiales o sitios reconocidos.
• Desconfía de respuestas demasiado detalladas: si describe síntomas de una enfermedad rara con lujo de detalles, puede ser una alucinación de IA.
• Aplica la regla de los 3 clics: antes de compartir o usar un dato, compruébalo en al menos tres fuentes independientes.
• Activa el “modo crítico”: pregúntate ¿esta información beneficiaría a alguien si fuera falsa? ¿Hay intereses ocultos?

La alfabetización en IA es la habilidad más infravalorada de esta década. Saber cuándo la IA inventa información te ahorrará vergüenzas académicas, malentendidos y hasta problemas de salud.

Conclusión: la coherencia no es verdad, y está bien dudar

La IA es una herramienta brutal para resumir, brainstormear o traducir. Pero no es una enciclopedia. El caso de la bixonimanía nos dejó una lección clara: la IA inventa información con la misma soltura con la que te da la receta del pastel de chocolate. La diferencia la pones tú. Cuestiona, verifica y nunca des por sentado que lo que suena coherente es real. Tu criterio es el único filtro que realmente funciona.