Saltar al contenido
ES

Lección 5 de 8 · 6 min · +100 XP

¿Por qué la IA se inventa cosas?

Una alucinación de la IA es una respuesta segura pero falsa o inventada, como un dato, una cita o una fuente que no existen. Ocurre porque un chatbot predice palabras probables en vez de comprobar hechos: cuando le falta información, produce igualmente algo fluido. Ten cuidado con nombres, cifras, citas, referencias y noticias recientes, y compruébalos.

▶ Pruébalo

Por qué importa

Un modelo de lenguaje siempre produce palabras probables, aunque no tenga una respuesta real. El resultado puede ser un dato, una cita o una fuente pulidos, seguros y totalmente inventados.

En 6 minutos sabrás

  • Las alucinaciones de la IA ocurren porque los chatbots predicen palabras probables, no hechos comprobados.
  • Nombres, cifras, citas, referencias y noticias recientes son los puntos calientes.
  • Comprueba los detalles importantes en una fuente fiable, no volviendo a preguntar al chatbot.

Lo que vas a practicar

  1. Por qué pasa

    Una alucinación no es un fallo técnico ni una mentira. Viene de cómo escriben los chatbots.

    🔮 Predice, no consulta
    Un chatbot escribe las palabras siguientes más probables. No tiene un paso propio que las compare con los hechos.
    🕳️ Rellena los huecos
    Cuando el texto de entrenamiento dice poco de un tema, el modelo produce igualmente algo con forma de respuesta.
    😌 Siempre suena seguro
    El tono es el mismo si la respuesta está bien o mal. La seguridad no te dice nada.
    📌 Puntos calientes
    Los errores abundan en nombres, fechas, cifras, citas, referencias, temas muy concretos y noticias recientes.

  2. Caza las invenciones

    Noor conoce la historia real: Lumen Lab lo fundaron tres estudiantes en 2019 como un pequeño laboratorio de investigación. Toca cada detalle inventado en la respuesta de Lumi.

    Lumi
    ¡Buena pregunta! Lumen Lab es un laboratorio que investiga cómo aprenden las máquinas. Lo fundó en 1987 la doctora Elena Varga, que también inventó la primera calculadora solar. Una vez dijo: «La luz es la maestra más lista». Puedes leer más en su libro Máquinas brillantes (2004), página 112

  3. ¿Arriesgado o bastante seguro?

    ¿Qué pregunta tiene más probabilidades de recibir una respuesta inventada?

    1. ¿Cuál de estas deberías comprobar más?

      • «Dame tres estudios sobre mi tema, con números de página» (Respuesta)
      • «Sugiere un título para mi álbum de fotos de vacaciones»

    2. Lumi te da la población exacta de un pueblo diminuto. ¿Qué es lo más inteligente?

      • Comprobarla en una fuente oficial o fiable (Respuesta)
      • Fiarte, la cifra es muy precisa
      • Preguntar a Lumi «¿Seguro?» y aceptar lo que diga

  4. Hábitos que cazan invenciones

    Elige todos los hábitos que ayudan.

    • Buscar nombres, fechas y cifras en una fuente fiable
    • Abrir cada fuente citada y ver si dice eso
    • Buscar la cita exacta para ver si existe de verdad
    • Tener más cuidado con noticias recientes y temas muy concretos
    • Fiarte de las respuestas que suenan seguras y detalladas
    • Aceptar una fuente porque tiene número de página

Recuerda

Fluido no es cierto. Comprueba nombres, cifras, citas y fuentes fuera del chat.

Fluido no es cierto. Comprueba nombres, cifras, citas y fuentes antes de fiarte.

Datos clave

  • En junio de 2023, un juez federal de EE. UU. multó con 5.000 dólares a dos abogados y a su bufete por presentar un escrito que citaba sentencias inventadas por un chatbot de IA. · Fuente: US District Court, Southern District of New York, Mata v. Avianca, Inc., resolución y sanción del 22 de junio de 2023
  • El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) incluye la «confabulación», contenido falso dicho con seguridad, entre los principales riesgos de la IA generativa. · Fuente: NIST, AI 600-1, Artificial Intelligence Risk Management Framework: Generative AI Profile, 2024
  • Algunos investigadores prefieren la palabra «confabulación» a «alucinación», porque el modelo no ve cosas que no existen: rellena huecos con contenido que suena creíble.
  • Preguntar a un chatbot si su propia respuesta es correcta no es una comprobación fiable, porque la respuesta se genera igual que la original.

Actualizado:

Preguntas frecuentes

¿Qué es un ejemplo de alucinación de la IA?

Un chatbot que inventa un libro, un estudio o una sentencia que no existen, con título, autor y número de página realistas, o que da una fecha o una estadística precisa pero falsa.

¿Por qué alucinan los chatbots de IA?

Están entrenados para producir texto que suene probable, no para comprobar hechos. Cuando al modelo le falta información, genera igualmente una respuesta fluida que encaja con el patrón, aunque sea falsa.

¿Se pueden evitar las alucinaciones de la IA?

Se pueden reducir, por ejemplo conectando el chatbot a un buscador o a documentos fiables y entrenándolo mejor, pero ningún método actual las elimina del todo. Comprobar los datos importantes sigue siendo cosa tuya.

¿Cómo saber si una IA está alucinando?

A menudo no se nota en el texto, porque suena igual de seguro en ambos casos. Comprueba nombres, cifras, citas y fuentes en un sitio fiable fuera del chat.

Términos relacionados