Saltar al contenido
ES

Lección 2 de 8 · 6 min · +100 XP

¿Cómo compruebo si una respuesta de la IA es verdad?

Para verificar una respuesta de la IA, pídele sus fuentes y ábrelas tú para ver si existen y dicen de verdad lo que afirma. Contrasta los datos clave, cifras, fechas y citas con una fuente independiente y fiable. Ten especial cuidado con cifras exactas, estudios con nombre y citas, porque los chatbots pueden inventarlos de forma convincente.

▶ Pruébalo

Por qué importa

Los chatbots escriben textos fluidos y seguros, aunque un detalle sea falso o inventado. Practicarás cómo detectar las afirmaciones que hay que comprobar y cómo hacerlo rápido.

En 6 minutos sabrás

  • Comprueba primero cifras exactas, estudios con nombre, citas y enlaces.
  • Abre cada fuente y asegúrate de que dice de verdad eso.
  • La seguridad de un chatbot no es una prueba. Usa una fuente independiente.

Lo que vas a practicar

  1. Cuatro comprobaciones rápidas

    No hace falta revisar cada palabra. Céntrate en esto.

    🔗 Abre la fuente
    Pide las fuentes y haz clic. ¿Existe la página? ¿De verdad dice eso?
    🔢 Cifras y fechas exactas
    Las cifras muy precisas son fáciles de inventar. Busca el mismo número en una fuente independiente.
    💬 Citas y nombres
    ¿Esa persona lo dijo de verdad? Busca la cita exacta. Las citas y los estudios inventados suenan muy reales.
    🧭 Contrasta
    Busca la afirmación en otro sitio fiable, como una web oficial, una enciclopedia o un libro de texto.

  2. ¿Qué hay que comprobar?

    Esta es la respuesta de Lumi a Sofía. Toca cada afirmación que Sofía debería comprobar antes de usarla.

    Lumi
    Las abejas son polinizadoras esenciales. Un estudio de 2019 del Global Bee Institute descubrió que el 87,4 % de los cultivos necesita abejas. Como dijo un famoso científico: “Sin abejas, nos quedan cuatro años”. Las abejas se comunican con una «danza del meneo». Fuente: bee-research-journal.example/2019/crops ¡Espero que te sirva para tu exposición! 🐝

  3. ¿Qué harías?

    Escenas cortas. Elige el mejor siguiente paso.

    1. Abres el artículo que citó Lumi. Existe, pero no menciona la estadística por ningún lado.

      • Quitar la estadística o buscarle una fuente real (Respuesta)
      • Usarla, el enlace funciona

    2. Le preguntas a Lumi: «¿Estás seguro?». Responde: «Sí, completamente seguro».

      • Bien, asunto resuelto
      • Comprobarlo igualmente en una fuente independiente (Respuesta)

    3. Lumi te da una idea rápida para el título de un poema. ¿Hay que verificarla?

      • No, no contiene ningún dato que comprobar (Respuesta)
      • Sí, cada palabra de la IA necesita una fuente

  4. La rutina de verificación

    Ordena los pasos de forma lógica.

    1. Señala las afirmaciones importantes: cifras, nombres, citas
    2. Pide a la IA sus fuentes
    3. Abre cada fuente y mira si dice lo mismo
    4. Contrasta con una fuente fiable e independiente
    5. Usa solo lo que hayas podido confirmar

Recuerda

Que suene bien no lo hace verdad. Abre la fuente, contrasta y deja fuera lo que no puedas confirmar.

Abre la fuente. Si no la encuentras, no lo uses.

Datos clave

  • En 2023, un tribunal federal de EE. UU. multó con 5.000 dólares a dos abogados y a su bufete por presentar un escrito que citaba casos judiciales inexistentes generados por un chatbot. · Fuente: US District Court, Southern District of New York, Mata v. Avianca, sanctions opinion, June 2023
  • El NIST, la agencia de normalización de EE. UU., incluye la «confabulación», es decir, contenido falso o inventado dicho con seguridad, entre los 12 riesgos clave de la IA generativa. · Fuente: NIST, AI 600-1 Generative AI Profile, 2024
  • Los chatbots pueden generar referencias, enlaces y citas que parecen reales pero no existen; una cita solo sirve cuando la has abierto y has visto lo que dice.
  • Buscar una afirmación en otra pestaña, lo que se llama lectura lateral, es una de las formas más rápidas de ver si las fuentes fiables coinciden.

Actualizado:

Preguntas frecuentes

¿Puede la IA inventarse fuentes?

Sí. Los chatbots pueden generar títulos de artículos, enlaces, estudios y citas que suenan reales pero no existen o no dicen lo que se afirma. Abre siempre tú la fuente.

¿Por qué la IA da respuestas incorrectas?

Un modelo de lenguaje predice palabras probables a partir de patrones de sus datos de entrenamiento. Eso hace que el texto sea fluido, pero no garantiza que cada detalle sea cierto o esté actualizado.

¿Sirve preguntarle a la IA «¿estás seguro?»?

Por sí solo, no. Un chatbot puede confirmar una respuesta errónea o cambiar una correcta. Usa una fuente independiente para confirmar los datos.

¿Qué respuestas de la IA hay que comprobar más?

Todo lo que vayas a usar o compartir: cifras, fechas, citas, nombres y consejos de salud, legales o de dinero. Las ideas creativas y la redacción necesitan menos comprobación.

Términos relacionados