Vai al contenuto
IT

Lezione 2 di 8 · 6 min · +100 XP

Come capire se una risposta dell’IA è vera?

Per verificare una risposta dell’IA chiedi le fonti, poi aprile tu per controllare che esistano e dicano davvero ciò che afferma l’IA. Confronta fatti, numeri, date e citazioni importanti con una fonte affidabile e indipendente. Fai più attenzione a cifre esatte, studi con un nome e citazioni, perché i chatbot possono inventarli in modo convincente.

▶ Prova tu

Perché è importante

I chatbot scrivono testi scorrevoli e sicuri anche quando un dettaglio è sbagliato o inventato. Ti alleni a trovare le affermazioni da verificare e a farlo in fretta.

In 6 minuti saprai

  • Verifica per primi numeri esatti, studi con un nome, citazioni e link.
  • Apri ogni fonte e assicurati che dica davvero quello.
  • La sicurezza di un chatbot non è una prova. Usa una fonte indipendente.

Cosa eserciterai

  1. Quattro controlli veloci

    Non devi controllare ogni parola. Concentrati su questi.

    🔗 Apri la fonte
    Chiedi le fonti, poi cliccale. La pagina esiste? Dice davvero quello?
    🔢 Numeri e date esatti
    Le cifre molto precise sono facili da inventare. Trova lo stesso numero in una fonte indipendente.
    💬 Citazioni e nomi
    Quella persona l’ha detto davvero? Cerca la citazione esatta. Citazioni e studi inventati sembrano verissimi.
    🧭 Confronta
    Cerca l’affermazione in un altro posto di cui ti fidi, come un sito ufficiale, un’enciclopedia o un libro di scuola.

  2. Cosa va verificato?

    Ecco la risposta di Lumi a Tommaso. Tocca ogni affermazione che Tommaso dovrebbe verificare prima di usarla.

    Lumi
    Le api sono impollinatrici fondamentali. Uno studio del 2019 del Global Bee Institute ha trovato che l’87,4% delle colture ha bisogno delle api. Come disse un famoso scienziato: «Senza api ci restano quattro anni.» Le api comunicano con una «danza dell’addome». Fonte: rivista-ricerca-api.example/2019/colture Spero che ti aiuti per la presentazione! 🐝

  3. Cosa faresti?

    Brevi scene. Scegli la mossa migliore.

    1. Apri l’articolo citato da Lumi. Esiste, ma non parla affatto di quella statistica.

      • Togli la statistica o trovale una fonte vera (Risposta)
      • La usi, in fondo il link funziona

    2. Chiedi a Lumi: «Sei sicuro?» Risponde: «Sì, sono sicurissimo.»

      • Bene, questo chiude la questione
      • Lo verifichi comunque su una fonte indipendente (Risposta)

    3. Lumi ti propone al volo un titolo per una poesia. Devi verificarlo?

      • No, non contiene fatti da verificare (Risposta)
      • Sì, ogni parola dell’IA ha bisogno di una fonte

  4. La routine di verifica

    Metti i passaggi in un ordine sensato.

    1. Individua le affermazioni che contano: numeri, nomi, citazioni
    2. Chiedi all’IA le sue fonti
    3. Apri ogni fonte e guarda se dice la stessa cosa
    4. Confronta con una fonte affidabile e indipendente
    5. Usa solo ciò che hai potuto confermare

Ricorda

Fluido non vuol dire vero. Apri la fonte, confronta e lascia fuori ciò che non puoi confermare.

Apri la fonte. Se non la trovi, non usarla.

Dati chiave

  • Nel 2023 un tribunale federale statunitense ha multato due avvocati e il loro studio per 5.000 dollari dopo che avevano depositato un atto con sentenze inesistenti prodotte da un chatbot. · Fonte: US District Court, Southern District of New York, Mata v. Avianca, sanctions opinion, giugno 2023
  • L’agenzia statunitense NIST indica la «confabulazione», cioè contenuti falsi o inventati affermati con sicurezza, tra i 12 rischi principali dell’IA generativa. · Fonte: NIST, AI 600-1 Generative AI Profile, 2024
  • I chatbot possono produrre riferimenti, link e citazioni che sembrano veri ma non esistono, quindi una fonte è utile solo dopo che l’hai aperta e hai controllato cosa dice.
  • Cercare un’affermazione in un’altra scheda, la cosiddetta lettura laterale, è uno dei modi più rapidi per vedere se le fonti affidabili sono d’accordo.

Aggiornato:

Domande frequenti

L’IA può inventare le fonti?

Sì. I chatbot possono produrre titoli di articoli, link, studi e citazioni che sembrano veri ma non esistono o non dicono ciò che viene affermato. Apri sempre tu la fonte.

Perché l’IA dà risposte sbagliate?

Un modello linguistico prevede parole probabili in base agli schemi dei suoi dati di addestramento. Così il testo è scorrevole, ma niente garantisce che ogni dettaglio sia vero o aggiornato.

Chiedere all’IA «sei sicuro?» è un buon controllo?

Da solo no. Un chatbot può confermare una risposta sbagliata o cambiarne una giusta. Usa una fonte indipendente per confermare i fatti.

Quali risposte dell’IA vanno verificate di più?

Tutto ciò su cui farai affidamento o che condividerai: numeri, date, citazioni, nomi e consigli su salute, legge o soldi. Idee creative e formulazioni richiedono meno controlli.

Termini correlati