Vai al contenuto
IT

Lezione 5 di 8 · 6 min · +100 XP

Perché l’intelligenza artificiale si inventa le cose?

Un’allucinazione dell’IA è una risposta sicura ma falsa o inventata, come un fatto, una citazione o una fonte che non esistono. Succede perché un chatbot prevede parole che suonano probabili invece di verificare i fatti, quindi anche senza informazioni produce qualcosa di fluido. Fai più attenzione a nomi, numeri, citazioni, fonti e notizie recenti, e verificali altrove.

▶ Prova tu

Perché è importante

Un modello linguistico produce sempre parole probabili, anche quando non ha una vera risposta. Il risultato può essere un fatto, una citazione o una fonte ben scritti, sicuri e del tutto inventati.

In 6 minuti saprai

  • Le allucinazioni dell’IA nascono perché i chatbot prevedono parole probabili, non fatti verificati.
  • Nomi, numeri, citazioni, fonti e fatti recenti sono i punti caldi.
  • Verifica i dettagli importanti su una fonte affidabile, non richiedendo al chatbot.

Cosa eserciterai

  1. Perché succede

    Un’allucinazione non è un guasto né una bugia. Nasce da come scrivono i chatbot.

    🔮 Prevede, non cerca
    Un chatbot scrive le parole successive più probabili. Non c’è un passaggio interno che le confronti con i fatti.
    🕳️ I vuoti vengono riempiti
    Quando i testi di addestramento dicono poco su un argomento, il modello produce comunque qualcosa che ha la forma di una risposta.
    😌 Sembra sempre sicuro
    Il tono è lo stesso sia che la risposta sia giusta sia che sia sbagliata. La sicurezza non ti dice niente.
    📌 Punti caldi
    Gli errori sono più frequenti in nomi, date, numeri, citazioni, fonti, argomenti di nicchia e fatti recenti.

  2. Scova le invenzioni

    Noor conosce la storia vera: il Lumen Lab è nato nel 2019 come piccolo laboratorio di ricerca fondato da tre studenti. Tocca ogni dettaglio inventato nella risposta di Lumi.

    Lumi
    Ottima domanda! Il Lumen Lab è un laboratorio di ricerca che studia come imparano le macchine. È stato fondato nel 1987 dalla dott.ssa Elena Varga, che ha anche inventato la prima calcolatrice a energia solare. Una volta disse: «La luce è la maestra più intelligente.» Puoi approfondire nel suo libro Macchine luminose (2004), a pagina 112

  3. Rischioso o abbastanza sicuro?

    Quale domanda ha più probabilità di ricevere una risposta inventata?

    1. Cosa dovresti ricontrollare di più?

      • «Dammi tre studi, con i numeri di pagina, sul mio argomento» (Risposta)
      • «Suggerisci un titolo per l’album delle foto delle vacanze»

    2. Lumi ti dà il numero esatto di abitanti di un paesino. Qual è la mossa furba?

      • Controllarlo su una fonte ufficiale o affidabile (Risposta)
      • Fidarsi, il numero è così preciso
      • Chiedere a Lumi «Sei sicuro?» e accettare la risposta

  4. Abitudini che scovano le invenzioni

    Scegli tutte le abitudini che aiutano.

    • Cercare nomi, date e numeri su una fonte affidabile
    • Aprire ogni fonte citata e controllare che dica quello
    • Cercare la citazione esatta per vedere se esiste davvero
    • Fare più attenzione con fatti recenti e argomenti di nicchia
    • Fidarsi delle risposte che sembrano sicure e dettagliate
    • Accettare una fonte perché ha il numero di pagina

Ricorda

Fluido non vuol dire vero. Controlla nomi, numeri, citazioni e fonti fuori dalla chat.

Fluido non vuol dire vero. Controlla nomi, numeri, citazioni e fonti prima di fidarti.

Dati chiave

  • Nel giugno 2023 un giudice federale statunitense ha multato due avvocati e il loro studio per 5.000 dollari per aver depositato un atto che citava sentenze inventate da un chatbot di IA. · Fonte: US District Court, Southern District of New York, Mata v. Avianca, Inc., opinion and sanctions order, 22 giugno 2023
  • Il National Institute of Standards and Technology degli Stati Uniti indica la «confabulazione», cioè contenuti falsi affermati con sicurezza, tra i rischi principali dell’IA generativa. · Fonte: NIST, AI 600-1, Artificial Intelligence Risk Management Framework: Generative AI Profile, 2024
  • Alcuni ricercatori preferiscono la parola «confabulazione» ad «allucinazione», perché il modello non vede cose che non ci sono: riempie i vuoti con contenuti che suonano credibili.
  • Chiedere a un chatbot se la sua risposta è giusta non è un controllo affidabile, perché la replica viene generata nello stesso modo della risposta originale.

Aggiornato:

Domande frequenti

Qual è un esempio di allucinazione dell’IA?

Un chatbot che inventa un libro, uno studio o una sentenza che non esistono, con titolo, autore e numero di pagina realistici, oppure che dà una data o una statistica precisa ma sbagliata.

Perché i chatbot di IA hanno le allucinazioni?

Sono addestrati a produrre testi che suonano probabili, non a verificare i fatti. Quando al modello mancano informazioni, genera comunque una risposta fluida che segue lo schema, anche se è falsa.

Le allucinazioni dell’IA si possono eliminare?

Si possono ridurre, per esempio collegando il chatbot a ricerche o documenti affidabili e migliorando l’addestramento, ma nessun metodo attuale le elimina del tutto. Verificare i fatti importanti resta compito tuo.

Come capisco se un’IA ha un’allucinazione?

Spesso dal solo testo non puoi, perché suona sicuro in ogni caso. Controlla nomi, numeri, citazioni e fonti in un posto affidabile fuori dalla chat.

Termini correlati