Intelligenza artificiale
Le chiamano «allucinazioni», un termine quasi poetico per una cosa concreta: ogni tanto l’AI si inventa di sana pianta dati, fonti e citazioni, e te li serve con la stessa faccia tosta che usa per le informazioni giuste. Il problema sta nel modo in cui sbaglia. Lo fa bene, in modo credibile, senza un campanello che ti avverta. Se non sai come funziona, prima o poi ci caschi.
Le allucinazioni sono le invenzioni dell’AI: dati falsi, fonti inesistenti, citazioni mai pronunciate, servite con lo stesso tono sicuro delle risposte corrette. Succedono perché un modello linguistico non «sa» le cose: prevede la parola più probabile in base a come è fatta la frase. Quando la verità gli manca, riempie il gap con qualcosa di plausibile. Per non farti fregare servono due abitudini: dare per scontato che qualsiasi dato, nome o numero possa essere inventato, e verificarlo alla fonte prima di pubblicarlo a tuo nome. Più la posta è alta, più il controllo diventa obbligatorio.
Cos’è un’allucinazione
Un’allucinazione è una risposta sbagliata data con tono sicuro. L’AI cita un libro che non esiste, attribuisce una frase a chi non l’ha mai pronunciata, fornisce una statistica precisa al decimale che si è inventata sul momento. Non lo fa per ingannarti, e non «mente», perché mentire richiede di sapere la verità. Produce qualcosa che ha la forma giusta, anche quando la sostanza è falsa.
A renderla pericolosa è la sicurezza. Una persona che non sa una cosa di solito esita, si corregge, ammette il dubbio. L’AI no: ti dà l’informazione inventata con lo stesso tono pacato e competente con cui ti dà quella vera. Manca però l’alert che, parlando con un essere umano, useresti per drizzare le antenne. Tutto suona ugualmente affidabile, e così abbassi la guardia.
Perché succede
Per difendersi aiuta capire da dove nascono. Un modello linguistico come quelli dietro l’AI di oggi non è un archivio di dati da consultare. È un sistema che, data una sequenza di parole, prevede quella che viene dopo, sulla base di enormi quantità di testo su cui è stato addestrato. Lavora sulle probabilità del linguaggio, e la verità dei fatti non rientra nel calcolo.
Quando gli chiedi qualcosa che «conosce» bene, perché ha visto molti esempi coerenti, la parola più probabile coincide con quella giusta, e la risposta è corretta. Quando chiedi qualcosa di più sofisticato, specifico, produce comunque la sequenza più plausibile. Non ha modo di accorgersi che sta riempiendo un vuoto. Per la macchina, inventare una fonte credibile e citarne una reale sono la stessa operazione.
Questo spiega anche perché l’AI non ti avvisa del dubbio. Non ha un «dentro» dove separare quello che sa da quello che immagina. Tutto, per lei, è la stessa cosa: la sequenza più probabile date le parole che ha davanti. Aspettarsi che dica «questo me lo sto inventando» è come aspettarsi che una calcolatrice si penta di un risultato. Non è costruita per accorgersene, e quel compito resta tuo.
Dove ti frega più spesso
Le allucinazioni si annidano in contesti precisi, e conoscerli aiuta a stare in guardia. I numeri e le statistiche: l’AI ama le percentuali e le cifre tonde, che sembrano autorevoli proprio perché precise. Le fonti e le citazioni: titoli di studi, nomi di autori, frasi attribuite a personaggi noti, spesso verosimili e mai dette. I riferimenti normativi: articoli di legge e sentenze citati con sicurezza e numerati a caso.
Un altro terreno scivoloso sono le notizie molto recenti o molto di nicchia, dove la macchina ha visto pochi dati e improvvisa di più. Occhio anche ai dettagli: una data, un luogo, un nome proprio infilato per rendere interessante il racconto. Sono i particolari che sospetti di meno e che più spesso risultano inventati, perché aggiungono credibilità senza che a nessuno venga in mente di controllarli.
Come non farti fregare
La regola di fondo è una, e va presa sul serio: tratta ogni dato, nome, numero o citazione che l’AI ti dà come non verificato finché non l’hai controllato. Non è diffidenza esagerata. È l’atteggiamento che avresti con uno stagista in gamba ma alle prime armi: ottimo per buttare giù una bozza, da rileggere sempre prima di firmare.
In pratica significa qualche abitudine semplice. Le fonti che l’AI cita vanno aperte e lette, perché a volte esistono ma dicono un’altra cosa, e a volte non esistono affatto. I numeri vanno cercati all’origine. I riferimenti di legge vanno confrontati con il testo vero. E quando chiedi all’AI di lavorare su un documento che le fornisci tu, il rischio crolla, perché la tieni ancorata a un materiale reale invece di lasciarla pescare nel vuoto.
Aiuta anche cambiare il modo di chiedere. Invece di domandare all’AI «quali sono i dati su questo tema», che la spinge a inventare numeri pur di risponderti, le do io i dati e le chiedo di organizzarli. Invece di farle citare studi a memoria, le incollo il testo e le chiedo di lavorare su quello. Meno la lasci pescare nel vuoto, meno occasioni ha di inventare.
Vuoi usare l’AI senza pubblicare per sbaglio quello che si è inventata?
La verifica costa, e va messa in conto
Verificare costa tempo, e quel tempo va messo nel conto quando si dice che «con l’AI si fa prima». Il risparmio sulla scrittura è reale, ma una buona parte del tempo risparmiato se ne va nel controllo, e su certi testi se ne va parecchio. Chi salta la verifica per mantenere la velocità sposta solo il rischio più avanti, dove un errore pubblicato costa molto più di qualche minuto di controllo.
La buona notizia è che con l’abitudine la verifica diventa più rapida. Impari a riconoscere i punti a rischio, controlli quelli e al resto dai il beneficio del dubbio. Il tempo che ci metti è il valore per pubblicare contenuti interessanti. Lo considero parte del lavoro, come rileggere una bozza prima di mandarla. Il minimo per fare le cose per bene.
Allucinazione non vuol dire inutile
Attenzione a non trarre la conclusione sbagliata, quella di chi dice «allora l’AI non è affidabile, lasciamola perdere». L’AI resta uno strumento potente, a patto di essere consapevoli che questo limite esiste e che va fatto un lavoro preciso. Il pericolo arriva quando la si usa credendola infallibile.
Vale anche nel rapporto con il cliente, se il tuo lavoro è questo. Saper spiegare che l’AI va verificata, e farlo vedere nei fatti, è diventato parte della competenza. Chi promette contenuti «fatti con l’AI» come se fosse di per sé una garanzia di qualità non ha capito il punto. La qualità è appannaggio della persona che controlla, non dello strumento che produce. Lo strumento, da solo, non garantisce niente.
Come la gestisco io
Nel mio lavoro do per scontato che l’AI possa inventare, e ho costruito l’abitudine di verificare di conseguenza. Ogni dato che finisce in un testo passa da un controllo alla fonte. Le citazioni le confermo, i numeri li ritrovo, i riferimenti li apro. Mi è capitato più di una volta di scoprire che una fonte citata con assoluta sicurezza semplicemente non esisteva.
Questo mi permette di usare l’AI sempre e senza paura, perché so dove può tradirmi e ho il modo di accorgermene prima che lo faccia. Se vuoi imparare a farlo o, semplicemente, impostare regole di verifica per chi in azienda usa l’AI ogni giorno, è parte di quello di cui mi occupo. Si parte da un’idea semplice: la macchina scrive, la testa controlla.
Vuoi usare l’AI senza rischiare di pubblicare allucinazioni?
Una consulenza o una formazione per riconoscere le allucinazioni e impostare la verifica nel tuo lavoro.