Come verificare l’IA prima di usarne le risposte

La risposta più pericolosa di un’IA non è quella assurda.

Quella assurda la riconosci. Ridi, fai uno screenshot, vai avanti.

Quella pericolosa è giusta al 90%, ben scritta, formattata alla perfezione — e sbagliata proprio dove conta. Una scadenza spostata di una settimana. Una norma che nel frattempo è stata modificata. Una funzione che non esiste. Un numero che sembra plausibile perché è stato costruito per sembrarlo.

È questa la vera paura dietro la domanda “E se mi fido di una risposta sbagliata?”. Non che l’IA sbagli: ogni strumento sbaglia. La paura è che sbagli con la stessa voce che usa quando ha ragione.

Scrivere bene non significa avere ragione

Un modello linguistico è bravissimo a produrre testi che sembrano risposte corrette. Il più delle volte lo sono anche. Ma il tono non cambia quando non lo sono.

Un collega junior, quando non è sicuro, esita. Dice “credo”. Abbassa lo sguardo. L’IA di solito no. Così il segnale che hai usato per tutta la carriera — quanto sembra sicura questa persona? — smette di funzionare.

Serve un segnale diverso. Non la diffidenza verso tutto, che rende lo strumento inutile. Una routine.

Passo 1: decidi quanto costerebbe un errore

Prima di verificare qualsiasi cosa, fatti una domanda: se questa risposta è sbagliata, cosa succede?

• Cerchi idee per i titoli di una presentazione? Una risposta sbagliata non costa nulla. Usala liberamente.
• Riassumi un documento che hai davanti? Costo basso, se fai qualche controllo a campione sulla fonte.
• Un dato che finisce in un’offerta al cliente, una clausola di contratto, un parametro tecnico in produzione, una questione medica o legale? Costo alto. Mai usarla senza verifica.

Il livello di verifica deve dipendere dal costo dell’errore, non da quanto ti fidi dello strumento.

Passo 2: separa le affermazioni dal testo

Una risposta lunga contiene poche affermazioni che contano e molto testo di collegamento. Estrai le affermazioni: nomi, numeri, date, regole, citazioni, riferimenti, comandi tecnici.

Sono quelle le parti da controllare. Il resto è confezione.

Passo 3: verifica su qualcosa che non sia l’IA

Chiedere allo stesso assistente “sei sicuro?” non è una verifica. Potrebbe scusarsi e cambiare una risposta giusta, o confermarne una sbagliata.

Verifica su una fonte indipendente:

• Un numero → il rapporto, il bilancio o il dataset originale, non l’articolo che lo cita.
• Una legge o una regola → il testo ufficiale, nella versione vigente.
• Un riferimento o un articolo scientifico → cercalo. Se non lo trovi, consideralo inventato fino a prova contraria.
• Una citazione → il discorso, l’intervista o il documento originale.
• Un pezzo di codice → la documentazione ufficiale aggiornata, e una prova di esecuzione.

Se l’IA ti dà un link, aprilo. Controlla che la pagina esista e che dica davvero ciò che la risposta sostiene.

Passo 4: occhio ai punti deboli classici

Alcuni ambiti sbagliano più spesso di altri. Rallenta quando la risposta riguarda:

• Eventi recenti. Ogni modello ha una data limite di conoscenza. Tutto ciò che può essere cambiato da allora — prezzi, ruoli, norme, versioni di prodotto — va ricontrollato.
• Numeri precisi. Percentuali e statistiche senza fonte sono un campanello d’allarme.
• Argomenti di nicchia. Meno si è scritto su un tema, più il modello riempie i vuoti.
• Cose su cui gli hai chiesto di darti ragione. Una domanda che suggerisce la risposta (“Non è vero che…”) tende a ottenere la risposta suggerita.

Passo 5: fai emergere l’incertezza dello strumento

Puoi cambiare le regole della conversazione. Chiedi all’assistente di:

• segnalare le affermazioni su cui non è sicuro;
• separare i fatti dai propri ragionamenti;
• dire “non lo so” invece di tirare a indovinare;
• elencare cosa dovresti verificare prima di usare la risposta.

Questo non rende vera la risposta. Rende visibili i punti deboli, ed è ciò che ti serve.

Non si tratta di fidarsi meno. Si tratta di fidarsi in modo consapevole.

Nelle infrastrutture critiche non ci chiediamo se un componente sia affidabile in generale. Ci chiediamo in quali condizioni, per quale funzione, con quali controlli. Qui vale la stessa disciplina.

L’IA è un’ottima prima bozza e una pessima autorità finale. L’autorità tienila per te.

Il tuo primo passo

Prendi l’ultima risposta di un’IA che hai usato al lavoro. Sottolinea ogni numero, nome, data e regola. Verifica i due che farebbero più danni se fossero sbagliati. La routine è tutta qui — ora diventa un’abitudine.

Torna a Sorprendimi — scegli un’altra paura a cui dare un nome.