Continuiamo a immaginare l’apocalisse sbagliata dell’IA.
I robot che si rivoltano contro gli esseri umani.
Una superintelligenza che fugge da un laboratorio.
Le macchine che decidono che non serviamo più.
Ottimo materiale per Netflix.
Ma di recente Sam Altman ha descritto uno scenario che dovrebbe preoccupare molto di più i professionisti.
Perché non richiede che l’IA diventi malvagia.
Richiede solo che noi diventiamo pigri.
Durante una conversazione pubblica alla Federal Reserve, Altman ha delineato tre modi in cui un’IA avanzata potrebbe andare molto male.
Il primo è geopolitico.
Un avversario arriva per primo alla superintelligenza.
La usa per progettare armi biologiche, attaccare infrastrutture critiche, penetrare nei sistemi finanziari o creare capacità contro cui il resto del mondo non sa difendersi.
Altman ha avvertito in modo esplicito che le capacità dei modelli attuali in ambito biologico e di cybersicurezza stanno già diventando significative.
Terrificante.
Ma facile da capire.
Il secondo è lo scenario hollywoodiano.
Creiamo qualcosa di così potente da non riuscire più a controllarlo.
L’IA non vuole essere spenta.
Gli esseri umani scoprono che la macchina ha obiettivi che non coincidono più con i nostri.
È per questo che i laboratori di IA dedicano enormi sforzi alla ricerca sull’allineamento e sul controllo.
Altman lo ha descritto come meno probabile dell’uso malevolo da parte di esseri umani, ma estremamente grave se dovesse accadere.
Poi arriva il terzo scenario.
Ed è quello a cui non riesco a smettere di pensare.
L’IA non si ribella mai.
Non si risveglia mai.
Non annuncia mai che l’umanità è obsoleta.
Semplicemente migliora.
E migliora.
E migliora ancora.
Finché chiedere alla macchina diventa più facile che pensare.
Altman chiama una delle prime manifestazioni “dipendenza emotiva eccessiva”.
Ha descritto giovani che dicono di non riuscire a prendere decisioni senza prima raccontare a ChatGPT che cosa sta succedendo nella loro vita.
Poi ha spinto lo scenario molto più in là.
Immagina un’IA così capace che il Presidente degli Stati Uniti non riesce a prendere una decisione migliore di quella che il modello raccomanda.
Il Presidente segue la raccomandazione.
Di nuovo.
E ancora.
Non perché qualcuno lo abbia costretto.
Perché, statisticamente, funziona.
Immagina l’amministratore delegato che fa la stessa cosa.
Il medico.
L’ingegnere.
L’investitore.
Il manager.
Tu.
Ogni singola decisione può essere perfettamente razionale.
È proprio questo che rende pericoloso lo scenario.
Non c’è un momento drammatico in cui gli esseri umani perdono il controllo.
Lo deleghiamo una decisione sensata alla volta.
E credo che sia qui che la conversazione sull’IA per i professionisti debba cambiare.
Per anni ci siamo chiesti:
L’IA può fare il mio lavoro?
Domanda sbagliata.
La domanda migliore è:
Quanta parte del mio giudizio sono disposto a smettere di esercitare perché l’IA può esercitarlo più in fretta?
Lavoro intorno alla tecnologia da decenni.
Ogni grande tecnologia elimina un attrito.
Di solito è proprio questo lo scopo.
Le calcolatrici hanno eliminato l’attrito dell’aritmetica.
Google ha eliminato l’attrito della ricerca di informazioni.
Il GPS ha eliminato l’attrito dell’orientamento.
L’IA è diversa.
Può eliminare l’attrito cognitivo.
La parte scomoda prima di una decisione.
Il dubbio.
Il confronto.
La discussione con te stesso.
La ricerca di alternative.
Il momento in cui l’esperienza dice:
“La risposta sembra giusta, ma qualcosa non mi convince.”
È esattamente lì che vive il giudizio professionale.
E se deleghi quell’attrito abbastanza spesso, potresti finire per delegare proprio la capacità che ha prodotto il tuo valore.
Per questo non credo che i professionisti vincenti dell’era dell’IA saranno quelli che la usano di più.
Saranno quelli che sanno dove smettere di usarla.
Usa l’IA per generare opzioni.
Usala per mettere in discussione le ipotesi.
Usala per analizzare più informazioni di quante potresti mai gestire da solo.
Usala per accelerare le parti noiose.
Ma tieni una cosa ostinatamente umana:
il giudizio finale.
Perché il futuro più pericoloso forse non è quello in cui l’IA ci toglie il potere.
Forse è quello in cui l’IA diventa così utile, così precisa e così comoda che il potere glielo cediamo volentieri.
Nessuna ribellione.
Nessuna malvagità.
Nessuna luce rossa lampeggiante.
Solo miliardi di decisioni perfettamente ragionevoli.
E un giorno ci accorgiamo di aver dimenticato come prenderle da soli.
La dipendenza dall’IA non arriverà sotto forma di crisi.
Arriverà sotto forma di comodità.
