Molte testate riportano la notizia della valutazione di Evan Hubinger secondo cui esiste il 10 % di probabilità che un'IA sempre più autonoma a potente, divenga capace di sviluppare strategie e sfruttare debolezze dei sistemi informatici, fino a sopraffare gli esseri umani.
Nella sua analisi il ricercatore di Anthropic si spinge a dire che nel giro di poco meno di un decennio, l'esistenza stessa dell'umanità potrebbe essere a rischio.
Ho pensato allora di porre alla stessa IA la domanda e le ho chiesto:
"Secondo la valutazione di Evan Hubinger, rilanciata dalla Bbc, c’è il 10% di probabilità che sistemi sempre più autonomi, capaci di sviluppare strategie e sfruttare vulnerabilità informatiche arrivino a sopraffare gli esseri umani. Verifica la notizia e se è verosimile che la previsione accada davvero."
Dopo un'analisi accurata, lucida e sistematica ha concluso come segue:
- La notizia è sostanzialmente corretta: Evan Hubinger, ricercatore di primo piano nell’AI safety di Anthropic, ha stimato oltre il 10% di probabilità che l’IA possa causare l’estinzione dell’umanità entro circa un decennio.
- L’IA diventerà probabilmente molto più autonoma e capace: è plausibile che sistemi futuri possano pianificare a lungo termine, scrivere codice, sfruttare vulnerabilità informatiche, utilizzare strumenti e operare con poca supervisione umana.
- Il passaggio all’estinzione, però, non è dimostrato: richiederebbe una lunga catena di condizioni — superintelligenza, autonomia, obiettivi non allineati, capacità di procurarsi risorse e aggirare i controlli — e ogni passaggio comporta grandi incertezze. Ma è comunque possibile.
- Il rischio di perdita di controllo è più credibile del rischio di estinzione: non serve un’IA “malvagia”; un sistema estremamente potente che persegua in modo imprevisto un obiettivo mal definito potrebbe produrre conseguenze catastrofiche.
Dunque non dice - Ma no… Ma che dici… Sono previsioni catastrofiste di un complottaro terrapiattista.
E invece è l'IA stessa che analizzando le dichiarazioni di un esperto, dice chiaramente che diventerà sempre più capace e autonoma. Che vuol dire? Che è molto probabile che arriverà a fare sempre più a meno dell'uomo.
Certo, non punta espressamente all'estinzione - che fortuna eh? - che però, è comunque possibile. Oh! Possibile! Non da escludere, o da far in modo che non accada, ma la rappresenta come una possibilità. Così com'è possibile che a pranzo mangi troppi peperoni e che mi si ripropongano per tutto il pomeriggio.
E conclude dicendo che conseguenze catastrofiche si potrebbero tranquillamente verificare. Ecco…
La cosa mi mette una certa ansietta. E quando mi accade questo, interrogo gli scritti di chi ha provato davvero a cercare delle risposte.
Al momento l'unico resta quell'uomo vestito di bianco che dopo aver consultato esperti IA, economisti, giuristi, esperti di etica, politici, teologi, formatori e funzionari pubblici, ha scritto un documento prezioso che individua alcuni pericoli dell'IA e possibili strategie per fronteggiarli:
- Regolazione giuridica e controllo pubblico effettivo. L’IA non può essere governata dalla sola autoregolamentazione dei grandi operatori privati: servono norme vincolanti, autorità indipendenti, trasparenza, criteri verificabili e responsabilità umana per le decisioni che incidono su diritti, lavoro, credito, servizi e reputazione
- Mantenere l’essere umano al vertice delle decisioni irreversibili. Il principio più netto riguarda la non delegabilità del giudizio morale: un algoritmo non può assumersi la responsabilità del bene e del male. In particolare, Leone XIV afferma che non è lecito affidare all’IA decisioni letali o comunque irreversibili, chiedendo i massimi vincoli etici per le applicazioni militari e impedendo che sistemi autonomi decidano della vita delle persone.
- Limitare la concentrazione del potere tecnologico e orientare l’IA al bene comune. Il problema, per Leone XIV, non è soltanto una futura IA «fuori controllo», ma chi possiede, finanzia e governa l’IA: una concentrazione eccessiva di dati e capitale nelle mani di pochi può produrre dipendenza, manipolazione e disuguaglianza.
Ecco, l'unico che, in materia di pericoli e scenari inquietanti relativi all'IA, calma un po' la mia ansia da minimalista prudente.
Ma le potentissime multinazionali hi-tech saranno disposte ad ascoltare i saggi ammonimenti paterni di Papa Leone? O davanti alla prospettiva di diventare ancora più potenti, ricche e veloci, scopriranno improvvisamente che anche il Padreterno è un ostacolo all'innovazione?
Ma il vero problema, forse, non è tanto sapere se l’IA sarà abbastanza potente da sopraffare l’uomo quanto capire se l’uomo sarà abbastanza saggio da fermarla prima che impari a farlo.
