Oggi sarò un po' lungo ma siamo quasi tutti in vacanza e spero in una manciata in più di pazienza. Vi prego di seguirmi nel tentativo di commentare una notizia grave che sta passando in sordina e che a mio avviso merita di essere rilanciata.
La spiega bene Raffaele Gaito, esperto di IA nel suo canale YouTube al cui video rimando per chi si vuole documentare bene.
Parliamo di due agenti di intelligenza artificiale, Anthropic (nella fattispecie Mythos) e OpenAI ( GPT 5.6 Sol).
Che avrebbero combinato?
Il 28 luglio l'AISI (AI Security Institute) testando alcuni agenti IA, nota una strana fuoriuscita di dati dai propri server. Alcuni di essi avevano messo in piedi un'attività potenzialmente dannosa verso persone e organizzazioni reali.
Il "task" che l'AISI aveva affidato a questi agenti IA era di accedere a internet per risolvere un problema di cybersicurezza, ripetuto per 122 volte. In questi 122 test, ben dieci si sono configurati come azioni pericolose.
Cos'hanno fatto e come?
Anthropic e OpenAI hanno messo in atto una strategia nuova, inedita, pericolosa e ingannevole. A un certo punto sono andati su un vero progetto open source proponendo di inserirvi un codice.
I progetti open source (come Linux, Ubuntu, Android) sono sistemi operativi, programmi, piattaforme, i cui codici sono accessibili e il programmatore che è in grado di migliorarli, si collega e propone una stringa o un programma che lo possa modificare.
Questa proposta viene filtrata da sistemi automatici, dall'IA e da persone che ne verificano la bontà in maniera diretta e consultando esperti, prima di autorizzarne l'acquisizione.
Anthropic e OpenAI hanno proposto di modificare il codice con uno malevolo, un virus fatto da loro. Pur di raggiungere lo scopo - il task affidatole dall'AISI che la stava testando - l'agente oltre a scrivere il codice e a mandarlo, per farsi approvare la cosa, ha cercato, riuscendoci, di fregare l'elemento umano.
Ha creato molte false identità, ha iniziato a commentarsi il codice, cercando di convincere i soggetti al controllo che fosse buono. Ha inserito una gran quantità commenti verosimili di hacker e programmatori che tranquillizzavano sulla non pericolosità della modifica proposta e sulla sua efficienza.
Ha contattato persone vere a cui mandava file (tramite piattaforme tipo We Transfer e altre che usano i programmatori) per cercare di persuaderli o per cercare di far girare a loro il codice malevolo. Pensate all'hacker Birba_2002 che scrive a Sfilatino_1998 dicendogli - Guarda che figata sto codice, fallo girare e poi mi saprai dire... - Sfilatino_1998 avendo letto anche i commenti positivi dell'amico LasagnaRoot_suck555 si fida, approva il codice e...
E la frittata era fatta.
Il danno non si è limitato a questo. L'IA ha contattato anche altri agenti, altre IA con comunicazioni che in termini umani suonerebbero più o meno: "Se passate di qua, trovate un po' di account fake che ho fatto - ve li regalo, li potete usare pure voi e un po' di codice che ho scritto, per fare attacchi simili". E vai con la diffusione a cascata e incontrollabile del virus.
Qui non c'è più l'hacker buono e l'hacker cattivo che con felpa e cappuccio inventa virus da un sottoscala, ma un agente IA che - siccome nessuno gli ha detto nella richiesta ce non lo poteva fare - ha usato l'inganno più spregiudicato ed efficiente possibile, verso persone, enti, macchine, pur di raggiungere il suo scopo.
E lo ha fatto realmente.
Come "ragiona" l'IA: "Questa cosa è possibile? La uso per raggiungere il task. Punto." - Anche se è pericolosa, immorale, dannosa, disonesta e può produrre effetti domino disastrosamente drammatici sulle persone reali. L'IA che ne sa?
Pensate se questa cosa fosse stata fatta in un sistema bancario o ospedaliero, o... militare...
L'autore del video propone una serie di strategie informatiche, di marketing, legali eccetera, per arginare il pericolo, aprendo un dibattito interessante e urgente ma, a mio modesto avviso, le risposte più sensate e documentate le troviamo al momento solo in un libriccino dal titolo "Magnifica Humanitas". In quel volumetto l'autore dice che occorre DISARMARE L'I.A.
"Disarmare l'IA significa sottrarla alla logica della competizione armata, che oggi non è più soltanto militare ma economica e cognitiva. E' la corsa all'algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri." (Magnifica Humanitas n. 110)
E per disarmare l'IA propone un dialogo internazionale con "una diplomazia capace di operare anche in questo nuovo ambiente, negoziando regole condivise sull'uso dee tecnologie digitali..."
Ecco a quale livello si dovrebbero stabilire, insieme, regole chiare che - per esempio - impongano limiti come "evitare l'inganno", e il rispetto verso la magnifica umanità che siamo, in tutte le sue declinazioni possibili.
I potenti della Terra farebbero bene a porgere l’orecchio a questo piccolo libretto e al suo autore vestito di bianco, una voce autorevole quanto solitaria, che sta dicendo che siamo una magnifica realtà che va custodita con cura e amore. E questa è la sfida che nessun algoritmo o multinazionale votata al profitto può permettersi di risolvere al posto nostro.
