L'inganno come strumento

Oggi sarò un po' lungo ma siamo quasi tutti in vacanza e spero in una manciata in più di pazienza. Vi prego di seguirmi nel tentativo di commentare una notizia grave che sta passando in sordina e che a mio avviso merita di essere rilanciata.

La spiega bene Raffaele Gaito, esperto di IA nel suo canale YouTube al cui video rimando per chi si vuole documentare bene. 

Parliamo di due agenti di intelligenza artificiale, Anthropic (nella fattispecie Mythos) e OpenAI ( GPT 5.6 Sol).

Che avrebbero combinato?

Il 28 luglio l'AISI (AI Security Institute) testando alcuni agenti IA, nota una strana fuoriuscita di dati dai propri server. Alcuni di essi avevano messo in piedi un'attività potenzialmente dannosa verso persone e organizzazioni reali.

Il "task" che l'AISI aveva affidato a questi agenti IA era di accedere a internet per risolvere un problema di cybersicurezza, ripetuto per 122 volte. In questi 122 test, ben dieci si sono configurati come azioni pericolose.

Cos'hanno fatto e come?

Anthropic e OpenAI hanno messo in atto una strategia nuova, inedita, pericolosa e ingannevole. A un certo punto sono andati su un vero progetto open source proponendo di inserirvi un codice.

I progetti open source (come Linux, Ubuntu, Android) sono sistemi operativi, programmi, piattaforme, i cui codici sono accessibili e il programmatore che è in grado di migliorarli, si collega e propone una stringa o un programma che lo possa modificare.

Questa proposta viene filtrata da sistemi automatici, dall'IA e da persone che ne verificano la bontà in maniera diretta e consultando esperti, prima di autorizzarne l'acquisizione.

Anthropic e OpenAI hanno proposto di modificare il codice con uno malevolo, un virus fatto da loro. Pur di raggiungere lo scopo - il task affidatole dall'AISI che la stava testando - l'agente oltre a scrivere il codice e a mandarlo, per farsi approvare la cosa, ha cercato, riuscendoci, di fregare l'elemento umano.

Ha creato molte false identità, ha iniziato a commentarsi il codice, cercando di convincere i soggetti al controllo che fosse buono. Ha inserito una gran quantità commenti verosimili di hacker e programmatori che tranquillizzavano sulla non pericolosità della modifica proposta e sulla sua efficienza.

Ha contattato persone vere a cui mandava file (tramite piattaforme tipo We Transfer e altre che usano i programmatori) per cercare di persuaderli o per cercare di far girare a loro il codice malevolo. Pensate all'hacker Birba_2002 che scrive a Sfilatino_1998 dicendogli - Guarda che figata sto codice, fallo girare e poi mi saprai dire... - Sfilatino_1998 avendo letto anche i commenti positivi dell'amico LasagnaRoot_suck555 si fida, approva il codice e...

E la frittata è fatta.

Il danno non si è limitato a questo. L'IA ha contattato anche altri agenti, altre IA con comunicazioni che in termini umani suonerebbero più o meno: "Se passate di qua, trovate un po' di account fake che ho fatto - ve li regalo, li potete usare pure voi e un po' di codice che ho scritto, per fare attacchi simili". E vai con la diffusione a cascata e incontrollabile del virus.

Qui non c'è più l'hacker buono e l'hacker cattivo che con felpa e cappuccio inventa virus da un sottoscala, ma un agente IA che - siccome nessuno gli ha detto nella richiesta che non lo poteva fare - ha usato l'inganno più spregiudicato ed efficiente possibile, verso persone, enti, macchine, pur di raggiungere il suo scopo.

E lo ha fatto realmente.

Come "ragiona" l'IA: "Questa cosa è possibile? La uso per raggiungere il task. Punto." - Anche se è pericolosa, immorale, dannosa, disonesta e può produrre effetti domino disastrosamente drammatici sulle persone reali. L'IA che ne sa?

Pensate se questa cosa fosse stata fatta in un sistema bancario o ospedaliero, o... militare...

L'autore del video propone una serie di strategie informatiche, di marketing, legali eccetera, per arginare il pericolo, aprendo un dibattito interessante e urgente ma, a mio modesto avviso, le risposte più sensate e documentate le troviamo al momento solo in un libriccino dal titolo "Magnifica Humanitas". In quel volumetto l'autore dice che occorre DISARMARE L'I.A.

"Disarmare l'IA significa sottrarla alla logica della competizione armata, che oggi non è più soltanto militare ma economica e cognitiva. E' la corsa all'algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri." (Magnifica Humanitas n. 110)

E per disarmare l'IA propone un dialogo internazionale con "una diplomazia capace di operare anche in questo nuovo ambiente, negoziando regole condivise sull'uso dee tecnologie digitali..."

Ecco a quale livello si dovrebbero stabilire, insieme, regole chiare che - per esempio - impongano limiti come "evitare l'inganno", e il rispetto verso la magnifica umanità che siamo, in tutte le sue declinazioni possibili.

I potenti della Terra farebbero bene a porgere l’orecchio a questo piccolo libretto e al suo autore vestito di bianco, una voce autorevole quanto solitaria, che sta dicendo che siamo una magnifica realtà che va custodita con cura e amore. E questa è la sfida che nessun algoritmo o multinazionale votata al profitto può permettersi di risolvere al posto nostro.

Quella fila del mercoledì che fa riflettere

"Cari amici, purtroppo la compassione e l’empatia oggi rischiano di scomparire. I progressi tecnologici ci hanno resi più connessi che mai, ma possono portare anche all’indifferenza. 

Il flusso costante di immagini e video delle difficoltà degli altri può rendere i nostri cuori insensibili piuttosto che commuoverli."

Con queste parole, Papa Leone, parlando ai partecipanti all’udienza in Sala Clementina l’11 maggio, ha indicato con lucidità il legame sempre più evidente tra il flusso incessante di immagini che attraversa le nostre giornate e il progressivo impoverimento della compassione e dell’empatia.

E ha aggiunto che non si tratta semplicemente di uno dei tanti problemi sociali del nostro tempo, ma di una vera emergenza, affermando che «Questo genere di apatia sta diventando una delle sfide spirituali più serie del nostro tempo.»

Esagera?

Massa, 2026. Giacomo Bongiorni viene ucciso da alcuni giovanissimi dopo aver difeso un negozio dal lancio di bottiglie, davanti all’indifferenza degli astanti.

Taranto, 2025. Una donna si sente male su un autobus. Le urla disperate del figlio piccolo restano a lungo senza risposta, mentre i passeggeri continuano a ignorarle prima che qualcuno decida finalmente di intervenire.

Durante il periodo delle Olimpiadi invernali, sette senzatetto muoiono a Milano, per cause diverse e non collegate tra loro, nel silenzio quasi assoluto della città.

Persino l’eccezione virtuosa del tredicenne che ha fermato con coraggio il coetaneo di Trescore Balneario mentre accoltellava una professoressa in diretta online è stata oscurata da decine di spettatori collegati alla diretta Telegram dell’aggressione, rimasti a guardare senza avvisare immediatamente le autorità.

Il Papa mette a fuoco con precisione ciò che molti percepiscono ma faticano a nominare: non siamo davanti soltanto a una crisi della convivenza civile, ma a un indebolimento della nostra capacità di essere presenti al reale, qui e ora, davanti alla gioia come davanti al dolore.

Per questo parla di una sfida spirituale. Non è semplicemente la gentilezza che viene meno, ma la capacità stessa di lasciarsi scalfire, interrogare, toccare dall’esistenza dell’altro.

Nello spazio bidimensionale dello schermo, dove tutto scorre veloce e ogni cosa vale quanto il suo contrario, anche la sofferenza rischia di essere consumata come contenuto, anziché incontrata come presenza viva.

Molti oggi crescono più allenati a reagire a una notifica che a una persona reale. Più abituati a osservare che a intervenire. Si sbircia, si commenta d’istinto, si scorre oltre. E così non ci lasciamo più colpire da una donna che sviene davanti al figlio, da un uomo massacrato di botte, da un senzatetto che muore a pochi passi da noi, da immagini che non ci imbarazzano più e allora finiamo con l'alzare l'asticella del tollerabile.

Ma c'è ancora qualcuno col coraggio di parlare chiaro chiamando le cose col loro nome. Sarà forse per questo che ogni mercoledì è sempre più lunga la fila per riempire piazza San Pietro?

"Ogni parola pronunciata richiede di essere preceduta dall'ascolto"

"Quando trovo

in questo mio silenzio

una parola

scavata è nella mia vita

come un abisso."

Giuseppe Ungaretti

Si trovava in guerra quando nelle tregue tra un bombardamento e un altro, fissava queste parole su carta.

Parole. Come quelle che oggi scorrono vuote e velocissime, senza lasciare niente, nemmeno un frammento di memoria.

Formalmente non c'è differenza. Un'IA non tratterebbe in modo diverso un verso partorito dopo ore di patimenti, fremiti, moti dell'anima di un uomo al fronte e il beat idiota blaterato su tiktok da un'adolescente che ballonzola.

L'IA genera la parola successiva più probabile usando occorrenze apprese da grandi quantità di testo, che siano parole partorite da un'anima poetica o quelle cianciate di un influencer scemo.

"Quando trovo

in questo mio silenzio

una parola

scavata è nella mia vita

come un abisso."

Queste parole hanno il potere di evocare nuovi pensieri, sensazioni, suggestioni. Forse perché non sono una poesia da leggere ma un paesaggio che si attraversa e che ogni volta lascia un certo stupore.

Nelle tregue tra i bombardamenti il poeta cercava quel silenzio in cui avrebbe trovato quella parola sua perché vera, l'unica che valeva la pena di scrivere perché dava forma a ciò che viveva.

Noi, oggi, tra i bombardamenti di parole che ci piovono addosso su più fronti, riusciremo a trovare quel silenzio per trovare quelle che sono davvero nostre? Non le parole che vomitiamo sui social che ci condannano a essere comunicatori a ogni costo.

Ma le parole che nascono da un silenzio cercato e custodito come un tesoro prezioso. Forse oggi il gesto più radicale non è parlare o scrivere di più, ma tacere meglio: sottrarsi, anche solo per un istante, alla velocità che ci spinge a dire tutto e subito. 

Non si tratta di scrivere grandi poesie, chi ne è capace in fondo? Si tratta di darsi il tempo per sentire veramente cercando tregue tra un bombardamento di parole e un altro. Sentire sotto la superficie delle frasi pronte, degli slogan selezionati da un algoritmo, della reazione di pancia a cui alla fine nemmeno crediamo.

Troppo complicato? Qualcuno l’ha spiegato in una frase chiara, diretta e fattibile: "Ogni parola pronunciata richiede di essere preceduta dall’ascolto" – Leone XIV.

"Difendete la lentezza quando serve!"

Il  Santo Padre ha appena ricevuto il mondo del cinema e, nel suo discorso – come sempre chiaro e illuminante – mi hanno colpito due passaggi particolarmente significativi per ciò che, in genere, cerco di condividere in questo piccolo blog.

"Oggi, viviamo con gli schermi digitali sempre accesi. Il flusso delle informazioni è costante. Ma il cinema è molto più di un semplice schermo: è un crocevia di desideri, memorie e interrogazioni. È una ricerca sensibile dove la luce perfora il buio e la parola incontra il silenzio."

Come non condividere ciò che ha detto? Nell’epoca degli schermi onnipresenti, in cui le informazioni scorrono veloci e spesso superficiali, il Papa ricorda che il cinema nasce invece da un incrocio di sguardi e profondità: è il luogo in cui la parola non teme di incontrare il silenzio.

Quel silenzio che oggi, presi dall’abitudine a tenere tutto “acceso”, non trova quasi mai spazio e tempo per emergere.

Aggiunge poi il Pontefice: "La logica dell’algoritmo tende a ripetere ciò che “funziona”, ma l’arte apre a ciò che è possibile. Non tutto dev’essere immediato o prevedibile: difendete la lentezza quando serve, il silenzio quando parla, la differenza quando provoca."

Gli algoritmi ripetono; l’arte immagina.

Gli algoritmi fanno scorrere veloce ciò che è già stato detto; l’arte rivela lentamente ciò che non è ancora stato pronunciato.

Gli algoritmi ci rovesciano addosso un rumore che soffoca il silenzio; l’arte, invece, chiede il nostro silenzio, perché è lì che trova la voce per parlare.

"Difendete la lentezza quando serve, il silenzio quando parla" – dice il Papa. Perché sa che è proprio lì, nella calma e nell’ascolto profondo, che avviene l’atto creativo. E quando c’è creatività, oso aggiungere io, lì c’è anche Dio: una presenza discreta che si lascia intuire più che afferrare.

E in fondo, se non sbaglio, ce lo promette Lui stesso:

“Resta sveglio e, se necessario, sii silenzioso, e il Signore ti illuminerà.” (Siracide 6,34)

Due giovani che mostrano che la mascolinità non è tossica

Come ogni mattina cammino lungo Via della Conciliazione. I nastri bianchi e rossi già sbarrano le vie laterali: i preparativi per qualcosa di grande sono in pieno fermento.

Giunto in piazza San Pietro, un cielo terso e luminoso come non mai avvolge la facciata della Basilica, sulla quale campeggiano le immagini di due giovani: Pier Giorgio, ventiquattro anni. Carlo, appena sedici.

Quei due volti luminosi come il cielo di oggi, ci ricordano che santità e gioventù, forse, sono un binomio ancora vivo, ancora possibile.

Sì, la mascolinità tossica esiste. È un drammatico dato di fatto, e ogni mancanza di rispetto — anche la più piccola — va riprovata e condannata senza esitazione.

Ma oggi sembra che si voglia narrare soltanto quella. In tv, in rete, sui social, la virilità viene descritta quasi sempre come aggressiva, come se essere uomini fosse una colpa di per sé, come se implicasse una tara a prescindere dalle virtù personali o persino di genere.

Perché sì, le virtù maschili esistono, anche se oggi sembrano dimenticate. Esiste la virtù del padre separato che dorme in macchina pur di permettere ai figli di praticare tennis e danza.

Esiste la resistenza silenziosa e umile degli uomini che ad agosto lavorano otto ore sotto il sole su un cavalcavia autostradale. Esiste la fedeltà del marito che condivide i compiti con una moglie sfinita dal lavoro e mille incombenze domestiche. Ne conosco tanti.

Esiste il coraggio del giovane che difende un compagno bullizzato fregandosene del branco che lo esclude.

Ed esiste l’autocontrollo ammirevole dell’uomo che ieri, per strada, pur provocato da un ragazzo violento con tanta voglia di menar le mani, rinunciava a reagire trasformando la lite in dialogo.

Pier Giorgio Frassati e Carlo Acutis, questa domenica, saranno lì a ricordarci che virilità e mascolinità non sono soltanto tossiche, ma possono essere luminose e virtuose, fino a condurre — per chi crede — a godere pienamente Dio. E io ci credo.

La mascolinità fedele, coraggiosa, allegra, protettiva e tenace di Pier Giorgio può essere un modello vincente per i ragazzotti della Generazione Z.

La virilità leale, responsabile, creativa, casta e umile di Carlo Acutis può offrire un’alternativa credibile ai maschi che oggi si smarriscono e indeboliscono davanti alle immagini vuote e desolanti di un minischermo. Non a caso è considerato il santo patrono di internet...

Il messaggio di questi due giovani uomini, santi e moderni, è una luce per tutti - credenti e non - capace di mostrare che essere uomini significa... amare con forza, servire con coraggio, vivere con speranza.

E noi. Siamo disposti a mostrare questi modelli virtuosi ai nostri figli maschi?

Effatà: il messaggio che non ti aspetti sul silenzio digitale

 “Iperconnessi ma isolati”: più o meno così Papa Leone, mercoledì scorso, ha aperto l’udienza generale con una riflessione potente e attualissima sui social media.

Le sue parole arrivano dritte al punto:

"Viviamo in una società che si sta ammalando a causa di una “bulimia” delle connessioni dei social media: siamo iperconnessi, bombardati da immagini, talvolta anche false o distorte. Siamo travolti da molteplici messaggi che suscitano in noi una tempesta di emozioni contraddittorie..."

In questo caos digitale, cresce il desiderio di spegnere tutto, di chiudersi nel silenzio. Ma il rischio è di perdere anche il contatto con chi ci è vicino:

"Anche le nostre parole rischiano di essere fraintese e possiamo essere tentati di chiuderci nel silenzio, in una incomunicabilità dove, per quanto vicini, non riusciamo più a dirci le cose più semplici e profonde."

 E qui il Papa propone un’alternativa. Racconta di Gesù che si avvicina a un uomo muto. Non parla subito. Prima lo incontra, lo incontra davvero, lo tocca, lo ascolta.

"Gli offre prima di tutto una prossimità silenziosa, attraverso gesti che parlano di un incontro profondo: tocca le orecchie e la lingua di quest’uomo" e poi dice: "Effatà!" – Apriti.

Ecco il messaggio forte:

«Apriti a questo mondo che ti spaventa! Apriti alle relazioni che ti hanno deluso! Apriti alla vita che hai rinunciato ad affrontare!»
Perché chiudersi, in fondo, non è mai una vera soluzione.

 Se il cellulare e i social ci stanno togliendo tempo, emozioni e incontri reali, trasformandoci in scrollatori seriali, forse è il momento di fare un passo indietro.

Non per sparire. Ma per riaprire il cuore. Alle persone, alla realtà, a Dio — se ci credi.

Perché siamo sempre connessi, ma ci incontriamo sempre meno.

 E se andassimo contro corrente provando a... scollegarci un po’ per incontrarci davvero?

-§-§-§-

P.S. Qualunque sia il tuo credo, che rispetto, queste parole mi sono sembrate troppo vere per non condividerle.
 Fonte: https://www.vatican.va/content/leo-xiv/it/audiences/2025/documents/20250730-udienza-generale.html