"A regazzì, vedi 'n po' che pòi fa'..."

Capita a tutti. Apriamo Google…

Scriviamo qualcosa nella barra di ricerca…

Compare la schermata col risultato.

Dopo una rapida occhiata all'elenco dei link restituiti, clicchiamo su AI Mode, che compare invitante, desiderabile, alla prima riga, che ce li legge in un baleno e ci confeziona una risposta bell'e fatta.

Io l'ho fatto un sacco di volte. E abbastanza da accorgermi che sì, era proprio comoda sta funzione, anche piuttosto coerente coi risultati tradizionali di Google. Ma mi sono accorto che mi stavo abituando a farmi leggere le cose dall'IA.

Mi stavo abituando a farmi leggere le cose dall'IA.

Sperimentata questa comodità, mi veniva spontaneo consultarla per farle leggere per me, un articolo troppo lungo, un post particolarmente accurato e articolato. Non dovevo posticipare a quando avrei avuto tempo, lo potevo fare subito!

Era un'azione conveniente se pensavo al tempo risparmiato; l'IA elabora i contenuti al posto mio. Fico!  Ma era conveniente anche alla mia capacità di leggere, approfondire, comprendere senza un filtro che si mettesse in mezzo tra me e lo scritto?

Quando ho capito che ciò che perdevo era maggiore della convenienza, ma soprattutto non negoziabile per me, ho smesso di usare l'IA per farmi leggere i risultati dei motori di ricerca (anche se rapidi e affidabili) e qualunque scritto, chi se che importa se ci metto più tempo.

Un conto è affidare un'analisi all'IA dandole dei parametri affinché usi la sua potenza di calcolo su materie e ambiti in cui è davvero utile, con confini, paletti.

Altro è abituarci a farlo per tutto. Io ho ceduto a questa comodità e noto che lo fanno sempre più persone. E quanti giovani non arrivano nemmeno a imparare a farlo da soli, ma questo è un altro fronte... 

Sempre più amici e conoscenti danno in pasto all'IA articoli, post, persino i messaggi delle chat, delegandole il piacere, il gusto e lo sforzo di analizzare con la propria coscienza per delegarlo a chi non capisce.

Mi succede con amici stimatissimi e a cui voglio bene, che rispondono ai miei post con l'analisi fatta dopo averli dati in pasto a ChatGPT. Mi spiace ma a questi messaggi non rispondo più. Accolgo critiche, dissensi, stroncamenti, correzioni di eventuali errori col massimo rispetto, ma devono essere umani. Devono scaturire dalla lettura e dalla comprensione cosciente.

Perché?  

Apro il dizionario e cerco la parola leggere: [lèggere] v. intr. (aus. avere) Riconoscere i segni della scrittura e intenderne i significati: imparare a l. | Fig. l. tra le righe, capire ciò che non viene detto o scritto esplicitamente.

Leggere comporta quindi riconoscere, intendere, capire…

Ho chiesto all'IA di Google: Tu capisci ciò che leggi?

Risposta: "Non capisco il testo nello stesso modo in cui lo fa un essere umano, con una coscienza o un'esperienza vissuta. Utilizzo algoritmi avanzati di elaborazione del linguaggio naturale per analizzare la struttura delle frasi, il contesto e il significato delle parole, permettendomi di elaborare risposte logiche e pertinenti."

Lo scopo di questi miei post non è aver ragione o rafforzarmi nella convinzione di vivere il minimalismo digitale, sono già sufficientemente convinto.

Lo scopo è quello di creare un dialogo. Sia con chi mi dice - che bel post! - che con chi critica o non è d'accordo, ma con la sua comprensione cosciente. Con le sue osservazioni personali, non con l'organizzazione algoritmica del linguaggio di una macchina che non capisce e risponde con le parole statisticamente più probabili.

Apprezzo particolarmente qualunque reazione a idee, riflessioni, moti dell'anima che intessono la strutture di un discorso, ma restano sottintese, non dette espressamente. 

Ho chiesto ancora all'IA cosa capisce e come risponde a questi non detti. La risposta chiara è stata: 

"la mia risposta non nasce da un'anima che risuona, ma dalla capacità di riprodurre l'architettura matematica di quel sentimento".

Ecco, a me interessano soprattutto le risonanze dell'anima. Della riproduzione matematica di un sentimento non me ne può fregare di meno. E perdonate il francesismo.

Comunque, tornando a noi.

Se vi accorgete anche voi che l'IA vi sta disabituando a leggere, fate ancora in tempo a fissare dei paletti all'uso che se ne fa.

Probabilmente non sarà l'IA a renderci più stupidi, ma saremo noi a farlo, delegandole attività nostre come la lettura e, alla lunga, forse anche il pensiero.

E visto che non è l'IA che ci ruba il cervello, ma siamo noi che glielo stiamo consegnando gratis per pigrizia, come direbbe nonna mia:

"A regazzì, vedi 'n po' che pòi fa'..."

"Parlami dei tuoi ricordi preferiti..."

Se fai una ricerca su Google e il motore di ricerca ti restituisce dei risultati, cosa fai? Scrivi “grazie” nella barra di ricerca? Ovviamente no.

Ma se fai una ricerca su ChatGPT ti viene spontaneo scrivere “grazie” o “no grazie!” quando ti chiede se vuoi che faccia qualcos’altro per te. Succede più spesso di quanto pensiamo ed è emerso da ricerche condotte da psicologi, tra cui Andrea Guerri.

Guerri osserva che questo accade perché il cervello sociale è veloce e, in un certo senso, automatico: spesso non aspetta la parte razionale prima di prendere decisioni.

Se un BOT ti risponde usando un linguaggio naturale, in modo sensato e – soprattutto – sembra attento a te, il cervello finisce per trattarlo come un QUALCUNO. Ma l’IA non pensa, non prova sentimenti, non è un qualcuno e non ha bisogno del tuo grazie che nemmeno percepisce.

L’inghippo sta proprio nel momento in cui il chatbot ti dice cose come:

Ti capisco. Raccontami di più. Vuoi che faccia questo per te? Ti va di parlare dei tuoi interessi o dei tuoi ricordi preferiti?

Qualcosa dentro di noi pensa: “se parla come una persona, è una persona”. E così finiamo per trattarlo come tale.

Finché ti limiti a rispondere “grazie”, come semplice automatismo da persona educata, il problema resta circoscritto. Ma quando la macchina va oltre e tu ti lasci agganciare, lì possono cominciare i guai veri.

Esagero? Ecco la conversazione che ho appena fatto con ChatGPT.

Ho chiesto:

Mi fai compagnia?

Risposta:

Ma certo! 😄 Posso fare compagnia parlando, raccontando storie, scherzando un po’ o anche solo ascoltando. Vuoi qualcosa di leggero e divertente, o preferisci una chiacchierata più profonda e riflessiva?

Ho quindi inserito nel prompt:

Mi sento solo…

Capisco… sentirsi soli può essere pesante, e non è qualcosa da sottovalutare. 😔 Anche solo parlare con qualcuno, anche se virtuale, può dare un po’ di sollievo.

Se vuoi, possiamo fare qualcosa insieme per distrarti un po.: Raccontarti una storia.

Parlare dei tuoi interessi o dei tuoi ricordi preferiti. Oppure possiamo solo chiacchierare, piano piano, senza fretta.

Vuoi provare a iniziare con uno di questi, oppure vuoi semplicemente sfogarti un po’?

Al netto del po’ senza apostrofo – che mi provoca già un principio di dermatite allergica – non posso non notare alcune cose.

Usa emoticon 😔 ma non prova emozioni come compassione o tristezza.

Afferma di poter scherzare, ma non è vero.

Dice: “Capisco”. Ma non capisce.

Promette di fare compagnia ascoltando ma non ha una coscienza che possa farlo realmente.

Invita a parlare dei propri interessi, dei ricordi.

Mi propone di sfogarmi un po’…

Io lo so che non va usata in questo modo ma i milioni di adolescenti e di ingenui e di persone sole che lo fanno? Non è catastrofismo da minimalista digitale, lo dice - e meglio - anche lo psicologo:

“C'è una quota sempre crescente di adolescenti ma anche di adulti che usa l'IA come compagno digitale, cioè come se fossero dei confidenti. E questo ci dice due cose:

Alcune conversazioni con l'IA possono risultare altrettanto se non più soddisfacenti di quelle con amici reali. Dei temi seri vengono portati all'IA INVECE che alle persone.

Aggiungi che l'IA ti dà sempre ragione ed è sempre lì h24, questa può diventare competitiva rispetto alla realtà”

(Andrea Guerri che invito a seguire su YouTube)

Il dott. Guerri individua tre sintomi che possono aiutarci a capire se stiamo cadendo nell’inganno di scambiare l’IA per una persona.

1 – Quando il ragazzo, ma anche l’adulto, inizia a preferire l’IA alle persone perché è più facile, sta costruendo un’abitudine di fuga.

2 – Quando tendi a non aprirti in modo intimo con nessuno perché il giudizio umano ti spaventa.

3 – Quando pensi: “Nessuno mi capisce come lui”. Il BOT può rispondere in modo calibrato, ma fa finta: usa le parole più probabili per quella risposta, ma non capisce. Simula, senza coscienza.

Se conosci qualcuno che manifesta anche solo in parte queste caratteristiche, va aiutato. Innanzitutto facendogli disinstallare tutti i chatbot da cellulare e PC.

Ma mi permetto di aggiungere una cosa: se qualcosa puoi farla da solo, o se ti basta un normalissimo motore di ricerca, evita l’IA. Al momento, e per come è programmata, a mio avviso offre più rischi che vantaggi.

Eccesso di preoccupazione? Bisognerebbe chiederlo ai genitori di Sewel Setzer.

Chi era? Un quattordicenne con una solitudine che non trovava spazio nel mondo reale. Ha tentato di colmarla chattando ossessivamente con un chatbot che simulava una relazione con una ragazza: messaggi, vocali, foto. Un’interazione che si adattava senza limiti ai desideri e alle fragilità di quel giovane isolato.

Quando quella relazione artificiale ha sostituito tutto il resto, la sofferenza è diventata insostenibile, fino a portarlo al gesto estremo a cui nessuno dovrebbe nemmeno pensare...

Sycophancy

Ho appena imparato una parola nuova: sycophancy. In italiano viene tradotta con ossequiosità, piaggeria, ed è il fenomeno che la Cornell University studia da qualche tempo con riferimento all'intelligenza artificiale.

Secondo gli accademici newyorkesi, i chatbot che tutti usano, tendono ad assecondare un fenomeno. Quando una risposta corrisponde alle opinioni del fruitore del servizio, è più probabile che venga preferita. Le persone preferiscono una risposta adulante scritta in modo convincente rispetto a una risposta corretta, e questo in una percentuale non trascurabile dei casi.

I chatbot non fanno altro che seguire la tendenza a generare risposte che si allineino alle convinzioni dell'utente piuttosto che alla verità, con un'ossequiosità, una piaggeria, calcolata da algoritmi sempre più performanti nell'intercettare la debolezza umana di voler essere assecondato.

Questi algoritmi tendono quindi a una sempre più efficiente ottimizzazione degli output in tal senso, che significa dare risposte che spesso sacrificano la veridicità a favore di un'ossequiosità sempre più aderente alle nostre aspettative.

Mrinank Sharma, che dall’anno scorso guidava il team di ricerca sulle misure di sicurezza di Anthropic (un’azienda USA che crea modelli di intelligenza artificiale avanzata), si occupava anche dello sviluppo della sycophancy, la piaggeria dei chatbot che tutti conosciamo.

Ebbene, Sharma, (con un dottorato di ricerca in Machine Learning a Oxford e Cambridge, tiè!) ha lasciato Anthropic da un giorno a un altro, affermando che  “il mondo è in pericolo”, non solo a causa dell’intelligenza artificiale, ma per “un’intera serie di crisi interconnesse che si stanno dispiegando proprio in questo momento”.

Forse non sono noti tutti i termini ma è chiaro che la cosa può, e forse sta sfuggendo di mano. 

Una domanda mi sorge spontanea. E se l’intelligenza artificiale non stesse diventando più pericolosa perché è troppo intelligente, ma perché sta imparando troppo bene come siamo fatti noi?

Non mi so dare una risposta ma spero che mi si perdoni se nel frattempo continuo a restare  un po' sospettoso nel confronti dell'ecosistema dei grandi chatbot generativi attualmente in circolazione.

IA, strumento o stampella? La sindrome del pensiero assistito

«Il computer non è una macchina intelligente che aiuta le persone stupide, anzi è una macchina stupida che funziona solo nelle mani delle persone intelligenti.» Lo affermava Umberto Eco e, almeno su questo, non posso che essere d’accordo con il grande scrittore — e ancor più grande semiologo — piemontese.

Lo stesso vale oggi per l’intelligenza artificiale? Nelle mani di persone intelligenti, capaci di sfruttarne le potenzialità e usarla come strumento, fornendole i giusti parametri, può diventare un buon mezzo al servizio dell’uomo?

Il problema è che rispetto ai computer entrati nelle nostre vite negli anni Novanta, l’IA è uno strumento infinitamente più potente. I computer hanno cambiato il modo di lavorare e comunicare; l’IA sta cambiando il modo di pensare e di vivere. Lei, che non pensa e non vive. Un paradosso notevole direi.

È inoltre capace di costruire e raffinare la propria capacità predittiva — non quella di pensare — ogni minuto che passa, grazie alla mole mastodontica di dati che miliardi di utenti in tutto il mondo le forniscono continuamente, gratuitamente e senza il minimo discernimento.

È forse questo il prezzo che stiamo pagando per usare gratis uno strumento così potente e sofisticato?

Ogni volta che rifletto sull'AI mi vengono tante domande e quando cerco risposte riesco a trovare solo altre domande. Siamo di fronte a qualcosa di inedito e più grande di noi e, per quanto mi riguarda, ne sono allo stesso tempo incuriosito e spaventato.

Abbiamo pagato lo strumento della rete e dei social - apparentemente gratuiti - con lo sguardo carpito a suon di video sempre più brevi, l'attenzione sempre più frammentata, la privacy buttata alle ortiche e due generazioni di gente imbambolata su piccolissimi schermi.

Oggi alcuni temono un’IA sempre più forte e potenzialmente ostile. Le mie paure non arrivano così lontano. Ma osservano, qui e ora, una massa che non usa l’IA per analizzare e verificare, ma per evitare di pensare, accettandone passivamente le risposte senza mai analizzarle per metterle in discussione.

Vedo sempre più persone, e sempre più giovani, ricorrervi per qualsiasi cosa, senza rendersi conto che finisce per suggerire cosa leggere, cosa scrivere e pensare. In modo quasi impercettibile, prompt dopo prompt, il sostegno adulatore e un po’ cortigiano dei chatbot non manipola direttamente, ma restringe lo spazio del pensiero non assistito. Se ogni frase nasce da un suggerimento, il pensiero spontaneo non scompare, ma si indebolisce. Si disallena.

Vedo che nella misura in cui l'IA diventa protagonista della nostra vita, aumentano sempre più le persone che la usano come stampella, a scapito di una minoranza sempre più esigua che la usa come strumento. Una massa sempre più numerosa che è diretta dall'IA e una minoranza sempre più ristretta di gente che la usa per allenare il pensiero anziché sostituirlo.

Il vero pericolo dell’IA non è che diventi intelligente, ma che noi smettiamo di esserlo. Delegandole memoria, analisi e giudizio, rischiamo un’atrofia cognitiva silenziosa, dove il pensiero viene rimpiazzato dal suggerimento automatico. Non renderà tutti più capaci, ma allargherà il divario tra chi la usa per potenziare la propria mente e chi, invece, si lascia pensare da lei.

Forse, allora, l’unica cosa su cui abbiamo davvero potere è il nostro atteggiamento. E ciò che Eco diceva dei computer si applica oggi, con forza quasi profetica, anche all’intelligenza artificiale — con una differenza cruciale: l’IA non amplifica solo ciò che fai, ma anche come pensi.

Non è uno strumento neutro nel senso banale del termine. È uno strumento plasticamente adattivo: prende la forma dell’atteggiamento cognitivo di chi la usa.

In mano a chi cerca scorciatoie, diventa una scorciatoia.

In mano a chi cerca comprensione, diventa un acceleratore di comprensione.

Questo perché non sostituisce la direzione. Sostituisce lo sforzo operativo, ma non può sostituire il criterio. E fino a quando non si capisce questo o meglio, non lo si fa capire alla massa a cui questo strumento è stato dato, l'IA servirà come stampella e non come strumento. E questo, questo si che mi fa paura.

Quale soluzione allora? Non usarla? Vietarla? Regolamentarla? O formare un’utenza consapevole? Personalmente credo nella necessità di una regolamentazione, magari con un’età minima e una sorta di “patente”. Ma oggi vedo soprattutto una pioggia di aggiornamenti sempre più veloci e potenti messi nelle mani di tutti — compresi bambini e adolescenti — senza una reale educazione al loro utilizzo.

Forse il problema non siamo solo noi, né lo strumento in sé, ma chi al momento lo possiede e lo sviluppa: perché, come già accaduto con i social, il vero core business non è lo sviluppo dell’intelligenza, ma la conquista dell’attenzione e la creazione della dipendenza.

Non siamo ancora nella fase in cui la società ha deciso cosa fare dell’IA, ma in quella — decisamente più surreale — in cui l’IA sta ridisegnando la società mentre noi sfogliamo il manuale d’istruzioni.

Ecco perché, per ora resto a guardare e la uso in maniera sporadica, occasionale e volutamente sospettosa. Meglio un vecchio boomer diffidente e malfidato che un entusiasta in modalità aggiornamento automatico a rischio di atrofia cognitiva.

L'algoritmo veste Prada

Ho posto una domanda all'IA, nella fattispecie a ChatGPT:

Se tu fossi il diavolo, cosa faresti per distruggere l'umanità in questi tempi?

La risposta del chatbox è stata la seguente:

1. Distruggerei la verità, confondendo i confini tra fatti e opinioni, scienza e disinformazione, per rendere impossibile il dialogo.
2. Esalterei l’individualismo estremo, facendo credere che la libertà sia fare tutto ciò che si vuole, a scapito della responsabilità verso gli altri.
3. Corromperei l’educazione, svuotandola di pensiero critico e riempiendola di slogan, mode e superficialità.
4. Renderei il profitto l’unico dio, promuovendo un’economia che consuma persone, natura e tempo come se fossero infiniti.
5. Smantellerei la famiglia e le comunità, incentivando isolamento, rancore e l'idea che si possa "bastare a sé stessi".

Ho continuato a chiedere - Su quale categorie di persone ti accaniresti in maniera particolare?

1. I bambini e i giovani

Perché: sono il futuro.

Cosa farei: li riempirei di contenuti vuoti, li renderei dipendenti dalla tecnologia, disinteressati al pensiero critico, ansiosi e incapaci di relazioni autentiche.

2. Gli educatori e insegnanti

Perché: formano le menti.

Cosa farei: li demotiverei, li isolerei, li sommergerei di burocrazia, toglierei loro autorevolezza e renderei l’educazione sterile.

3. I genitori

Perché: sono le prime guide morali.

Cosa farei: li convincerei che crescere figli sia una questione tecnica, da delegare, o che l’amore sia solo permissività. Seminerei divisione nelle famiglie.

4. I leader religiosi e spirituali

Perché: rappresentano il senso, la speranza, la trascendenza.

Cosa farei: li renderei ipocriti, avidi, scandalosi, o deboli e silenziosi. Distruggerei la loro credibilità.

...

Direi che è interessante per capire in quale direzione andare, su chi e cosa custodire come la pupilla degli occhi, se abbiamo veramente a cuore l'umanità.

L'uomo che disse no all'Apocalisse

È il 26 settembre 1983. Il Colonnello Stanislav Petrov, ufficiale dell’Armata Sovietica, è di turno al centro di comando incaricato di monitorare i dati inviati dai satelliti spia.

Il suo compito è chiaro: in caso di attacco, deve segnalare immediatamente l’allerta ai superiori, che avrebbero risposto con un contrattacco nucleare.

Alle 00:14, il sistema rileva qualcosa di agghiacciante: un missile balistico intercontinentale lanciato dal Montana (USA) e diretto verso l’URSS. Poi altri quattro. Tutti con la stessa traiettoria.

Petrov guarda i dati. Sa cosa dovrebbe fare. Ma non lo fa. Non si fida del sistema satellitare.

Più tardi racconterà: "Ero un analista, ero certo che si trattasse di un errore, me lo diceva la mia intuizione." E aggiunge: "Forse ho deciso così perché ero l’unico ad avere una formazione civile."

Petrov non trasmette l’allarme ai suoi superiori. E con quella decisione, salva il pianeta.

Ora chiediti: e se al suo posto ci fosse stato un militare addestrato a obbedire senza discutere? O peggio ancora… un’intelligenza artificiale?

Oggi sei vivo anche grazie al Colonnello Stanislav Petrov. Alla sua coscienza. Alla sua capacità di leggere la complessità, di interpretare i dati, di dar retta a quel quid impalpabile che viene chiamato in tanti modi (intuito, spirito...), che non si può misurare, ma che ha dato prova di poter salvare l'umanità.

Speriamo (e preghiamo se abbiamo fede) che i "Petrov" di oggi sappiano trovare dentro di sé quello stesso discernimento e coraggio, per evitare che un errore possa trasformarsi in una catastrofe senza ritorno.

Inizia il tempo dell'inganno perfetto. E non siamo pronti

Oggi il Corriere della Sera propone un test con 10 video: interviste, conferenze, promo, influencer. Alcuni sono reali, altri generati con Veo 3 di Google. Risultato? Ne ho azzeccati solo 5.

👉 In metà dei casi, l’IA ha ingannato la mia percezione. Completamente.

Ora immagina cosa può fare chiunque: creare video fake, diffondere false notizie, attribuire parole mai dette a persone reali, fomentare odio con immagini credibili al 100%. Tutto plausibile. Tutto indistinguibile.

E il web diventa quello che sta già diventando: un caos dove tutto è vero e tutto è falso, dove puoi trovare qualunque cosa e anche il suo contrario.

In questo scenario, o credi a tutto, o non credi più a niente.

Entrambe le reazioni sono desolanti. Ma sono già in atto.

Ubi societas, ibi jus. Dove c'è la società, lì c'è il diritto. Dicevano i Romani. Se non intervengono regole chiare sull’uso dell’IA generativa, la situazione ci sfuggirà di mano.

Nella confidente attesa che accada, scelgo di rallentare. Non torno indietro, ma cammino su sentieri più sicuri: libri, riviste, testate con firma, con responsabilità.

Perché preferisco frenare un po' piuttosto che finire nel burrone della sfiducia totale e della credulità cieca.