Cosa resterà agli esseri umani quando tutto sarà automatizzato dall'Agentic AI? La lezione della Stanza di Mary

Riprendiamo questo numero di maggio de Lo specchio, in cui, assieme a Lucia Elisa Marinelli, Marketing Specialist di adesso.it, e Vincenzo Pentassuglia, Scrum Master di adesso.it, affrontiamo una domanda che la filosofia della mente ha sollevato nel 1982 e che oggi, nell'era dell'Agentic AI, torna con una urgenza tutta nuova: cosa sa fare un essere umano che una macchina — per quanto straordinaria — non può ancora replicare?  

In questi tempi di cambiamento accelerato, nessun film di fantascienza sembra più troppo lontano dalla realtà. Chi lavora nel software lo sa meglio di chiunque altro. Date le circostanze attuali, un film che vale la pena recuperare — o rivedere con occhi nuovi — è Ex Machina: una favola contemporanea su cosa può accadere quando si coltivano intelligenze artificiali, e su cosa, nel mezzo di quell'operazione, rischiamo di perdere di vista. Il film solleva molte domande. Una, però, è quella che continua a risuonare: cosa può differenziare un essere umano da una superintelligenza? 

Una scena chiave di Ex Machina richiama un esperimento mentale che non è invenzione del regista Alex Garland, ma appartiene alla storia della filosofia della mente: la Stanza di Mary, formulata dal filosofo Frank Jackson nel 1982.  

Lo scenario è questo: Mary è una brillantissima neuroscienziata, specializzata nella visione dei colori. È però vissuta fin dalla nascita in una stanza completamente in bianco e nero. Studia il mondo attraverso monitor monocromatici e libri privi di colore. Nel tempo, acquisisce una conoscenza fisica completa sulla visione: sa quali lunghezze d'onda stimolano la retina, come i segnali neurologici si propagano verso la corteccia visiva, quali processi producono la percezione del rosso, del blu, del verde.  

Poi, un giorno, Mary esce dalla stanza. Vede per la prima volta una mela rossa.  

La domanda è semplice e brutale: ha imparato qualcosa di nuovo?  

Jackson sosteneva di sì. E con quella risposta intendeva sfidare il fisicalismo — l'idea che tutto ciò che esiste sia riducibile a proprietà fisiche. Perché se Mary sapeva già tutto il fisicamente sapibile sul rosso, eppure vedendolo acquisisce qualcosa che prima non aveva, allora esiste una forma di conoscenza che non è catturabile da nessuna descrizione oggettiva del mondo. Quella forma si chiama qualia: l'esperienza soggettiva di com'è vivere un'esperienza. 

L'Agentic AI — tutta l'Agentic AI che conosciamo oggi — è Mary ancora intrappolata nella stanza.  

Non è un'accusa. È una descrizione tecnica. I modelli linguistici, per quanto straordinariamente capaci, operano su pattern statistici estratti da miliardi di testi: sono macchine probabilistiche di straordinaria potenza, ma non vivono nulla. Non sanno com'è sbagliare e riconoscerlo davanti a qualcuno che conta. Non sanno com'è uscire di casa quando piove e cambiare idea sul percorso. Non sanno com'è la stanchezza che produce un'intuizione inaspettata alle undici di sera, o la noia che diventa — chissà come — creatività.  

Nel frattempo, le notizie si moltiplicano: Meta annuncia licenziamenti su larga scala in nome dell'efficienza Agentic AI; startup e corporate riducono organici promettendo rendite senza spese. Il ragionamento implicito è che tutto ciò che un essere umano fa può essere replicato, ottimizzato, automatizzato. E su una parte significativa del lavoro cognitivo è probabilmente vero.  

Ma l'argomento di Mary ci obbliga a fare una domanda scomoda: cosa resta, una volta automatizzato tutto l'automatizzabile?  

Resta esattamente quello che non si può estrarre dalla stanza in bianco e nero. Resta la capacità di portarsi dentro un'esperienza tangibile e fisica del mondo — di fare errori reali, con conseguenze reali, in contesti ambigui e irriducibili a un dataset. Resta la capacità di chiedersi qualcosa non perché si è stati istruiti a farlo, ma perché il mondo ci ha toccati in un modo che ancora non sappiamo nominare. Quella cosa lì — quel quid — non ha ancora trovato una rappresentazione in un peso neuronale artificiale. E forse non è un caso.  

La domanda per il prossimo decennio non è "l'Agentic AI può fare il mio lavoro?". È: cosa rende prezioso un essere umano in un mondo dove l'Agentic AI fa tutto il resto? La risposta passa, probabilmente, da Mary e dalla sua mela rossa. 

Mary, nella sua stanza, sapeva tutto sul rosso. Eppure mancava qualcosa. Qualcosa di simile accade quando sviluppiamo software guardando solo dentro la stanza — cioè dentro la catena analisi → sviluppo → test.  

Oggi l'Agentic AI ci aiuta a scrivere codice meglio e più velocemente, ridurre errori, abbassare il debito tecnico. Ma è possibile intravedere un rischio speculare: avere meno debito tecnico e più debito funzionale. Soluzioni pulite, eleganti… centrate sull'esigenza sbagliata. Costruite tecnicamente perfette su una comprensione del mondo ancora in bianco e nero.  

Il momento in cui "si esce dalla stanza" — nella nostra catena — è quello della discovery: la raccolta requisiti, la comprensione del bisogno reale, il contatto con chi quel problema lo vive davvero.  

Ed è lì che, conta la presenza dell'essere umano. L'Human in the loop in grado non di accelerare le risposte, ma di esprimere il dubbio basato sulla sua esperienza, sulle sue impressioni, conoscenze e riflessioni.  

In questo modo l'Agentic AI può venire in nostro aiuto, mettendo in discussione i requisiti, facendo emergere assunzioni implicite, generando risposte migliori perché le sono state poste domande migliori.  

In questo modo si riduce il rischio più grande, non di andare lenti ma di andare veloci nella direzione sbagliata: con tanta certezza statistica e poca esperienza del mondo. 

Stiamo imparando a usare l'Agentic AI per accelerare le risposte. Impariamo a usarla anche per migliorare le domande.  

E qui emerge un altro aspetto importante: l'Agentic AI accelera; ma ciò che accelera dipende dalla qualità dell'esperienza umana che la guida. L'Agentic AI resta uno strumento profondamente derivativo: si basa su istruzioni, priorità e interpretazioni fornite dalle persone. E quelle istruzioni sono il risultato di esperienza umana, non dell'esperienza dell'Agentic AI.  

Per questo il punto non è sostituire il momento dell'affiancamento operativo, ma rafforzarlo. Osservare chi lavora, capire le eccezioni, cogliere ciò che non compare nei requisiti resta un passaggio essenziale per "uscire dalla stanza".  

L'Agentic AI può accelerare la formalizzazione della user journey, evidenziare incoerenze, suggerire domande migliori, sintetizzare bisogni. Ma il contatto diretto con il contesto reale rimane un'attività profondamente umana.  

Il rischio, altrimenti, è produrre sempre più velocemente una rappresentazione impeccabile di un problema compreso solo in astratto.