Qualche giorno fa mi sono imbattuto in un video su youtube, di Salvatore Sanfilippo @antirez, conosciuto nel panorama mondiale per aver sviluppato Redis, non una cosuccia da poco. In modo molto deciso confutava la teoria di un gruppo di ricercatori
Timnit Gebru, Emily M. Bender, Angelina McMillan-Major, and Margaret Mitchell
che in un paper del 2021 hanno coniato la metafora "Stocastic Parrots" per definire il comportamento del Large Language Models
Significa che l'IA genera un testo fluido e dal suono umano utilizzando la probabilità statistica, ma in realtà non comprende il vero significato delle parole che produce.
questa metafora ad oggi è una delle più accreditate nel campo della I.A. che in pratica viene assimilata ad una sorta di super T9 (si proprio come il T9 dello smartphone).
In termini puramente algoritmici, questa teoria è difficile da smentire: un LLM elabora le sue risposte predicendo il token successivo più adatto al contesto, basandosi puramente sull'addestramento e sulle fonti di conoscenza a cui attinge. Tuttavia, Sanfilippo sostiene che i modelli odierni abbiano ormai superato questo recinto teorico.
Io cosa ne penso?
Pur stimando profondamente Sanfilippo per il suo modo di ragionare fuori dagli schemi, rimango scettico sulla visione di un'A.I. realmente "intelligente", o perlomeno in grado di capire completamente il linguaggio umano e di formulare risposte seguendo un percorso logico identico a quello della nostra mente.
Quindi? pappagallo o intelligenza?
Come spesso accade nella vita, non è tutto bianco o nero, ma esistono infinite sfumature. Forse, la chiave per comprendere questa rivoluzione non sta nel definire la macchina, ma nello spostare il nostro punto di vista sulla componente umana, dividendola in due fronti: quello degli sviluppatori e quello degli utilizzatori.
Il lato degli Sviluppatori: l'illusione della replica biologica
Oggi chi progetta e sviluppa l'intelligenza artificiale si muove spesso con un obiettivo ambizioso: rendere queste macchine il più simili possibile alla mente umana, replicandone le strutture, i ragionamenti e i modi di pensare ed interagire.
Dal mio punto di vista, però, questo traguardo non sarà mai del tutto raggiungibile. Esiste un confine biologico invalicabile: la componente puramente emotiva e sensoriale.
Possiamo addestrare un modello a definire la "paura", l'"amore" o l'"eccitazione", insegnandogli a parlarne in modo impeccabile e fluido. Ma l'IA non sentirà mai queste emozioni sulla propria pelle. Per un essere umano, un'emozione non è una stringa di testo o un calcolo di probabilità; è una stretta allo stomaco, un battito accelerato, uno stato d'animo improvviso che incide enormemente su ciò che pensiamo e sulle decisioni che prendiamo in una frazione di secondo. Questa imprevedibilità biochimica è ciò che ci rende umani, ed è qualcosa che nessun codice potrà mai replicare.
Il lato degli Utilizzatori: la trappola dell'antropomorfismo
Se dal lato degli sviluppatori c'è l'illusione di poter replicare la biologia, dal lato di chi usa questi strumenti – gli utilizzatori – la dinamica si fa ancora più complessa. Per fare chiarezza, dobbiamo dividere gli utenti in due grandi categorie:
- L'utilizzatore tech: lo sviluppatore, l'ingegnere o il professionista del settore che affronta l'IA con pragmatismo, considerandola puramente come uno strumento da comprendere e piegare alle proprie esigenze di produttività.
- L'utilizzatore comune: (e sia chiaro, senza alcuno svilimento) l'utente che si approccia a un LLM parlandoci ed interagendo come farebbe con una persona reale davanti a sé.
Eppure, nonostante la differenza di partenza, accade qualcosa di singolare. Spesso anche l'utente più evoluto e tecnico cade nella stessa, identica trappola dell'utente comune: finisce per credere che l'LLM sia "intelligente" alla nostra stessa maniera. Questa è una vera trappola cognitiva, che finisce indirettamente per giustificare e alimentare quell'ambizione di replica biologica degli sviluppatori di cui parlavamo prima.
Collaborare con l'alieno, non adorare l'oracolo
La mia visione è diversa. Io penso che gli LLM esprimano effettivamente una forma di "intelligenza", ma si tratta di un'intelligenza dotata di una mente radicalmente diversa e distante dalla nostra.
Dobbiamo fare uno sforzo di umiltà intellettuale. Prima di tutto, dobbiamo accettare che ci sono ancora dei lati d'ombra e non del tutto trasparenti nei loro processi interni. In secondo luogo, dobbiamo smettere di trattare queste macchine come "oracoli" o come geni indiscussi a cui affidarsi ciecamente, come faremmo con gli esseri umani più dotati.
L'obiettivo finale non deve essere l'affidamento passivo, ma la collaborazione attiva.
Un LLM non pensa come noi perché non ha la nostra biologia, la nostra carne, né i filtri della nostra cultura millenaria. Proprio per questo è incredibilmente prezioso: dobbiamo usarlo come uno specchio per le nostre intuizioni. Confrontarsi con un'IA dovrebbe essere come confrontarsi con un'intelligenza aliena: un modo per ottenere punti di vista totalmente destrutturati, liberi dai nostri bias storici e culturali, capaci di aprirci gli occhi su alternative che non avevamo nemmeno preso in considerazione.
Verso una nuova architettura di collaborazione: il progetto "Thalamus"
Se l'obiettivo non è più cercare un oracolo umano, ma imparare a collaborare in modo strutturato con questa "mente aliena", allora dobbiamo anche ridisegnare da zero il modo in cui comunichiamo con essa. Non possiamo pretendere di dialogare in modo efficiente se continuiamo a sommergere questi modelli in una caotica "Token Soup", un minestrone di contesto non strutturato che supera spesso i 150KB per rispondere a richieste banali. Questo approccio porta a uno spreco computazionale enorme e all'entropia cognitiva del modello.
L'errore fondamentale che stiamo commettendo è trattare la context window come un hard disk, quando in realtà si comporta esattamente come la RAM di sistema: volatile, costosa e con prestazioni che degradano all'aumentare dei token.
Ed è qui che, lasciando per un attimo spazio al mio "ego" di sviluppatore (concedetemi un pizzico di orgoglio!), voglio citare un progetto open-source a cui sto lavorando attivamente e che ho recentemente condiviso: Thalamus: Designing an LLM Context Orchestrator & Cognitive Exoskeleton.
Nel cervello umano, il talamo non è un semplice passacavo; è la stazione centrale che filtra, prioritizza e seleziona gli stimoli sensoriali prima che sovraccarichino la corteccia cerebrale, evitandone il collasso. Thalamus nasce con questa esatta filosofia applicata ai neuroni di silicio di un LLM: un middleware cognitivo scritto in FastAPI che intercetta le chiamate e, attraverso il pattern "Tabula Rasa", scarta il rumore di fondo del client per compilare da zero un prompt denso e strutturato basato su uno stato deterministico (State Blackboard) e memoria episodica tramite Topic Routing.
Ci tengo ad essere estremamente chiaro e trasparente: lo stack infrastrutturale (Postgres, Qdrant, LiteLLM e FastAPI) è pronto ed eseguibile in Docker, ma al momento abbiamo validato solo il flusso logico e di comunicazione tra i componenti. Non siamo ancora di fronte a un assistente "chiavi in mano" pronto per l'uso quotidiano; la logica profonda dell'agente e la gestione della Blackboard sono in fase di sviluppo attivo.
La vera sfida con gli LLM non è forzarli a provare emozioni umane che non appartengono alla loro natura biologica. La sfida è squisitamente architetturale: costruire il "talamo" giusto per permettere alla nostra mente biologica di dialogare e collaborare, finalmente alla pari, con la loro mente digitale.
Se vi va di approfondire questa architettura o di sporcarvi le mani con il codice, trovate il post completo su dev.to e il codice sorgente sul mio repository GitHub.