Un’altra rivoluzione digitale? Sì.

Ascolta la versione audio di questo articolo (generata da IA).

Un documento di ricerca di UC Berkeley propone un’idea che, a prima vista, sembra un gioco di analogie e invece tocca un limite concreto dei modelli linguistici: trattare i large language models , LLM, come se fossero sistemi operativi. Non per sostituire Windows, ma per fare con il contesto quello che un OS fa da decenni con la memoria: dare l’illusione di una risorsa illimitata spostando i dati tra un livello veloce e piccolo e uno lento e grande.

Il problema è noto. Un LLM ragiona solo su ciò che sta nella finestra di contesto. Tutto il resto sparisce. Conversazioni lunghe, documenti voluminosi, preferenze che emergono settimana dopo settimana: il modello “dimentica” non perché sia stupido, ma perché la RAM del prompt è finita. Allargare la finestra aiuta, ma costa, e non risolve da sola la gestione intelligente di ciò che merita di restare in primo piano.

L’analogia che conta

Un sistema operativo classico non pretende di tenere tutto in RAM. Ha memoria primaria (veloce, scarsa) e secondaria (disco: lenta, abbondante). Crea una memoria virtuale e fa paging: porta in RAM ciò che serve ora, scarica sul disco ciò che può aspettare. MemGPT — Memory-GPT, Packer, Wooders, Lin, Fang, Patil, Stoica, Gonzalez — applica lo stesso schema al linguaggio.

Il contesto principale è la RAM: ciò che il modello vede davvero a ogni inferenza — istruzioni di sistema, memoria “core” (chi è l’utente, chi è l’agente), riassunto recente, ultimi messaggi. Il contesto esterno è il disco: cronologia completa (recall memory) e archivio a lungo termine, spesso un database vettoriale (archival memory). L’agente non subisce il taglio della finestra: decide, con tool call, cosa evincere, cosa riassumere, cosa cercare e riportare in contesto. Interrompe il flusso quando serve un recupero; può concatenare più passi di gestione memoria prima di rispondere all’utente.

Come funziona, in pratica

Finestra principale attiva per il turno in corso (es. qualche migliaio di token, o quanto offre il modello).

Memoria core modificabile dall’agente: persona, fatti sull’utente, preferenze.
Recall e archival all’esterno: cronologia e fatti che non stanno nel prompt.
Paging e interrupt: l’LLM chiede di cercare, scrivere, evincere; può fare più passi prima di parlare all’utente.

Non è solo “più un token”. È un agente che scrive la propria memoria. Aggiorna le preferenze appena le scopre. Riflette su interazioni passate. Tiene una persona che evolve. Nei test originali l’architettura è stata provata su due terreni dove la finestra fissa fallisce in modo evidente: analisi di documenti più lunghi del contesto del modello sottostante, e chat multi-sessione in cui l’assistente deve ricordare, rielaborare e cambiare nel tempo. Il prototipo usava le API GPT e storage esterno; il codice è stato rilasciato e il progetto open source è poi confluito in Letta, con l’idea di “LLM OS” come strato sopra il modello, non come sostituto del modello.

Limiti e perché tenerlo d’occhio

Restano limiti seri. Il paging è un’illusione utile, non magia: retrieval sbagliato, riassunti che perdono un dettaglio, costi di tool call, dipendenza dalla qualità del modello base. Una finestra da un milione di token riduce la pressione, ma non elimina la domanda di cosa tenere vicino e cosa archiviare. MemGPT non è l’unico tentativo successivo; è però uno dei primi a rendere esplicita l’analogia e a far gestire la gerarchia all’LLM stesso.

Trattare i modelli come sistemi operativi può sembrare una metafora da laboratorio. Spesso i salti pratici partono così: un’idea che rende gestibile un vincolo che tutti davano per immutabile. Se gli assistenti dovranno vivere mesi con noi, non basterà una finestra più larga. Servirà qualcuno — o qualcosa — che decida cosa merita di stare in RAM.

Parliamo tanto di I.A. , ma in verita’ non e’ stata ancora rilasciata, solo in piccola parte. Gli unici ad usare, e con molta cautela per non farla “uscire dai binari”, sono solo due: I vertici militari del Ministero della Difesa USA, e I vertici militari cinesi. Vedremo cosa succede nei prossimi mesi, anni. Sogni d’oro.