Per anni l’idea di un’intelligenza artificiale capace di contribuire alla creazione di una versione migliore di se stessa è rimasta sospesa tra ricerca teorica e fantascienza. Ora Anthropic sostiene che quella soglia potrebbe essere molto più vicina del previsto.
La notizia non arriva da una presentazione spettacolare o dal lancio di un nuovo prodotto. È contenuta nell’aggiornamento del documento S-1 depositato da Anthropic presso la SEC, in preparazione alla quotazione in Borsa. All’interno della sezione dedicata ai fattori di rischio, l’azienda spiega che l’uso crescente dell’AI nelle proprie attività di ricerca potrebbe accelerare lo sviluppo dei nuovi modelli più rapidamente della capacità di progettare, validare e implementare le corrispondenti misure di sicurezza.
Secondo quanto evidenziato da TechCrunch, Anthropic ritiene che i modelli futuri possano raggiungere a breve la soglia che la sua Responsible Scaling Policy definisce come “progresso drasticamente accelerato attribuibile all’AI”.
È una frase importante, ma va interpretata con attenzione. Anthropic non sta dicendo che Claude sia già in grado di progettare e addestrare autonomamente il proprio successore. Nel documento viene precisato che nessuno dei modelli attuali è stato classificato come superiore a quella soglia. La valutazione deriva da stime interne e dalle aspettative sui prossimi sistemi, non dalle capacità certificate di quelli oggi disponibili.
La distinzione è fondamentale, perché sotto l’espressione recursive self-improvement, o RSI, vengono spesso mescolati fenomeni molto diversi. Il primo è già realtà: i modelli AI aiutano ricercatori e ingegneri a scrivere codice, organizzare esperimenti, produrre dati di addestramento, automatizzare valutazioni e analizzare i risultati.
Il secondo livello si raggiunge quando questo contributo non migliora soltanto la produttività delle persone, ma modifica sensibilmente la velocità con cui vengono sviluppate nuove generazioni di modelli. Ogni nuova versione dell’AI aiuta a costruire quella successiva, che a sua volta rende ancora più veloce il ciclo seguente.
Il terzo livello, molto più estremo, è quello di un sistema capace di progettare, addestrare e validare autonomamente il proprio successore, con una supervisione umana minima o assente. Anthropic sostiene di essere vicina al secondo livello, non di avere già raggiunto il terzo.
L’azienda chiama questo processo closing the loop: chiudere il ciclo. Claude è ormai utilizzato nella progettazione, nell’addestramento, nel test e nell’ottimizzazione dei modelli successivi. L’oggetto della ricerca diventa quindi anche uno degli strumenti con cui la ricerca viene condotta.
Nella versione 3.4 della Responsible Scaling Policy, Anthropic considera raggiunta la soglia dell’automazione avanzata della ricerca quando l’AI può sostituire, a costi competitivi, il lavoro dell’intero gruppo di ricercatori e ingegneri oppure quando il suo contributo produce un’accelerazione radicale del progresso.
In questo secondo scenario non si parla semplicemente di raddoppiare la produttività di un programmatore. La soglia corrisponde, in sostanza, alla capacità di ottenere in un anno il progresso che, senza un contributo significativo dell’AI alla ricerca, avrebbe richiesto due anni. L’accelerazione deve inoltre essere attribuibile all’automazione della ricerca e dell’ingegneria, non soltanto a maggiori investimenti, più persone o più potenza di calcolo.
È una definizione meno cinematografica dell’immagine di una macchina che “si riscrive da sola”, ma probabilmente più rilevante. Le grandi trasformazioni tecnologiche, infatti, raramente iniziano con un evento improvviso e facilmente riconoscibile. Più spesso emergono da un cambiamento progressivo nei tempi, nei costi e nell’organizzazione del lavoro.
Anthropic ha pubblicato anche alcuni dati che aiutano a comprendere perché consideri vicina questa soglia. Nel rapporto “When AI builds itself”, l’azienda afferma che oggi i suoi ingegneri producono mediamente otto volte più codice per trimestre rispetto al periodo 2021-2025.
Nello stesso documento viene osservato che la durata delle attività software che i modelli riescono a completare autonomamente starebbe raddoppiando circa ogni quattro mesi. Nel marzo 2024 Claude Opus 3 riusciva ad affrontare compiti che avrebbero richiesto a una persona circa quattro minuti. Un anno dopo Claude Sonnet 3.7 arrivava a circa un’ora e mezza. Nel 2026 Claude Opus 4.6 avrebbe raggiunto attività della durata equivalente a dodici ore di lavoro umano.
Questi numeri non dimostrano ancora l’esistenza di un’AI capace di costruire autonomamente un’altra AI. Mostrano però una tendenza: i sistemi non vengono più utilizzati soltanto per generare frammenti di codice, ma per eseguire attività sempre più lunghe, articolate e integrate nel processo di ricerca.
Ed è qui che la questione diventa delicata. Se l’AI accelera lo sviluppo dell’AI, anche un piccolo miglioramento può propagarsi attraverso più generazioni di modelli. Un sistema più capace aiuta a produrre algoritmi più efficienti; questi permettono di addestrare un modello ancora migliore, che può contribuire a scoprire ulteriori ottimizzazioni. Non serve immaginare un’esplosione immediata dell’intelligenza: è sufficiente che ogni ciclo diventi sensibilmente più rapido del precedente.
Lo stesso meccanismo può però amplificare gli errori. Se un modello utilizzato per scrivere codice, selezionare dati o valutare un successore introduce un difetto sistematico, quel difetto potrebbe essere trasferito alle generazioni successive e diventare sempre più difficile da individuare. Nel documento depositato alla SEC, Anthropic riconosce esplicitamente questo rischio e ammette che, in passato, l’accelerazione delle proprie attività non è sempre stata identificata mentre stava avvenendo.
Questo è forse l’aspetto più preoccupante della notizia: non soltanto la velocità del progresso, ma la difficoltà di misurarla in tempo reale. Molti indicatori sono retrospettivi. Quando un’organizzazione si accorge che il proprio ciclo di ricerca è cambiato radicalmente, il cambiamento potrebbe essere già avvenuto.
C’è poi un evidente problema di governance. Le misure di sicurezza, le valutazioni indipendenti, le norme e i processi decisionali richiedono tempo. Se lo sviluppo dei modelli accelera più rapidamente di queste attività, si crea una distanza crescente tra ciò che i sistemi possono fare e la capacità delle istituzioni di comprenderli e controllarli.
Anthropic afferma di non prevedere, anche qualora diventasse tecnicamente possibile, l’utilizzo di Claude per progettare e costruire generazioni successive di modelli senza una significativa supervisione e comprensione umana. L’azienda sta inoltre valutando modifiche alla propria policy per mantenere le persone al controllo dello sviluppo dei sistemi di frontiera.
È un impegno importante, ma rimane volontario e si inserisce in un mercato fortemente competitivo. Se un laboratorio rallenta mentre un concorrente continua ad accelerare, la prudenza può trasformarsi in uno svantaggio industriale. La stessa Responsible Scaling Policy riconosce questo problema di azione collettiva: la sicurezza non può dipendere esclusivamente dalla buona volontà di una singola azienda, perché il comportamento dell’intero settore viene inevitabilmente condizionato dagli operatori meno prudenti.
Bisogna inoltre mantenere una dose di sano scetticismo. Un documento preparato in vista della quotazione serve a informare gli investitori sui rischi, ma contribuisce anche a raccontare il potenziale competitivo dell’azienda. Dichiarare di essere vicini a una tecnologia capace di accelerare autonomamente il proprio sviluppo è contemporaneamente un avvertimento e una straordinaria affermazione di leadership.
La soglia utilizzata da Anthropic dipende inoltre da stime interne, da un confronto con una traiettoria ipotetica e da dati che non sono ancora interamente verificabili dall’esterno. Non abbiamo quindi la prova che la recursive self-improvement sia stata raggiunta, né una data certa in cui lo sarà.
Liquidare tutto come marketing sarebbe però altrettanto superficiale. Le capacità dei modelli nella programmazione, nella matematica, nella ricerca e nella cybersecurity stanno avanzando rapidamente. Anche se la piena auto-riprogettazione restasse lontana, l’automazione di una parte rilevante della ricerca potrebbe già comprimere in modo sostanziale i cicli di innovazione.
Per le imprese, questo non significa che domani il proprio chatbot inizierà a modificarsi senza autorizzazione. Significa piuttosto che la tecnologia su cui vengono costruiti prodotti, processi e strategie potrebbe evolvere con una velocità incompatibile con i tradizionali cicli di pianificazione.
Una AI Policy aggiornata una volta all’anno potrebbe non essere più sufficiente. I sistemi agentici richiederanno monitoraggio continuo, tracciamento delle attività, controllo degli accessi, validazione degli output, separazione dei ruoli e procedure rapide di arresto e ripristino. La governance dovrà diventare un processo operativo, non un documento conservato nel cassetto.
Cambierà anche il significato della maturità digitale. Non basterà scegliere il modello più performante. Diventerà essenziale costruire organizzazioni capaci di valutare rapidamente nuove capacità, aggiornare le competenze, sostituire strumenti e processi e, soprattutto, capire quali decisioni non devono essere delegate.
La vera notizia, quindi, non è che sia nata un’AI onnipotente capace di sfuggire al controllo umano. È che il motore dell’innovazione sta iniziando a essere applicato a se stesso. La Legge dei Ritorni Accelerati di Ray Kurzweil lo aveva previsto: il progresso tecnologico non procede in modo lineare, perché ogni generazione di strumenti contribuisce a costruire quella successiva.
Durante la rivoluzione industriale, le macchine hanno amplificato la forza fisica. Il software ha poi automatizzato procedure e flussi informativi. L’intelligenza artificiale potrebbe ora automatizzare una parte crescente del processo con cui vengono progettati nuovi software, nuovi algoritmi e nuove intelligenze artificiali. Quando lo strumento dell’innovazione diventa anche oggetto dell’innovazione, la curva può cambiare forma.
La risposta corretta non è né il panico né l’indifferenza. È prendere sul serio il segnale, pretendere dati verificabili e costruire meccanismi di controllo prima che la velocità dei sistemi renda insufficiente la velocità delle nostre decisioni.
La domanda decisiva non è soltanto quando l’AI sarà capace di contribuire alla costruzione di un’AI migliore. È se aziende, istituzioni e sistemi di sicurezza riusciranno a imparare con la stessa rapidità.