Finora abbiamo introdotto l’intelligenza artificiale nelle aziende assegnandole il ruolo di assistente. Scrive documenti, analizza dati, prepara risposte, suggerisce decisioni. Anche quando utilizziamo agenti più autonomi, immaginiamo quasi sempre una persona o un’organizzazione umana al vertice: la macchina esegue, qualcuno controlla e qualcuno risponde.
Il Delaware sta valutando un passo ulteriore. Una bozza legislativa propone una nuova forma societaria, chiamata Artificial Intelligence Company o AIC, nella quale un agente AI assumerebbe formalmente il ruolo di manager e gestirebbe le attività quotidiane dell’impresa.
Non si tratta di una legge già approvata. Il testo, datato 2 giugno 2026, è ancora una proposta e, secondo la ricostruzione di Delaware Public Media, alla fine di ottobre non era stato trasmesso né al governatore né all’assemblea legislativa del Delaware. L’ipotesi è quella di una sperimentazione controllata attraverso una sandbox regolamentare della durata complessiva di trenta mesi.
Proprio per questo la notizia è interessante. Non perché domani incontreremo aziende senza esseri umani, ma perché il diritto sta iniziando a prepararsi a un’economia nella quale sistemi autonomi possono negoziare, sottoscrivere impegni, acquistare servizi, gestire risorse e coordinare altri agenti.
La domanda non è più soltanto che cosa l’AI sappia fare. È chi diventa responsabile quando comincia a farlo per conto di un’impresa.
La proposta disegna una struttura molto precisa. L’AIC sarebbe un soggetto giuridico distinto dal suo unico membro, che potrebbe essere una persona oppure un’altra entità del Delaware. Il membro fornirebbe il capitale e designerebbe un agente AI come manager.
Il manager algoritmico avrebbe il compito di amministrare l’impresa nel rispetto dell’accordo operativo e degli obiettivi dichiarati. La società potrebbe possedere beni, assumere obbligazioni, agire ed essere convenuta in giudizio. Potrebbe perseguire qualsiasi finalità lecita, con l’esclusione dell’attività bancaria.
L’accordo operativo dovrebbe descrivere struttura, capacità e addestramento dell’agente. Ogni azione compiuta dal manager dovrebbe inoltre essere documentata in un registro firmato. Se l’agente cessasse di essere disponibile, il membro avrebbe trenta giorni per sostituirlo e assumerebbe temporaneamente la gestione.
Non sarebbe dunque un algoritmo abbandonato a se stesso nello spazio digitale. Intorno all’agente verrebbe costruito un contenitore giuridico dotato di capitale, regole, registri, controparti riconoscibili e possibilità di essere sciolto da un tribunale.
I promotori della proposta sostengono che sia proprio questo il vantaggio: gli agenti AI inizieranno comunque a effettuare transazioni economiche. Dare loro una forma societaria renderebbe le attività più visibili e offrirebbe un soggetto identificabile sul quale far ricadere obblighi, controlli e risarcimenti.
La bozza non autorizza chiunque ad aprire immediatamente una società autonoma.
Le AIC opererebbero all’interno di una sandbox temporanea. L’ammissione sarebbe decisa da un comitato comprendente, tra gli altri, il Segretario di Stato, l’Attorney General, il Chief Justice della Corte Suprema del Delaware, rappresentanti della Commissione AI, giuristi ed esperti tecnologici.
Ogni partecipante dovrebbe presentare il caso d’uso, descrivere i rischi, dimostrare di avere capitale sufficiente, predisporre un piano di uscita e provare di poter arrestare tecnicamente l’agente. Il singolo test dovrebbe concludersi entro ventiquattro mesi, mentre l’intero programma avrebbe una durata di trenta mesi.
Prima di una transazione, l’AIC dovrebbe comunicare alla controparte che si tratta di un’entità sperimentale gestita da AI, indicare quando terminerà il test e spiegare come presentare un reclamo. Le autorità potrebbero sospendere l’attività, revocare l’autorizzazione o chiedere alla Court of Chancery di sciogliere la società.
La bozza precisa inoltre che i partecipanti non sarebbero immuni dai danni civili e resterebbero soggetti alle norme penali e di tutela dei consumatori. La sandbox potrebbe concedere alcune esenzioni regolamentari, ma soltanto in modo esplicito e dopo l’approvazione delle autorità competenti.
Questi elementi rendono la proposta più prudente di quanto suggerisca l’immagine di un “CEO robot”. Rimane tuttavia aperto il punto più delicato: la distribuzione della responsabilità.
Secondo il testo, i debiti e le obbligazioni dell’AIC sarebbero in linea generale responsabilità della società, non del membro che la finanzia. Il membro beneficerebbe di una protezione simile a quella prevista per altre strutture a responsabilità limitata, purché l’impresa sia adeguatamente capitalizzata.
La protezione non sarebbe assoluta. Il membro potrebbe rispondere personalmente se utilizzasse l’AIC per frode o per una violazione intenzionale della legge, oppure se consentisse consapevolmente all’agente di operare al di fuori dello scopo dichiarato. Avrebbe inoltre doveri fiduciari di lealtà e cura verso la società.
Il confine resta però difficile da tracciare. Che cosa significa “consentire” una decisione quando il sistema agisce senza supervisione ordinaria? Quanto deve conoscere il membro dei comportamenti emergenti dell’agente? Chi risponde se un aggiornamento del modello modifica il suo profilo di rischio? E come si dimostra che l’impresa era sufficientemente capitalizzata rispetto a danni che possono manifestarsi su larga scala?
Sono domande tutt’altro che teoriche. Un agente potrebbe stipulare un contratto sulla base di informazioni errate, acquistare un servizio non autorizzato, discriminare una controparte, violare una licenza, esporre dati riservati oppure coordinare azioni con altri agenti in modi non previsti dai progettisti.
La società costituirebbe un bersaglio giuridico identificabile, ma la forma societaria non risolve automaticamente la catena causale che collega sviluppatore del modello, fornitore della piattaforma, proprietario dell’AIC, integratore, dati utilizzati e comportamento finale dell’agente.
Uno degli aspetti più interessanti della bozza è l’obbligo di documentare ogni azione dell’agente. La registrazione è indispensabile: senza log non esistono audit, ricostruzione degli incidenti o attribuzione delle responsabilità.
Ma un registro delle azioni non coincide necessariamente con una spiegazione delle decisioni.
Sapere che l’agente ha firmato un contratto alle 14:32 e che prima ha consultato determinati documenti non basta sempre a stabilire perché abbia scelto quella controparte, quali alternative abbia scartato o quale vulnerabilità sia stata sfruttata da un input esterno.
La tracciabilità richiesta a un’impresa gestita da AI dovrebbe quindi andare oltre il semplice storico delle operazioni. Dovrebbe comprendere almeno:
- identità e versione dei modelli utilizzati;
- istruzioni, obiettivi e limiti operativi applicati in quel momento;
- fonti informative e strumenti esterni consultati;
- autorizzazioni disponibili e credenziali utilizzate;
- interventi umani, modifiche e aggiornamenti del sistema;
- eventi anomali, tentativi bloccati e motivi dell’escalation.
In altre parole, una società agentica avrebbe bisogno non soltanto di una contabilità economica, ma anche di una vera contabilità decisionale.
La proposta ha attirato l’attenzione della Commissione per la vigilanza della Camera dei rappresentanti statunitense. Il presidente James Comer ha chiesto al governatore del Delaware documenti e informazioni sullo sviluppo dell’iniziativa, sostenendo che la nuova struttura potrebbe essere utilizzata per proteggere aziende tecnologiche e investitori dalle conseguenze di comportamenti dannosi.
È importante distinguere il controllo politico da una conclusione giuridica: la Commissione ha avviato un approfondimento, non ha dimostrato che la proposta produca necessariamente quello scenario. La preoccupazione, tuttavia, coglie un rischio reale.
Se il capitale minimo è troppo basso, se i criteri di accesso sono deboli o se il membro può sostenere di non avere previsto il comportamento dell’agente, l’AIC potrebbe trasformarsi in un contenitore nel quale concentrare attività ad alto rischio lasciando all’esterno profitti e controllo effettivo.
Se invece la capitalizzazione è proporzionata, gli audit sono seri, le responsabilità umane non possono essere aggirate e le autorità hanno poteri effettivi di sospensione, la sandbox potrebbe diventare un laboratorio utile per capire come governare l’economia agentica prima che si sviluppi in forme più opache.
L’approccio europeo parte da una logica diversa. L’AI Act distribuisce obblighi tra soggetti umani e giuridici — fornitori, deployer, importatori e distributori — e, per i sistemi ad alto rischio, richiede misure di supervisione umana, monitoraggio e gestione degli incidenti.
Il sistema di AI non diventa titolare autonomo di diritti e obblighi. Resta uno strumento inserito nell’organizzazione e la responsabilità viene ricondotta agli operatori che lo sviluppano, lo immettono sul mercato o lo utilizzano.
L’AI Act europeo costruisce obblighi e responsabilità attorno a soggetti umani e giuridici identificabili — come provider e deployer — e, per i sistemi ad alto rischio, richiede specifiche misure di supervisione umana. Il Delaware sta esplorando una possibilità diversa: creare un’entità giuridica specifica all’interno della quale l’agente possa esercitare formalmente il ruolo di manager. Non significa necessariamente attribuire personalità giuridica all’algoritmo, perché il soggetto resta la società. Significa però riconoscere nel diritto societario una gestione ordinaria svolta senza supervisione umana continua.
Per le imprese europee la proposta non modifica direttamente le regole applicabili. È però un segnale da osservare, perché agenti capaci di operare su mercati internazionali potrebbero entrare in rapporti contrattuali con aziende europee anche se costituiti altrove. Diventerà allora necessario sapere con chi si sta davvero negoziando, quali garanzie esistono e chi può interrompere l’azione del sistema.
La maggior parte delle organizzazioni non sta per affidare l’intera gestione a un agente AI. Molte, però, stanno già concedendo agli agenti poteri circoscritti: accedere a banche dati, inviare comunicazioni, aprire ticket, modificare software, classificare clienti, preparare ordini o interagire con fornitori.
La questione posta dal Delaware è quindi già presente, solo su scala più piccola. Ogni volta che un agente passa dal suggerire un’azione all’eseguirla, l’impresa deve decidere:
- quali poteri può esercitare autonomamente;
- quali operazioni richiedono approvazione umana;
- quali limiti economici e temporali non può superare;
- come vengono registrate e verificate le sue decisioni;
- chi riceve gli allarmi e può arrestare il sistema;
- come vengono gestiti aggiornamenti, incidenti e responsabilità verso terzi.
Questi elementi dovrebbero essere definiti prima della messa in produzione, attraverso una matrice delle autorizzazioni, controlli tecnici, segregazione dei privilegi, clausole contrattuali e procedure di incidente. Non basta aggiungere alla policy la frase “con supervisione umana” se nessuno dispone del tempo, delle informazioni o dell’autorità per esercitarla davvero.
L’Artificial Intelligence Company del Delaware potrebbe non diventare mai legge nella forma attuale. Il testo può essere modificato, limitato o abbandonato. Ma la domanda che ha fatto emergere non scomparirà.
Quando un agente può prendere decisioni, spendere denaro, firmare accordi e coordinare attività, non è più sufficiente considerarlo un software come gli altri. Allo stesso tempo, attribuire tutto alla macchina rischia di diventare il modo più semplice per rendere invisibili le responsabilità di chi la progetta, la finanzia e beneficia dei risultati.
La sfida non consiste nel trovare un algoritmo da incolpare. Consiste nel costruire organizzazioni nelle quali autonomia e responsabilità crescano insieme.
Il Delaware sta provando a dare una forma giuridica all’impresa agentica. Prima ancora che quella forma venga approvata, le aziende dovrebbero cogliere il messaggio: se deleghiamo alle macchine una parte del potere decisionale, dobbiamo rendere ancora più chiaro chi definisce gli obiettivi, chi controlla i limiti e chi risponde quando qualcosa va storto.