Un intero aereo progettato da agenti di intelligenza artificiale: William Roper, cofondatore e amministratore delegato di Istari Digital, pensa che potremmo vederlo già l’anno prossimo. Ma per fidarsi del risultato serve una condizione: «controlli indipendenti, esterni al modello», che verifichino il lavoro senza lasciare all’AI il compito di certificare sé stessa. «Un sistema non può essere il controllore di sé stesso», dice in questa intervista esclusiva al Corriere, raccolta in occasione del Global SOF European Symposium, l’incontro internazionale dedicato alle forze speciali che riunisce militari, rappresentanti dei governi e imprese della difesa, tenutosi a Roma dal 6 all’8 ottobre.
(Here, you can find the english version of this interview)
«Blue Origin ha utilizzato gli agenti e i meccanismi di controllo che la mia azienda contribuisce a mettere in opera per far progettare all’AI una batteria destinata alla Luna. L’intero processo, dai requisiti alla progettazione, dalle simulazioni fino alla produzione, era controllato dall’intelligenza artificiale. Ma è altrettanto significativo che ogni passaggio, ogni dato e ogni test fossero verificabili in modo indipendente, al di fuori del sistema AI. Questo ha consentito ai responsabili della conformità e ai legali di Blue Origin di accertare che il lavoro rispettasse i loro requisiti di sicurezza e integrazione e tutti gli standard aziendali richiesti», afferma Roper. Però rispettare le procedure «non garantisce che il lavoro svolto dall’AI sia corretto, ma solo che sia conforme alle regole». In altre parole, «pur rispettando i paletti, l’AI può produrre un risultato sbagliato», precisa.
Già responsabile delle acquisizioni dell’aeronautica militare americana Group Captain onorario della Royal Air Force britannica, Roper ha cofondato Istari Digital nel 2022 per consentire alle aziende di progettare sistemi complessi e collaborare mantenendo il controllo dei dati e della proprietà intellettuale. Tra i primi investitori figura l’ex numero uno di Google Eric Schmidt, la società lavora con l’aeronautica americana e gruppi come Blue Origin e Lockheed Martin.
Che cosa cambia con l’AI agentica?
«Gli agenti sono in grado di coordinare numerose attività e svolgerle molto più velocemente delle persone. Alcune aziende con cui lavoro progettano in giorni sistemi che prima richiedevano anni o mesi. Il rischio di usare gli agenti è che anche l’AI fa errori, per questo bisogna costruire sistemi di verifica che garantiscano un risultato sicuro e verificabile. Se costruiremo una AI factory in modo corretto, il prompt – cioè l’istruzione impartita all’AI - diventerà il prodotto. Ma prima di usare i superpoteri dell’AI, abbiamo bisogno di guard rail, meccanismi di controllo che ci assicurino che gli agenti abbiano svolto un lavoro sicuro e responsabile».
Cos’è l’AI factory di cui parla?
«Una fabbrica digitale è un modello mentale che uso per applicare il controllo di qualità all’ingegneria. In uno stabilimento che costruisce aerei, ogni passaggio è organizzato e verificato: i lavoratori non scelgono liberamente gli strumenti e le procedure e non certificano da soli il proprio lavoro. All’AI serve la stessa struttura: dati selezionati, test definiti indipendentemente e un sistema esterno di controllo della qualità».
Se gli agenti progettano, quale lavoro resta agli ingegneri?
«Le persone passeranno sempre più dall’esecuzione alla supervisione. Nella musica, l’artista registra il contenuto, ma prima di pubblicare un brano serve il lavoro del produttore. Con l’AI usciremo dalla sala di registrazione, perché siamo troppo lenti, ma conserveremo il compito di verificare la qualità del risultato. Non rinunciamo agli ingegneri: assegniamo loro un lavoro diverso. Nell’era dell’ingegneria agentica potremmo persino avere più lavoro di oggi, perché costruire questi controlli è difficile. Basta sbagliare un passaggio per fidarsi di un risultato che non dovremmo accettare».
Dovrà cambiare anche l’istruzione?
«Insegno al Georgia Tech e questo è un tema su cui rifletto spesso. Non ci sarà un solo aspetto della società che resterà estraneo a questa trasformazione. Con Internet abbiamo imparato a lavorare diversamente e a non credere a tutto ciò che troviamo online. Impareremo anche a non fidarci di tutto ciò che dice l’AI, ma avremo sempre più strumenti per renderne i risultati più affidabili. Le incognite sono quanto rapidamente accadrà, quanto costerà e quante persone serviranno».
Che cosa consiglierebbe di studiare a sua figlia?
«Ha cinque anni. Penso che qualunque professione sarà profondamente riscritta dall’AI. Le direi di partire da ciò che la appassiona e poi di immaginarne il futuro attraverso l’intelligenza artificiale».
Quanto pesano i costi sulla diffusione degli agenti?
«Sono un ostacolo per le piccole imprese, ma vediamo un grande impegno per ridurli. Le aziende stanno formando i dipendenti perché non utilizzino modelli più costosi di quanto richieda il compito. Non so quando usare l’AI per alcune attività costerà quanto utilizzare un motore di ricerca, ma penso che arriveremo a quel punto. Serviranno potenza, efficienza, controlli per rendere l’AI affidabile e formazione».
Se un prodotto progettato dall’AI causa un danno, chi ne risponde?
«L’azienda che realizza il prodotto è responsabile. Dobbiamo garantire che i dati utilizzati siano stati selezionati da persone e non inventati dall’AI. I requisiti devono tradursi in test dall’esito inequivocabile: superati oppure no. Questi test devono essere esterni al modello. L’AI non può autocertificare di avere lavorato correttamente».
Come valuta gli inviti a rallentare lo sviluppo dei modelli più potenti?
«I rischi ci spingono a concentrarci ancora di più sui controlli. Quanto più possiamo fidarci di questi sistemi, tanto più possiamo avanzare nella ricerca. Le tecnologie che accrescono le capacità dell’AI sono progredite molto più velocemente di quelle che permettono di fidarsi dei risultati. Perciò dobbiamo dare maggiore peso a queste ultime».
Chi vincerà la gara dell’AI fra Stati Uniti e Cina?
«L’AI sarà un nuovo settore di competizione tra i due Paesi. Non sarà una singola scoperta a decidere chi prevarrà: servirà un’innovazione continua. Ogni Paese sta cercando le politiche con cui incoraggiare le imprese senza soffocarle, garantendo sicurezza e accompagnando il cambiamento sociale. Queste politiche saranno continuamente discusse e riscritte».
È possibile una governance globale?
«Internet è un sistema globale, ma nessuno lo dirige. Funziona attraverso standard condivisi perché esiste un incentivo a seguirli. Qualcosa di simile potrebbe essere possibile per l’AI, se adottare standard comuni aprisse opportunità di collaborazione. Non so se Internet sarà un’analogia perfetta, ma mi dà speranza».
Che cosa potranno fare gli agenti l’anno prossimo rispetto a oggi?
«Penso che potranno progettare sistemi complessi come gli aerei. Potremmo vedere squadre di agenti che lavorano senza fermarsi mai, perché interrompere i loro cicli di innovazione potrebbe diventare un rischio che un’azienda non può tollerare. Ma so che qualsiasi previsione sull’AI finirà per essere sbagliata. Un anno fa gli agenti erano strumenti solo per esperti; ora diventano accessibili a chiunque. Mi aspetto un salto analogo nella complessità degli impieghi».
E cosa possiamo aspettarci fra cinque anni?
«Nessuno lo sa. Attualmente le prestazioni dei modelli raddoppiano ogni 7 mesi. Nessuna tecnologia lo ha mai fatto prima».
L’Europa vuole costruire data center sul proprio territorio e mantenere il controllo dei propri dati. Come si garantisce questa sovranità?
«Ho sentito che anche molte banche stanno tornando a gestire i data center al proprio interno. La mia azienda costruisce proprio infrastrutture per la sovranità dei dati. Per capire come funzionano, bisogna tornare agli anni Ottanta, quando Internet si sviluppava attraverso protocolli di comunicazione tra sistemi, anziché attraverso piattaforme centralizzate nel cloud. Pensiamo alla posta elettronica: possiamo scambiarci messaggi con chiunque, su sistemi informatici e dispositivi diversi. Ogni soggetto controlla la propria casella, ma tutti i sistemi possono comunicare tra loro.
Noi facciamo un passo ulteriore. Quando inviamo dati via e-mail, ne cediamo una parte del controllo. L’alternativa è consentire l’accesso ai dati nel luogo in cui sono conservati, senza che vengano copiati e archiviati nei sistemi di qualcun altro.
Nell’industria aerospaziale abbiamo già permesso ad aziende che non vogliono cedere la propria proprietà intellettuale di collaborare proteggendola. Lo abbiamo fatto anche tra imprese e governo americano: ciascuno mantiene il controllo dei propri dati. Lo stesso principio vale quando i clienti trasformano quei dati in modelli di intelligenza artificiale: possono collaborare dove lo ritengono opportuno, senza cedere informazioni che vogliono tenere per sé. Per questo sono fiducioso: credo che il problema della sovranità abbia già una soluzione, anche se oggi non fa notizia».
Serve quindi un data center dentro l’azienda o nel proprio Paese?
«Ognuno dovrebbe poter scegliere dove conservare dati, software e modelli, all’interno dei propri sistemi informatici e sotto il proprio controllo. Ma questa scelta non dovrebbe limitare la possibilità di farli interagire e di collaborare con altri. Si deve poter collaborare senza rinunciare alla sovranità sui dati. Nell’aerospazio e nella difesa le aziende lo fanno già con proprietà intellettuale sensibile, anche tra diversi livelli di classificazione, senza mettere a rischio i dati. Ci vorrà tempo perché questo modello si diffonda, ma settori come l’aerospazio hanno già intrapreso questa strada. Mi aspetto che le stesse tecnologie di tutela della riservatezza si estendano ad altri settori e anche all’Europa».
Che cosa la preoccupa dell’AI e che cosa le dà fiducia?
«Ci sono molte cose di cui avere paura e io stesso ne ho: non siamo mai stati particolarmente bravi a gestire l’impatto sociale delle nuove tecnologie. Ma questa tecnologia, a differenza delle altre, può davvero risolvere i problemi più complessi della società, se ci meriteremo il diritto di usarla per farlo. Mi aspetto che commetteremo più errori del necessario. Ma vedo un potenziale straordinario nell’energia e nella medicina, come mai prima d’ora. Perciò resto ottimista: penso che ci sia abbastanza saggezza collettiva nel mondo per costruire un sistema di misure di sicurezza che, sebbene imperfetto, presenti un livello di rischio accettabile, in modo da poter incoraggiare l’innovazione dentro quei limiti, poiché potremo fidarci dei risultati da essa generati. E questo ci consentirà di affrontare alcune delle sfide più ardue della società».
Tra i primi sostenitori finanziari di Istari Digital figura anche l’ex amministratore delegato di Google, Eric Schmidt. È soltanto un investitore?
«Eric e io abbiamo lavorato insieme al Pentagono. Da lui ho imparato molto su ciò che le forze armate americane dovevano fare per acquisire competenze nel software. Quell’esperienza mi ha aiutato quando ero responsabile delle acquisizioni dell’aeronautica militare americana. Eric è stato tra i primi sostenitori della nostra azienda: oltre al suo capitale, prezioso per qualsiasi impresa agli inizi, posso contare sui suoi consigli».
12 ottobre 2026, 08:34 - Aggiornata il 12 ottobre 2026 , 08:35
