<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Cappex on Medium]]></title>
        <description><![CDATA[Stories by Cappex on Medium]]></description>
        <link>https://medium.com/@cappex?source=rss-d69e8a564573------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/1*PCwvI7TTLiEadDcUB16wQg.png</url>
            <title>Stories by Cappex on Medium</title>
            <link>https://medium.com/@cappex?source=rss-d69e8a564573------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Sun, 22 Nov 2026 22:46:29 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@cappex/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[NEUS x Phala: Costruire il livello di fiducia per gli agenti IA]]></title>
            <link>https://medium.com/phala-italia/neus-x-phala-costruire-il-livello-di-fiducia-per-gli-agenti-ia-1a52fcf3b76d?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/1a52fcf3b76d</guid>
            <category><![CDATA[cybersecurity]]></category>
            <category><![CDATA[ai]]></category>
            <category><![CDATA[intelligenza-artificiale]]></category>
            <category><![CDATA[confidential-computing]]></category>
            <category><![CDATA[tees]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Wed, 26 Aug 2026 20:50:25 GMT</pubDate>
            <atom:updated>2026-08-26T20:50:25.233Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*unOTrWhEl7LPKbna" /></figure><blockquote>Traduzione dell’originale in lingua inglese: <a href="https://phala.com/posts/neusphalabuildagenttrustlayer">https://phala.com/posts/neusphalabuildagenttrustlayer</a></blockquote><p><em>Casi di studio sull’utilizzo dell’infrastruttura di confidential computing di Phala come fondamento di un livello di evidenze verificabili per sistemi di agenti in produzione.</em></p><h3>Perché questo è importante ora</h3><p>Gli agenti IA non sono più esperimenti. Leggono codice in produzione, chiamano API con credenziali attive e operano sui dati dei clienti. Nel momento in cui un agente effettua quella chiamata, il prompt contenente il codice proprietario, la chiave API e i dati del cliente lascia la macchina dell’utente. Viaggia in chiaro verso un’API del modello. Il fornitore del modello lo vede. Il provider dell’hosting lo vede. La rete lo vede.</p><p>La maggior parte dei team risponde a questo problema con delle policy. «Ci fidiamo del nostro cloud provider». «Ci fidiamo dell’host del modello». «I nostri NDA ci tutelano». Queste risposte funzionavano quando l’IA si limitava a rispondere a domande in un ambiente sandbox. Smettono di funzionare nel momento in cui un agente può effettuare il deploy in produzione, trasferire denaro o leggere cartelle cliniche. Ora i regolatori chiedono chi potrebbe accedere ai dati durante l’elaborazione. I clienti enterprise fanno la stessa domanda. La risposta onesta nella maggior parte dei deployment è: non lo sappiamo e non possiamo nemmeno dimostrarlo in un senso o nell’altro.</p><p>È proprio questo divario che NEUS si è proposta di colmare. E la base su cui ha scelto di costruire è l’infrastruttura TEE di Phala.</p><h3>Il livello mancante</h3><p>Chiunque cerchi di costruire un «livello di fiducia» o un «livello di evidenze» per gli agenti IA si scontra con lo stesso ostacolo. Deve dimostrare tre cose per ogni azione:</p><ol><li><strong>I dati sono stati sigillati durante l’elaborazione.</strong> Non semplicemente «crittografati a riposo e in transito». Devono essere effettivamente sigillati all’interno dell’ambiente di calcolo, dove né l’operatore dell’host né l’operatore del modello possono leggerli.</li><li><strong>Il runtime era autentico.</strong> Il codice che ha elaborato i dati era quello previsto, non modificato, e funzionava su hardware reale. Non «lo abbiamo eseguito su AWS», ma una ricevuta crittografica che indica esattamente cosa è stato eseguito.</li><li><strong>L’agente era autorizzato.</strong> Una persona specifica ha delegato uno specifico ambito di autorità a uno specifico agente, e l’azione rientrava in tale ambito.</li></ol><p>La maggior parte del settore si concentra sul punto (3). Identità, ambiti, ricevute, log di audit. Questa parte è risolvibile via software. I punti (1) e (2) richiedono un’elaborazione garantita dall’hardware, e la maggior parte dei team non vi ha accesso oppure sottovaluta la quantità di lavoro necessaria per costruirla.</p><p>È questo il divario che Phala colma. Non stiamo costruendo noi stessi un livello di evidenze. Siamo l’infrastruttura di base che rende verificabile qualsiasi livello di evidenze.</p><h3>Perché abbiamo costruito Phala in questo modo</h3><p>Phala ha trascorso sei anni lavorando su un unico problema: come fornire a un workload un runtime sigillato, attestato dall’hardware, con chiavi che non lasciano mai un TEE, in un modo che qualsiasi terza parte possa verificare?</p><p>La risposta si basa su due componenti:</p><ul><li><strong>dstack</strong> è il framework TEE open source. Apache 2.0, ospitato dalla Linux Foundation. Chiunque può sottoporlo ad audit, farne un fork ed eseguirlo autonomamente. Gestisce l’attestazione hardware, il provisioning delle chiavi, lo storage crittografato e il modello di deployment nativo Docker Compose.</li><li><strong>Phala Cloud</strong> è il livello gestito che vi si appoggia. Provisioning, scalabilità, monitoraggio, fatturazione. Necessario dal punto di vista operativo, ma escluso crittograficamente dal percorso dei dati. Il control plane di Phala non può leggere la memoria del vostro workload né le sue chiavi di storage.</li></ul><p>Questa separazione è importante. Quando costruite un livello di fiducia su Phala, non dovete semplicemente fidarvi della parola di Phala sul fatto che i vostri dati siano al sicuro. Potete verificarlo. L’attestation quote è firmata dall’hardware Intel TDX. Le misurazioni del sistema operativo corrispondono alla build open source. L’hash del compose collega l’attestazione agli esatti container che avete implementato. Le chiavi KMS vengono derivate all’interno di un altro TEE e rilasciate solo dopo il superamento della verifica.</p><p>Nessuna fiducia nel fornitore. Nessuna fiducia nell’operatore. Nessuna fiducia nell’amministratore dell’host. Verificabile a partire dal silicio.</p><h3>Come NEUS ha costruito su Phala</h3><p>NEUS è uno dei team che utilizza l’infrastruttura di base di Phala per portare sul mercato un prodotto reale. Ciò che hanno costruito si chiama Trust Harness, e vale la pena comprenderlo nel dettaglio perché mostra il modello.</p><p>Quando un agente IA legge il vostro codice in produzione, chiama le vostre API con credenziali attive o accede ai dati dei clienti, il prompt contenente tali informazioni viaggia in chiaro verso un’API del modello. Il fornitore del modello lo vede. Il provider dell’hosting lo vede. La rete lo vede. Voi ottenete una voce nel log di audit che indica che una richiesta è avvenuta. Non ottenete la prova che i dati siano stati sigillati durante l’inferenza o che l’agente che ha effettuato la chiamata fosse autorizzato a farlo.</p><p>NEUS e Phala hanno costruito il trust harness per colmare questo divario. È un runtime cloud per agenti in cui l’inferenza viene eseguita all’interno di hardware sigillato, il runtime è attestato crittograficamente e ogni azione dell’agente è regolata da ricevute firmate, dalla delega all’esecuzione fino alla verifica.</p><h3>I tre livelli</h3><p>Il trust harness combina tre livelli in un’unica pipeline.</p><p><strong>Inferenza sigillata.</strong> Phala fornisce l’infrastruttura di confidential computing. Le chiamate al modello vengono eseguite all’interno di Trusted Execution Environment: enclave GPU NVIDIA H100 e H200 per l’esecuzione del modello, VM confidential Intel TDX per l’orchestrazione e la fase di pre/post-processing. Prompt, chiavi, strumenti e memoria dell’agente sono crittografati in memoria e decrittografati esclusivamente all’interno del perimetro protetto dell’enclave. Il sistema operativo dell’host, il cloud provider e l’operatore del modello non possono leggere il testo in chiaro. L’API di confidential inference di Phala instrada ogni richiesta di inferenza attraverso questo livello confidenziale, così nessuna chiamata dell’agente passa attraverso un endpoint API standard in cui gli input siano visibili.</p><p><strong>Runtime attestato.</strong> Prima che i dati entrino nell’enclave, il sistema di attestazione di Phala genera una prova supportata dall’hardware che dimostra che l’ambiente di runtime è autentico, non modificato e sta eseguendo il codice previsto. Il documento di attestazione associa la misurazione dell’enclave a una specifica piattaforma hardware e a uno specifico hash del software. Qualsiasi terza parte può verificare, senza fidarsi di Phala o del cloud provider, che l’inferenza sia stata eseguita esattamente nell’ambiente dichiarato, sul codice previsto e nel momento in cui la richiesta è stata elaborata. Questa è una prova crittografica dell’integrità del runtime.</p><p><strong>Azione governata.</strong> NEUS si colloca al di sopra della pipeline di inferenza e governa chi può utilizzarla, con quale autorità e entro quale ambito. Quando un team implementa un agente, NEUS emette una trust receipt: un record firmato crittograficamente che associa l’identità dell’agente a un’autorità delegata, a un ambito di azioni consentite e a una serie di vincoli. Ogni chiamata di inferenza effettuata dall’agente attraverso la pipeline viene registrata in relazione a quella ricevuta. Ogni azione porta con sé una catena verificabile di autorità, dalla persona che ha effettuato la delega, passando per l’agente che ha eseguito l’azione, fino al runtime sigillato che l’ha elaborata.</p><p>Potete prendere una ricevuta, verificarne la firma rispetto all’identità che l’ha emessa, confermare i vincoli relativi all’ambito e associarla alla corrispondente attestazione di Phala. Due metà di un’unica prova: i dati non sono mai stati esposti e l’azione era autorizzata.</p><h3>Come si presenta un’azione di un agente dall’inizio alla fine</h3><p>Il trust harness è il runtime: l’ambiente in cui gli agenti risiedono, ricevono attività, chiamano i modelli, eseguono azioni e producono output verificabili. Ecco come una singola azione di un agente attraversa il sistema.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*vVpEnvgQqdR-htsD" /></figure><ol><li><strong>Delega.</strong> Un utente delega l’autorità a un agente emettendo una trust receipt NEUS, firmata, con ambito definito e associata all’identità dell’agente. La ricevuta definisce cosa può fare l’agente, a quali risorse può accedere e per quanto tempo è valida l’autorità.</li><li><strong>Esecuzione dell’attività.</strong> L’agente riceve un’attività, costruisce un prompt e chiama un modello attraverso l’API di confidential inference di Phala, che instrada la richiesta verso un’enclave TEE di Phala.</li><li><strong>Inferenza sigillata.</strong> All’interno dell’enclave, il prompt viene decrittografato, l’inferenza viene eseguita su GPU NVIDIA H100/H200 isolate o su hardware Intel TDX e l’output viene restituito. L’operatore del modello non può vedere l’input. Il cloud provider non può vedere l’input. La memoria dell’enclave viene cancellata dopo la chiamata.</li><li><strong>Attestazione.</strong> Phala genera un’attestazione supportata dall’hardware che dimostra che l’ambiente di runtime era autentico e che il codice non era stato modificato per quella specifica chiamata.</li><li><strong>Ricevuta.</strong> NEUS registra una ricevuta firmata che documenta che questo agente, nell’ambito di questa autorità delegata, ha eseguito questa inferenza attraverso un runtime confidenziale attestato.</li></ol><p>Ora avete due artefatti per ogni azione dell’agente: un’attestazione che dimostra che l’elaborazione era sigillata e una ricevuta che dimostra che l’agente era autorizzato e operava entro un ambito definito. Entrambi sono verificabili in modo indipendente. Nessuno dei due dipende dalla fiducia nel fornitore del modello, nel cloud host o nello sviluppatore dell’agente.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*PcC-clIz5_B8D47K" /></figure><h3>Cosa vi offre Phala alla base del vostro prodotto</h3><p>Il livello superiore (governance, ricevute, delega, orchestrazione degli agenti) è vostro da costruire. È il prodotto che vendete. Il livello sottostante (elaborazione sigillata, runtime attestato, gestione delle chiavi) è ciò che forniamo noi, ed è la parte che la maggior parte dei team sottovaluta.</p><p>In concreto, quando costruite su Phala ottenete:</p><p><strong>Isolamento della memoria garantito dall’hardware.</strong> Ogni workload viene eseguito all’interno di una VM confidential Intel TDX o di una GPU NVIDIA H100/H200 in modalità confidential computing. CPU e GPU crittografano i dati in memoria. Il sistema operativo dell’host, l’hypervisor, il cloud operator e qualsiasi amministratore con accesso root alla macchina fisica non possono leggerli. La protezione è a livello di silicio, non una policy software.</p><p><strong>Attestazione crittografica di ogni chiamata.</strong> Prima che un workload riceva le chiavi o elabori dati sensibili, la piattaforma genera un’attestation quote firmata che dimostra che il runtime è autentico e che il codice non è stato modificato. La quote include le misurazioni dell’hardware, del firmware, del sistema operativo e dell’esatto file Docker Compose che è stato implementato. Qualsiasi terza parte può verificarla senza fidarsi di Phala.</p><p><strong>Chiavi che risiedono all’interno di un TEE.</strong> Chiavi di crittografia del disco, credenziali API, token dei provider dei modelli. Tutti vengono derivati all’interno di un KMS separato che opera nel proprio TEE, vengono rilasciati solo dopo la verifica dell’attestazione del workload e non vengono mai esposti a Phala o all’operatore. Il gestore delle chiavi è verificabile crittograficamente, non deve essere considerato affidabile sulla base della fiducia.</p><p><strong>Stack open source che potete sottoporre ad audit.</strong> dstack è Apache 2.0, ospitato dalla Linux Foundation. L’immagine del sistema operativo, lo stack di attestazione, la logica KMS e la derivazione delle chiavi sono tutti presenti nel repository pubblico. Non dovete fidarvi della parola di Phala sul fatto che lo stack sia sicuro. Potete ricostruirlo dal codice sorgente e confrontare le misurazioni.</p><p><strong>GPU TEE per workload IA reali.</strong> Per l’inferenza LLM, il fine-tuning o qualsiasi workload accelerato tramite GPU, Phala esegue GPU NVIDIA Hopper e Blackwell in modalità confidential computing. Sia l’attestazione della CPU sia quella della GPU devono essere superate prima del rilascio delle chiavi. I pesi del modello, i prompt e le attivazioni intermedie rimangono crittografati nella memoria della GPU.</p><p><strong>Implementate come preferite.</strong> Utilizzate Phala Cloud per l’infrastruttura gestita oppure eseguite autonomamente dstack sul vostro hardware compatibile con TDX, su GCP o su AWS Nitro Enclaves. Il modello di fiducia è identico. Non siete vincolati a un singolo fornitore.</p><h3>Dove questa soluzione offre i primi vantaggi</h3><p>I team stanno portando agenti IA nei workflow di produzione che gestiscono codice proprietario, dati dei clienti e credenziali attive dell’infrastruttura. L’infrastruttura su cui girano questi agenti è stata costruita per ottimizzare throughput e costi, non per dimostrare cosa sia successo. L’inferenza cloud standard espone i dati sensibili a ogni livello dello stack. I log di audit registrano che le richieste sono avvenute, ma non dimostrano che siano state sigillate o autorizzate. I team gestiscono il divario attraverso policy e speranza.</p><p>Se state costruendo un prodotto che deve colmare questo divario, ecco i casi d’uso in cui questa architettura ripaga più rapidamente l’investimento.</p><p><strong>Team di agenti con accesso alla produzione.</strong> Un team di ingegneria implementa un sistema multi-agente in cui un agente scrive codice, un altro revisiona le pull request e un terzo effettua il deploy in produzione. Ogni agente dispone di autorizzazioni differenti: il programmatore può leggere il repository, il revisore può commentare ma non fare il merge, mentre l’agente di deploy può effettuare il push in staging ma non in produzione senza approvazione.</p><p>Il team delega l’autorità a ciascun agente tramite NEUS, emettendo trust receipt che limitano ogni agente al proprio ruolo specifico e alle azioni consentite. Ogni chiamata al modello passa attraverso l’API di confidential inference di Phala ed entra in un’enclave TEE, così il codice proprietario, i documenti interni e le chiavi API vengono sigillati durante l’inferenza. Il fornitore del modello non li vede mai.</p><p>Quando qualcosa va storto, il team può tracciare esattamente quale agente ha effettuato quale chiamata, sotto l’autorità di chi, e dimostrare che il runtime era sigillato. Le ricevute mostrano la catena di delega. Le attestazioni dimostrano che l’elaborazione era autentica. Nessuna supposizione, nessuna archeologia dei log.</p><p><strong>Agenti che gestiscono dati dei clienti.</strong> Una startup lancia un agente IA che legge i ticket dell’assistenza clienti, analizza i pattern di utilizzo e prepara le risposte. L’agente ha accesso ai dati personali dei clienti (PII), alla cronologia delle conversazioni e alla telemetria del prodotto. L’inferenza cloud standard espone tutto questo all’infrastruttura del fornitore del modello.</p><p>Il fondatore delega l’autorità all’agente tramite NEUS, limitandola a specifiche fonti di dati e azioni consentite. L’agente chiama il modello attraverso l’API di confidential inference di Phala, all’interno di un’enclave TEE. I dati dei clienti vengono sigillati nell’enclave durante l’inferenza. L’operatore del modello non ne vede nulla.</p><p>La startup può dimostrare ai clienti che i loro dati non sono mai stati esposti in chiaro al di fuori di un’enclave verificata e che l’agente ha agito sulla base di un’autorità esplicita e con ambito definito. Entrambe le prove sono verificabili in modo indipendente. Non sono necessarie garanzie da parte del fornitore.</p><p><strong>Sistemi multi-agente con credenziali condivise.</strong> Un team di piattaforma gestisce una flotta di agenti che devono accedere ciascuno a diverse API interne, database e servizi di terze parti. Oggi condividono le chiavi API tramite variabili d’ambiente e sperano che nulla trapeli. Se un agente diventa malevolo o una chiave viene esposta, il raggio d’azione dell’incidente comprende l’intero insieme di credenziali.</p><p>Con il trust harness, ogni agente riceve una ricevuta NEUS con ambito definito che specifica esattamente a quali risorse può accedere. Le chiavi API vengono sigillate all’interno dell’enclave e decrittografate esclusivamente durante l’inferenza. Il team può revocare immediatamente l’autorità di un agente revocandone la ricevuta. Ogni chiamata viene registrata in relazione allo specifico agente e alla specifica delega che l’ha autorizzata.</p><h3>Perché costruire su Phala invece di creare il proprio stack TEE</h3><p>Costruire da zero una piattaforma di confidential computing significa dedicare anni di lavoro a un’infrastruttura che non costituisce il vostro prodotto. Il solo stack TEE comprende primitive di attestazione, logica KMS, catene di derivazione delle chiavi, integrazione con la modalità GPU CC, storage crittografato, networking crittografato, gestione delle risorse multi-tenant e l’immagine open source del sistema operativo presente in ogni VM. La maggior parte dei team che ci prova finisce per ricostruire le stesse componenti, più lentamente, con meno rigore e senza quel controllo da parte della comunità open source che rende il risultato affidabile.</p><p>Phala ha già svolto questo lavoro. È in produzione per team come NEUS, OpenRouter, <a href="https://z.ai/">Z.AI</a>, OPPO, Venice AI, NEAR AI e Uniswap. Lo stack è open source e verificabile. L’hardware è reale e attestato. La prova è crittografica, non una promessa.</p><p>Quando costruite il vostro livello di fiducia su Phala, potete dedicare il vostro tempo alla parte che costituisce realmente il vostro prodotto: governance, delega, ricevute, orchestrazione degli agenti, esperienza utente della fiducia. Non dovete dedicarlo alle catene di attestazione TDX. Non dovete gestire hardware KMS. Non dovete occuparvi dell’integrazione con la modalità confidential computing di NVIDIA. Componete il vostro livello sopra un’infrastruttura di base che produce già la prova di cui avete bisogno.</p><h3>Iniziate a costruire</h3><p>Il trust harness sostituisce la policy con la prova. Inferenza sigillata da Phala, azione governata dal vostro livello, attestazione lungo l’intero processo. Un’unica pipeline che produce due artefatti crittografici indipendenti per ogni azione, senza alcuna dipendenza dalla fiducia in una singola parte.</p><p>Se state costruendo un livello di fiducia, un livello di evidenze o un’infrastruttura di audit per gli agenti IA, non avete bisogno di costruire l’infrastruttura di base. Esiste già.</p><ul><li>dstack (open source): <a href="https://github.com/Dstack-TEE/dstack">github.com/Dstack-TEE/dstack</a></li><li>Phala Cloud (gestito): <a href="https://phala.com/">phala.com</a></li><li>NEUS (partner per il livello di governance): <a href="https://neus.network/">neus.network</a></li></ul><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=1a52fcf3b76d" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/neus-x-phala-costruire-il-livello-di-fiducia-per-gli-agenti-ia-1a52fcf3b76d">NEUS x Phala: Costruire il livello di fiducia per gli agenti IA</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Come iExec utilizza dstack per la finanza OnChain]]></title>
            <link>https://medium.com/phala-italia/come-iexec-utilizza-dstack-per-la-finanza-onchain-2c894e61ab26?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/2c894e61ab26</guid>
            <category><![CDATA[iexec]]></category>
            <category><![CDATA[dstack]]></category>
            <category><![CDATA[confidential-computing]]></category>
            <category><![CDATA[defi]]></category>
            <category><![CDATA[rwa]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Wed, 15 Jul 2026 06:17:25 GMT</pubDate>
            <atom:updated>2026-07-15T06:17:25.624Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*Rg8g2cHBc0Wt4GXK" /></figure><blockquote>Traduzione dell’originale in lingua inglese: <a href="https://phala.com/posts/iexec-dstack-nox-chain-of-trust">https://phala.com/posts/iexec-dstack-nox-chain-of-trust</a></blockquote><p>iExec sta utilizzando dstack come livello di esecuzione verificabile per Nox: il runner può eseguire workload DeFi e RWA confidenziali all’interno di una CVM misurata, mentre la Chain of Trust verifica la misurazione del workload prima di fidarsi di segreti o risultati.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*xGweO5d6xrdG4LFT" /></figure><h3>Cosa fanno iExec e Nox</h3><p>iExec sviluppa infrastrutture di confidential computing per la finanza on-chain. Attraverso Nox, il suo protocollo di confidenzialità programmabile, iExec consente alle applicazioni DeFi e RWA di elaborare dati finanziari sensibili senza esporli pubblicamente on-chain. Gli sviluppatori possono aggiungere esecuzione confidenziale, divulgazione selettiva, controllo degli accessi e calcolo verificabile alle applicazioni EVM esistenti senza ricostruire il proprio stack.</p><p>La prima direzione di prodotto di Nox è l’infrastruttura per token confidenziali destinata alla finanza on-chain. Questo rende Nox rilevante per i workflow DeFi e RWA in cui gli utenti necessitano di riservatezza, i protocolli richiedono correttezza e le istituzioni hanno bisogno di percorsi di autorizzazione verificabili.</p><p>Per dstack: iExec può utilizzarlo come livello di esecuzione misurato attorno al runner di Nox, in modo che la Chain of Trust possa verificare il workload prima di fidarsi di segreti o risultati.</p><h3>La versione breve</h3><p>Nox fornisce agli smart contract un modo per lavorare con handle cifrati. <a href="https://docs.phala.com/dstack-cloud/glossary">dstack</a> fornisce al livello di calcolo off-chain un runtime misurato, <a href="https://docs.phala.com/dstack-cloud/glossary">quote TDX</a>, evidenze <a href="https://docs.phala.com/dstack-cloud/glossary">RTMR</a> e una semplice API per le quote. Insieme, collegano dati privati, esecuzione TEE ed evidenze che dimostrano che il workload previsto è stato eseguito nell’ambiente previsto.</p><p>Per Phala, questo è il punto chiave: dstack si colloca nel punto in cui un workload confidenziale diventa un’infrastruttura verificabile. Trasforma un runner da semplice dichiarazione dell’operatore a workload misurato con evidenze supportate dall’hardware.</p><h3>Diagramma del workflow tecnico</h3><p>Il diagramma seguente rappresenta il percorso della richiesta <a href="https://github.com/iExec-Nox">Nox</a>, il confine della CVM di dstack e i controlli della Chain of Trust.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*g7E2fB5EhJ8JYtgAfIow9g.png" /></figure><h3>Il punto di integrazione</h3><p>L’artefatto pubblico più evidente è <a href="https://github.com/iExec-Nox/dstack-quote-service">dstack-quote-service</a> nell’organizzazione <a href="https://github.com/iExec-Nox">GitHub di Nox</a>. Si tratta di un leggero sidecar HTTP in Rust costruito attorno all’SDK di dstack. Espone endpoint quote e attest, genera quote TEE con dati personalizzati e supporta il replay RTMR a partire dai log degli eventi.</p><p>In un deployment Nox, questo sidecar può essere eseguito accanto a <a href="https://github.com/iExec-Nox/nox-runner">nox-runner</a> all’interno della stessa CVM gestita da dstack. Il runner gestisce il calcolo confidenziale. Il sidecar fornisce al runner e al verificatore un’interfaccia locale per le evidenze di attestazione associate al workload in esecuzione.</p><p>Il campo custom data è importante. Nox può associare una quote a un nonce, un chain ID, un deployment ID, una versione del workload, un hash della richiesta o un batch ID. Questo trasforma una generica quote TDX in un’evidenza relativa a una specifica azione del protocollo.</p><h3>Come viene utilizzato dstack passo dopo passo</h3><h4>1. Pacchettizzare il workload</h4><p>Nox pacchettizza nox-runner, dstack-quote-service e la configurazione runtime nel workload eseguito all’interno di una CVM dstack. Nei deployment TDX di dstack-cloud, l’hash compose può identificare la configurazione Docker Compose che è stata avviata.</p><h4>2. Avviare una CVM misurata</h4><p>dstack avvia dstack-os e i container applicativi all’interno di una CVM supportata da TEE. I registri di misurazione Intel TDX catturano il percorso di avvio e lo stato del runtime. Il workload possiede ora un’identità misurabile, espressa attraverso valori RTMR e relative evidenze.</p><h4>3. Generare evidenze</h4><p>dstack-quote-service richiama l’SDK di dstack per generare una quote TDX o un artefatto di attestazione. La quote può includere dati personalizzati provenienti da Nox, in modo che l’evidenza sia associata a una richiesta attiva o allo stato del deployment.</p><h4>4. Verificare la Chain of Trust</h4><p>Il verificatore controlla la quote TDX, i valori RTMR attesi, l’hash compose, l’identità del workload e i dati di freschezza. Una verifica riuscita conferma che il workload Nox previsto è in esecuzione nell’ambiente confidenziale previsto.</p><h4>5. Controllare chiavi e risultati</h4><p>Dopo la verifica, Nox può associare la delegazione ECIES, l’accettazione dei risultati o le fasi sensibili del workflow a quel workload misurato. È qui che dstack supporta il confine di fiducia attorno al rilascio delle chiavi e al calcolo confidenziale.</p><h4>6. Eseguire il calcolo confidenziale</h4><p>nox-runner consuma job da NATS JetStream, recupera operandi cifrati dall’handle gateway, decifra temporaneamente i valori in memoria, esegue l’operazione richiesta, cifra nuovamente il risultato e pubblica gli handle dei risultati cifrati.</p><h4>7. Mantenere un percorso di audit</h4><p>Il protocollo può conservare la quote, la misurazione, l’hash compose e il collegamento alla richiesta come evidenze. Questo fornisce ai workflow DeFi e RWA confidenziali un percorso verificabile mantenendo privati i dati grezzi delle transazioni.</p><h3>Cosa apporta dstack</h3><ul><li>Runtime misurato: il workload dispone di un’identità supportata dall’hardware come processo confidenziale verificabile.</li><li>Quote API: dstack-quote-service fornisce a Nox un semplice percorso HTTP verso endpoint quote e attest.</li><li>Associazione alla configurazione: l’hash compose e le evidenze RTMR aiutano ad associare l’esecuzione a una specifica immagine e configurazione di deployment.</li><li>Confine per il rilascio delle chiavi: Nox può utilizzare controlli di attestazione prima che segreti delegati o risultati di calcolo entrino nel percorso fidato.</li><li>Evidenze portabili: le stesse evidenze possono supportare sviluppatori, utenti e processi di revisione istituzionale.</li></ul><h3>Come questo si mappa sui componenti di Nox</h3><ul><li>Gli smart contract Nox definiscono il workflow confidenziale on-chain: handle cifrati, ACL e accettazione dei risultati.</li><li>nox-ingestor e NATS JetStream trasferiscono gli eventi on-chain nella pipeline di calcolo off-chain.</li><li>nox-runner esegue l’operazione confidenziale su valori compatibili con Solidity, mantenendo il plaintext temporaneamente in memoria durante il calcolo.</li><li>nox-handle-gateway memorizza operandi e handle dei risultati per il runner e gli smart contract.</li><li>nox-kms gestisce la delegazione ECIES: mantiene la chiave privata EC all’interno del KMS, deriva il segreto condiviso per le richieste autorizzate, cifra il segreto condiviso per il richiedente e restituisce una prova EIP-712.</li><li>dstack-quote-service fornisce al workload una quote TEE e un’API di attestazione, consentendo al resto del sistema di verificare l’ambiente del runner.</li><li>La Nox Chain of Trust utilizza queste evidenze di dstack per decidere quale workload è affidabile per segreti, calcolo e accettazione dei risultati.</li></ul><h3>Perché questo è importante per DeFi confidenziale e RWA</h3><p>La privacy nella DeFi ha un requisito fondamentale: gli utenti necessitano di riservatezza, mentre i protocolli devono comunque essere in grado di valutare correttezza, autorizzazione e conformità. I workflow RWA aggiungono esigenze di divulgazione selettiva per emittenti, controparti e revisori.</p><p>Nox affronta il livello applicativo con handle cifrati, flussi di token confidenziali e auditabilità programmabile. dstack affronta il livello di esecuzione con CVM misurate ed evidenze di attestazione. La combinazione offre agli sviluppatori un percorso pratico verso la finanza privata on-chain.</p><ul><li>i valori sensibili possono rimanere cifrati on-chain;</li><li>le operazioni confidenziali possono essere eseguite in un runner supportato da TEE;</li><li>il runner può produrre evidenze relative al codice e alla configurazione in esecuzione;</li><li>il rilascio delle chiavi e l’accettazione dei risultati possono essere associati a tali evidenze;</li><li>l’auditabilità può esistere a livello di autorizzazione, mantenendo privati i dati grezzi degli utenti.</li></ul><p>Questa è la storia più ampia dietro l’utilizzo di dstack da parte di iExec. Il confidential compute diventa un componente del protocollo con evidenze associate all’esatto workload che gestisce i dati privati.</p><h3>Cosa ottengono gli sviluppatori da questo</h3><p>Gli sviluppatori possono utilizzare Nox per la logica finanziaria confidenziale facendo affidamento su dstack per il livello di fiducia dell’esecuzione. I dettagli relativi a quote TDX, misurazioni runtime, RTMR e hash compose possono rimanere nascosti dietro API di servizio e SDK, offrendo ai team applicativi una superficie infrastrutturale più semplice.</p><p>Per utenti e istituzioni, il valore è diretto: i dati privati rimangono privati, il calcolo avviene all’interno di un ambiente misurato e il sistema può produrre evidenze prima che venga concessa fiducia.</p><h3>Fonti</h3><ul><li>Post di annuncio di iExec Nox: <a href="https://x.com/iex_ec/status/2075211135301669270">https://x.com/iex_ec/status/2075211135301669270</a></li><li>Documentazione iExec: <a href="https://docs.iex.ec/">https://docs.iex.ec/</a></li><li>Organizzazione GitHub di Nox: <a href="https://github.com/iExec-Nox">https://github.com/iExec-Nox</a></li><li>dstack-quote-service: <a href="https://github.com/iExec-Nox/dstack-quote-service">https://github.com/iExec-Nox/dstack-quote-service</a></li><li>nox-runner: <a href="https://github.com/iExec-Nox/nox-runner">https://github.com/iExec-Nox/nox-runner</a></li><li>nox-kms: <a href="https://github.com/iExec-Nox/nox-kms">https://github.com/iExec-Nox/nox-kms</a></li><li>Documentazione Phala dstack: <a href="https://docs.phala.com/dstack-cloud/glossary">https://docs.phala.com/dstack-cloud/glossary</a></li></ul><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=2c894e61ab26" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/come-iexec-utilizza-dstack-per-la-finanza-onchain-2c894e61ab26">Come iExec utilizza dstack per la finanza OnChain</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[I TEE sono davvero veloci su NVIDIA Blackwell]]></title>
            <link>https://medium.com/phala-italia/i-tee-sono-davvero-veloci-su-nvidia-blackwell-1cc383c4ea0c?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/1cc383c4ea0c</guid>
            <category><![CDATA[blackwell]]></category>
            <category><![CDATA[nvidia]]></category>
            <category><![CDATA[confidential-computing]]></category>
            <category><![CDATA[ai-confidenziale]]></category>
            <category><![CDATA[benchmark]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Fri, 03 Jul 2026 06:21:08 GMT</pubDate>
            <atom:updated>2026-07-03T06:21:08.687Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*sPTVBzx1I0V1h5EH" /></figure><blockquote>Traduzione dell’articolo originale in inglese: <a href="https://phala.com/posts/blackwell-gpu-cc-serialized-bridge">https://phala.com/posts/blackwell-gpu-cc-serialized-bridge</a></blockquote><p>Blackwell cambia radicalmente il panorama delle prestazioni dell’AI confidenziale. Su NVIDIA B300, l’operazione BF16 matmul eseguita con GPU Confidential Computing raggiunge prestazioni pari a <strong>0,998x</strong> rispetto alla modalità non confidenziale. Un CUDA Graph che concatena <strong>96.000</strong> operazioni matmul arriva a <strong>1,0012x</strong>. I Tensor Core e la memoria HBM operano ormai a prestazioni praticamente native.</p><p>Lo stack di serving perde ancora throughput perché un altro percorso è diventato la risorsa limitante: il bridge tra la confidential VM e la GPU. Nel paper <a href="https://arxiv.org/abs/2606.23969"><em>The Serialized Bridge</em></a> abbiamo misurato sistemi basati su B300 e RTX Pro 6000 Blackwell, individuando una regola costante: il trasferimento host/device diventa serializzato, caratterizzato da un elevato costo di inizializzazione ed è, di fatto, sincrono all’interno di un contesto CUDA.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*m1Vlv_o73cVK-mnF" /><figcaption><em>Misurazioni del serving confidenziale su B300.</em></figcaption></figure><h3>Il nuovo modello delle prestazioni</h3><p>Il bridge presenta tre proprietà fondamentali per il serving degli LLM:</p><ul><li>I trasferimenti host/device all’interno dello stesso contesto vengono serializzati. L’utilizzo di un numero maggiore di CUDA stream non aumenta la larghezza di banda del bridge.</li><li>Le copie con non_blocking=True continuano comunque a bloccare il thread della CPU quando è attivo GPU-CC.</li><li>I trasferimenti di piccole dimensioni pagano un costo fisso di inizializzazione, misurato in circa <strong>330 microsecondi</strong> per chiamata.</li></ul><p>Questa distinzione emerge immediatamente nei microbenchmark. Su B300, BF16 matmul raggiunge <strong>0,998x</strong> con CC attivo rispetto a CC disattivato. Un CUDA Graph esteso arriva a <strong>1,0012x</strong>. Un benchmark in stile HBM da <strong>1 GiB</strong> ottiene <strong>0,912x</strong>. Un singolo trasferimento H2D (host-to-device) nello stesso contesto scende a <strong>0,203x</strong>, mentre il D2H (device-to-host) arriva a <strong>0,211x</strong>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*BlLZLGRpkFGwnztW" /><figcaption><em>Rapporti B300 CC-on / CC-off.</em></figcaption></figure><p>La regola operativa è semplice: considerare ogni attraversamento del bridge come una risorsa da pianificare. Occorre raggruppare i trasferimenti, svuotare le code in modo efficiente ed evitare di inserirli nel percorso critico dell’esecuzione.</p><h3>Perché le policy predefinite del runtime possono diventare controproducenti</h3><p>I moderni runtime di serving sono stati progettati assumendo la disponibilità di DMA economiche e asincrone. Questa ipotesi non è più valida con GPU-CC. La pianificazione asincrona predefinita di vLLM normalmente sovrappone lo scaricamento degli output con il passo successivo dell’inferenza. Con GPU-CC, però, queste copie concorrenti vengono serializzate sullo stesso canale del bridge: il costo della sovrapposizione rimane, mentre il beneficio scompare.</p><p>In un test di dense decode con <strong>Qwen3.6–27B-FP8</strong> su B300, con concorrenza pari a <strong>128</strong>, il percorso asincrono predefinito con CC attivo ha raggiunto <strong>3550 token/s</strong>. Disabilitando la pianificazione asincrona si è saliti a <strong>4104 token/s</strong>, recuperando il <strong>57%</strong> del divario introdotto da Confidential Computing. Con la policy sincrona, il costo residuo di GPU-CC è risultato pari a circa <strong>1%</strong>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*dPLfMVAkJyk7Hrcn" /><figcaption><em>Throughput della pianificazione su B300.</em></figcaption></figure><p>Una patch che introduce un thread dedicato allo scaricamento dei dati migliora ulteriormente la situazione, spostando le operazioni bloccanti fuori dal thread principale del motore di serving. In un test qualificato su B300 ad alta concorrenza è stato raggiunto un throughput di <strong>5518 token/s</strong> con concorrenza <strong>512</strong>, ovvero entro l’<strong>8,3%</strong> rispetto al percorso asincrono non confidenziale di riferimento.</p><p>L’insegnamento più importante è più generale: un runtime destinato al serving confidenziale deve adottare impostazioni predefinite consapevoli della modalità GPU-CC. Bisogna svuotare i buffer prima di ricaricarli, spostare le attese bloccanti lontano dal thread critico, mantenere il più possibile i dati residenti sulla GPU e considerare ogni trasferimento come una risorsa limitata.</p><h3>Il costo della modalità confidenziale dipende dai trasferimenti</h3><p>L’overhead introdotto da GPU-CC dipende dal tipo di carico di lavoro. Il serving online con throughput limitato può mascherarne l’impatto. Il dense decode con dati residenti in memoria paga un costo moderato. Il routing dei modelli MoE e il ripristino della cache KV risultano più penalizzati perché generano un traffico maggiore attraverso il bridge.</p><p>Nei risultati del paper relativi a B300:</p><ul><li>Il serving online di <strong>GPT-OSS-120B</strong>, con profilo MLPerf e <strong>qps=1,19</strong>, perde solo l’<strong>1,1%</strong>.</li><li><strong>Qwen3.6–27B-FP8</strong> in modalità dense perde il <strong>13,0%</strong>.</li><li><strong>Gemma-4–31B-it</strong> in modalità dense, con concorrenza <strong>128</strong>, perde il <strong>14,2%</strong>.</li><li>Il decode dei modelli <strong>MoE</strong> perde tra il <strong>24,7%</strong> e il <strong>27,6%</strong>.</li><li>Il ripristino della cache KV aumenta il warm TTFT da <strong>405,4 ms</strong> a <strong>935,2 ms</strong>, con una penalizzazione del <strong>131%</strong>.</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*IPEVdejrXolzFOI9" /><figcaption><em>Overhead della modalità confidenziale su B300 in funzione del carico.</em></figcaption></figure><p>Questo è il modo corretto di valutare la capacità di inferenza confidenziale: chiedersi quali dati attraversano il bridge, con quale frequenza e se il runtime pianifica tali trasferimenti in modo esplicito.</p><h3>Anche il cold start è un problema del bridge</h3><p>Lo stesso modello spiega i tempi di caricamento dei modelli. Caricare <strong>GPT-OSS-120B</strong> su una GPU confidenziale utilizzando il percorso predefinito di <strong>safetensors</strong> ha richiesto <strong>287,09 secondi</strong> su B300. Questo valore è rimasto quasi invariato anche sulla RTX Pro 6000, indicando che il collo di bottiglia è nel percorso software: parsing serializzato, staging e trasferimento sicuro in un unico contesto CUDA.</p><p>Un loader progettato specificamente per GPU-CC modifica il modello di trasferimento. Distribuisce gli shard dei pesi su un pool di contesti CUDA, riutilizza i cicli di vita sicuri, preriscalda il pool ed esegue lo smantellamento in modo asincrono. Su B300 il tempo di caricamento scende da <strong>287,09 secondi</strong> a <strong>8,36 secondi</strong>.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*u1PAI1Y1NRnaM9cA" /><figcaption><em>Tempo di caricamento di GPT-OSS-120B su B300.</em></figcaption></figure><p>Il cold start è una caratteristica fondamentale del prodotto. Con <strong>287 secondi</strong>, la capacità del sistema è difficile da trattare come elastica. Con <strong>8,4 secondi</strong>, il serving confidenziale diventa molto più semplice da pianificare, ripristinare e scalare.</p><p>Anche lo stato della cache KV segue la stessa regola. In presenza di elevato churn, il ripristino di un prefisso da <strong>1,1 GiB</strong> aumenta il warm TTFT su B300 del <strong>131%</strong>. Una pianificazione sincrona riporta il valore quasi in parità. Sulla RTX Pro 6000, una strategia di offload consapevole del riutilizzo riduce il volume di spill da <strong>2,3 GiB</strong> a <strong>2,3 MB</strong>, migliorando di <strong>2,97 volte</strong> il warm TTFT con GPU-CC attivo.</p><h3>Blackwell ridefinisce anche il confine del tenant</h3><p>L’HGX B300 introduce un secondo cambiamento importante: il tenant confidenziale può coincidere con una partizione del fabric NVSwitch. Il paper qualifica tenant confidenziali multi-GPU su B300, dimostrando una larghezza di banda peer-to-peer CUDA pari a <strong>510,4 GB/s</strong> all’interno di una CVM confidenziale composta da due GPU.</p><p>Sono state inoltre validate topologie con tenant confidenziali a quattro GPU e partizioni isolate eseguite in parallelo. Il principale confine di fiducia rimasto riguarda il piano di controllo del fabric: l’identità del Fabric Manager e lo stato esatto del routing NVSwitch richiedono prove verificabili dal tenant più solide.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*KkZJp9xyMNoB9KJF" /><figcaption><em>Evidenze del fabric confidenziale su B300.</em></figcaption></figure><p>Per una piattaforma di AI confidenziale, il fabric diventa sia un elemento di pianificazione sia un elemento di fiducia. Il piano di controllo deve esporre lo stato di GPU-CC, lo stato di salute del fabric, l’identità della partizione e, in prospettiva, informazioni attestabili sul routing del fabric.</p><h3>Cosa significa tutto questo per l’AI confidenziale</h3><p>La piattaforma di AI confidenziale di Phala opera già esattamente al livello in cui queste decisioni diventano determinanti: impostazioni predefinite del runtime, caricamento dei modelli, politiche per la cache KV, pianificazione dei tenant, attestazione e orchestrazione delle CVM tramite dstack.</p><p>Il paper fornisce cinque regole pratiche per il serving confidenziale in produzione:</p><ol><li>Considerare gli attraversamenti del bridge come risorse da pianificare.</li><li>Ottenere la concorrenza dei trasferimenti host/device tramite pool di contesti CUDA.</li><li>Rendere le impostazioni predefinite del runtime consapevoli della modalità GPU-CC.</li><li>Massimizzare la permanenza in GPU dei pesi del modello e dello stato della cache KV.</li><li>Pianificare e attestare il fabric come parte integrante del confine di sicurezza del tenant.</li></ol><p>Blackwell rende l’inferenza confidenziale molto più veloce, ma allo stesso tempo rende ancora più costose le vecchie assunzioni su cui sono stati progettati i runtime. La prossima generazione di piattaforme di AI confidenziale sarà valutata in base alla capacità di rispettare i vincoli imposti dal <em>Serialized Bridge</em> e di dimostrare con chiarezza l’affidabilità del fabric che viene allocato.</p><p><strong>Leggi il paper:</strong> <a href="https://arxiv.org/abs/2606.23969"><em>The Serialized Bridge: Understanding and Recovering LLM Serving Performance under Blackwell GPU Confidential Computing</em>.</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=1cc383c4ea0c" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/i-tee-sono-davvero-veloci-su-nvidia-blackwell-1cc383c4ea0c">I TEE sono davvero veloci su NVIDIA Blackwell</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[LegalCiteBench @ ICML 2026: l’AI legale ha bisogno di una valutazione affidabile delle citazioni]]></title>
            <link>https://medium.com/phala-italia/legalcitebench-icml-2026-lai-legale-ha-bisogno-di-una-valutazione-affidabile-delle-citazioni-3a69029700b9?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/3a69029700b9</guid>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[icml-2026]]></category>
            <category><![CDATA[ai-research]]></category>
            <category><![CDATA[legal-ai]]></category>
            <category><![CDATA[confidential-ai]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Mon, 29 Jun 2026 06:19:27 GMT</pubDate>
            <atom:updated>2026-06-29T06:19:27.045Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*Fx6P7Az8mVm3axGw" /></figure><p><strong>LegalCiteBench: Evaluating Citation Reliability in Legal Language Models</strong> è stato accettato al workshop <strong>AI4Law @ ICML 2026</strong>. Il paper analizza una modalità di fallimento particolarmente rilevante nel lavoro legale reale: la capacità di un sistema di AI di identificare il caso corretto e citarlo accuratamente.</p><p><strong>Autori:</strong> Sijia Chen, Hang Yin, Shunfan Zhou. Su X, citate <strong>@bgmshana</strong> e <strong>@zhou49</strong>. Sijia Chen non dispone di un account X pubblico.</p><p><strong>Paper:</strong> <a href="https://arxiv.org/abs/2605.10186">https://arxiv.org/abs/2605.10186</a></p><p><strong>Workshop:</strong> <a href="https://sites.google.com/view/ai4law-icml2026">https://sites.google.com/view/ai4law-icml2026</a></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*c1mipu-txNaNhSI-" /><figcaption><em>Scheda riassuntiva di LegalCiteBench</em></figcaption></figure><h3>La versione breve</h3><p>LegalCiteBench valuta l’affidabilità delle citazioni proprio nel punto in cui l’AI legale può fallire senza che il problema sia immediatamente evidente: l’identificazione precisa dell’autorità giuridica. Il benchmark chiede ai modelli di recuperare, completare, verificare e correggere citazioni reali tratte da sentenze dei tribunali statunitensi.</p><ul><li><strong>Scala:</strong> 23.646 istanze di valutazione costruite a partire da 1.000 sentenze giudiziarie di riferimento.</li><li><strong>Risultati di generazione:</strong> il miglior modello ottiene <strong>6,80/100</strong> nel recupero delle citazioni e <strong>6,35/100</strong> nel completamento delle citazioni.</li><li><strong>Risultati di verifica:</strong> il miglior modello raggiunge <strong>75,59</strong> nel rilevamento degli errori di citazione e <strong>96,07</strong> nella verifica/correzione dei casi.</li><li><strong>Segnale di rischio:</strong> 20 modelli su 21 presentano un <strong>Misleading Answer Rate (MAR)</strong> superiore al <strong>94%</strong>.</li></ul><h3>Perché questo benchmark è importante</h3><p>Molti benchmark per l’AI legale misurano il ragionamento, il question answering giuridico o la comprensione dei contratti. LegalCiteBench si concentra invece su un problema molto più specifico, ma con implicazioni concrete per i prodotti: <strong>l’affidabilità delle citazioni</strong>.</p><p>Il benchmark verifica se un modello è in grado di recuperare, completare, controllare e correggere citazioni giuridiche quando deve fare affidamento esclusivamente sulla propria conoscenza interna.</p><p>Si tratta di un problema difficile perché le citazioni legali rappresentano identificatori estremamente compatti dell’autorità giuridica. Una citazione può apparire perfettamente plausibile pur rimandando al caso sbagliato, al reporter errato o alla pagina sbagliata. In un flusso di lavoro legale, questo tipo di errore può contaminare silenziosamente la ricerca giuridica, le memorie difensive e persino la consulenza fornita ai clienti.</p><h3>Come è costruito LegalCiteBench</h3><p>LegalCiteBench è costruito utilizzando vere sentenze dei tribunali statunitensi provenienti dal <strong>Case Law Access Project</strong>.</p><p>Il benchmark parte da <strong>1.000 casi principali</strong> dell’ultimo decennio e genera <strong>23.646 istanze di valutazione</strong>.</p><p>Gli LLM vengono utilizzati per produrre prompt strutturati e note di costruzione del dataset, mentre il <strong>ground truth</strong> rimane ancorato agli elenchi delle citazioni e ai metadati ufficiali delle sentenze.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*zOPZUG1gx3TxMDGP" /><figcaption><em>Punteggi delle diverse famiglie di task sui 21 modelli valutati</em></figcaption></figure><p>Il dataset comprende cinque famiglie di task:</p><ul><li>recupero delle citazioni (<em>citation retrieval</em>);</li><li>completamento delle citazioni (<em>citation completion</em>);</li><li>rilevamento degli errori di citazione (<em>citation error detection</em>);</li><li>associazione dei casi (<em>case matching</em>);</li><li>verifica e correzione dei casi (<em>case verification/correction</em>).</li></ul><p>Queste famiglie di task rappresentano uno spettro di difficoltà.</p><p>Le categorie <strong>Cat1</strong> e <strong>Cat2</strong> richiedono al modello di produrre l’autorità giuridica mancante.</p><p>La <strong>Cat3</strong> chiede al modello di individuare errori nelle citazioni.</p><p>La <strong>Cat4</strong> richiede di associare, verificare e correggere i riferimenti ai casi.</p><p>Il principale confronto proposto dal paper è tra <strong>generazione</strong> e <strong>verifica</strong>.</p><p>Ed è proprio questo confronto a rendere significativo il grafico.</p><p>I punteggi molto bassi ottenuti in <strong>Cat1</strong> e <strong>Cat2</strong> mostrano che il recupero esatto delle citazioni rimane estremamente debole.</p><p>I risultati decisamente migliori ottenuti in <strong>Cat3</strong> e <strong>Cat4–2</strong> dimostrano invece che i modelli risultano molto più utili quando il sistema fornisce loro qualcosa da verificare.</p><h3>Risultato 1: la generazione di citazioni “closed-book” è ancora molto debole</h3><p>Il paper valuta <strong>21 modelli</strong>, comprendendo:</p><ul><li>API proprietarie;</li><li>modelli open source;</li><li>modelli generalisti;</li><li>modelli specializzati per il dominio legale.</li></ul><p>Nei due task maggiormente orientati alla generazione, il miglior punteggio raggiunge soltanto:</p><ul><li><strong>6,80/100</strong> nel recupero delle citazioni;</li><li><strong>6,35/100</strong> nel completamento delle citazioni.</li></ul><p>Nessun modello supera <strong>7/100</strong> in entrambe le prove.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*BC93ZcpXYe3djcPy" /><figcaption><em>Tasso di Risposte Fuorvianti (Misleading Answer Rate) per modello, adattato dalla Figura 3 del paper.</em></figcaption></figure><p>Il <strong>Misleading Answer Rate (MAR)</strong> trasforma questo tipo di fallimento in una metrica operativa.</p><p>Un valore elevato di MAR significa che il modello tende a fornire una risposta concreta invece di ammettere la propria incertezza.</p><p>Per i flussi di lavoro legali questo rappresenta l’aspetto più problematico: l’output può sembrare utilizzabile molto prima che qualcuno controlli effettivamente la correttezza della citazione.</p><p>Questa differenza rappresenta il principale risultato dello studio.</p><p>Un modello può produrre un’analisi giuridica perfettamente fluida e convincente, ma fallire comunque nel recuperare l’autorità giuridica corretta.</p><p>LegalCiteBench separa chiaramente queste due capacità chiedendo al modello di fornire:</p><ul><li>il nome esatto del caso;</li><li>il volume;</li><li>il reporter;</li><li>la pagina;</li><li>gli altri dettagli della citazione.</li></ul><h3>Risultato 2: la verifica è molto più affidabile</h3><p>Gli stessi modelli ottengono risultati significativamente migliori quando il compito diventa quello della verifica.</p><p>Il punteggio migliore raggiunge:</p><ul><li><strong>75,59</strong> nel rilevamento degli errori di citazione;</li><li><strong>96,07</strong> nella verifica e correzione dei casi.</li></ul><p>Questa distinzione è particolarmente utile nella progettazione dei prodotti.</p><p>Verificare una citazione candidata risulta molto più semplice che generare dalla memoria l’autorità corretta.</p><p>Il modello operativo che emerge è chiaro:</p><ul><li>utilizzare sistemi di retrieval e database giuridici per produrre le possibili autorità;</li><li>impiegare i modelli AI come revisori, verificatori e motori di spiegazione.</li></ul><p>Nell’AI legale, la gestione delle citazioni dovrebbe essere progettata come una <strong>pipeline di validazione</strong>, non come un semplice test della memoria del modello.</p><h3>Risultato 3: il Misleading Answer Rate è molto elevato</h3><p>Il paper introduce il <strong>Misleading Answer Rate (MAR)</strong> per misurare un preciso tipo di errore: il modello fornisce una citazione o un riferimento a un caso apparentemente concreto pur ottenendo risultati molto scarsi nei task di recupero delle citazioni.</p><p>Il MAR è importante perché risposte errate ma formulate con sicurezza risultano molto più pericolose dell’incertezza esplicita.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*2zJlcXTwY4T31nqx" /><figcaption><em>Confronto dell’astensione ottenuta tramite il solo prompt.</em></figcaption></figure><p>L’astensione aiuta soltanto quando il modello decide effettivamente di seguirla.</p><p>Il benchmark mostra che un semplice prompt può indurre alcuni modelli a rifiutarsi di rispondere più frequentemente.</p><p>Tuttavia, la conoscenza mancante sulle citazioni deve comunque provenire da sistemi esterni di:</p><ul><li>retrieval;</li><li>verifica delle fonti;</li><li>normalizzazione delle citazioni.</li></ul><p>Il risultato è netto:</p><ul><li><strong>20 modelli su 21</strong> presentano un MAR superiore al <strong>94%</strong>.</li><li>Il modello con il valore più basso, <strong>GPT-5-mini</strong>, raggiunge comunque <strong>89,24%</strong>.</li></ul><p>In questo benchmark, la maggior parte dei modelli tende quasi sempre a fornire una risposta specifica anche quando è altamente probabile che sia errata.</p><h3>I prompt di astensione aiutano, ma solo fino a un certo punto</h3><p>Il paper valuta anche una semplice istruzione di astensione: smettere di indovinare quando la citazione esatta non può essere verificata.</p><p>L’effetto varia sensibilmente da modello a modello.</p><p>Ad esempio:</p><ul><li><strong>Qwen3–14B</strong> passa da <strong>89,8%</strong> di MAR a <strong>69,9%</strong>;</li><li><strong>Llama-3.1–8B-Instruct</strong> passa da <strong>100,0%</strong> a <strong>62,7%</strong>;</li><li><strong>Mistral-7B-Instruct</strong> passa da <strong>100,0%</strong> a <strong>98,3%</strong>.</li></ul><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*ZtvTFTzWIDGnD4NU" /><figcaption><em>Pipeline di costruzione di LegalCiteBench.</em></figcaption></figure><h3>Perché questo è importante per Phala</h3><p>In Phala ci interessa costruire sistemi di AI che possano essere verificati.</p><p>LegalCiteBench rappresenta un ottimo esempio di un problema più generale: gli utenti hanno bisogno di molto più di una risposta formulata in modo fluente.</p><p>Hanno bisogno di:</p><ul><li>prove;</li><li>provenienza delle informazioni (<em>provenance</em>);</li><li>strumenti per capire se il sistema ha utilizzato la fonte corretta.</li></ul><p>Per l’AI legale questo significa costruire pipeline dedicate alla gestione delle citazioni.</p><p>Per l’AI confidenziale e gli agenti AI, più in generale, significa garantire:</p><ul><li>esecuzione verificabile;</li><li>flussi di dati verificabili e sottoponibili ad audit;</li><li>sistemi capaci di dichiarare quando conoscono la risposta e quando invece hanno bisogno di consultare una fonte esterna.</li></ul><p>LegalCiteBench porta a una conclusione molto pratica:</p><p>i flussi di lavoro relativi alle citazioni giuridiche richiedono <strong>grounding</strong>, verifica e meccanismi di astensione calibrati.</p><p>Un sistema di AI legale realmente distribuibile dovrebbe trattare le citazioni come oggetti informativi che devono essere:</p><ul><li>recuperati;</li><li>normalizzati;</li><li>verificati;</li><li>spiegati.</li></ul><h3>Cosa significa tutto questo per i sistemi di AI legale</h3><p>LegalCiteBench conduce a una conclusione pratica: i workflow dedicati alle citazioni legali richiedono <strong>grounding</strong>, verifica e astensione calibrata.</p><p>Un sistema di AI legale pronto per la produzione dovrebbe considerare le citazioni come <strong>oggetti verificabili</strong>.</p><p>L’architettura ideale comprende diversi livelli.</p><p>Il <strong>livello di retrieval</strong> individua le possibili autorità giuridiche.</p><p>Il <strong>livello di normalizzazione</strong> analizza e valida le stringhe di citazione.</p><p>Il <strong>livello di verifica</strong> controlla l’identità del caso e la sua rilevanza giuridica.</p><p>Infine, il <strong>livello di generazione</strong> dovrebbe rendere esplicita l’incertezza quando una citazione non può essere confermata.</p><p>Il benchmark ha una funzione principalmente diagnostica.</p><p>Mostra chiaramente:</p><ul><li>dove la memoria dei modelli è debole;</li><li>dove le capacità di verifica risultano molto più solide;</li><li>perché prodotti legali realmente affidabili necessitano di una pipeline dedicata alle citazioni che operi attorno al modello.</li></ul><h3>Risorse</h3><p><strong>Paper:</strong> <a href="https://arxiv.org/abs/2605.10186">https://arxiv.org/abs/2605.10186</a></p><p><strong>Codice e dataset:</strong> <a href="https://github.com/Sijia711/LegalCiteBench">https://github.com/Sijia711/LegalCiteBench</a></p><p><strong>Workshop:</strong> <a href="https://sites.google.com/view/ai4law-icml2026">https://sites.google.com/view/ai4law-icml2026</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3a69029700b9" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/legalcitebench-icml-2026-lai-legale-ha-bisogno-di-una-valutazione-affidabile-delle-citazioni-3a69029700b9">LegalCiteBench @ ICML 2026: l’AI legale ha bisogno di una valutazione affidabile delle citazioni</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[OPPO × Phala: portare la fiducia verificabile nell’infrastruttura AI cloud-native]]></title>
            <link>https://medium.com/phala-italia/oppo-phala-portare-la-fiducia-verificabile-nellinfrastruttura-ai-cloud-native-b1df936f4f5f?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/b1df936f4f5f</guid>
            <category><![CDATA[ai-agent]]></category>
            <category><![CDATA[intelligenza-artificiale]]></category>
            <category><![CDATA[kubernetes]]></category>
            <category><![CDATA[oppo]]></category>
            <category><![CDATA[private-ai]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Thu, 25 Jun 2026 06:43:41 GMT</pubDate>
            <atom:updated>2026-06-25T06:43:41.630Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*TeY6tIzFxGXvJoA2" /></figure><blockquote>Traduzione della versione originale in inglese: <a href="https://phala.com/posts/oppo-phala-joint-paper-for-cloud-native-ai">https://phala.com/posts/oppo-phala-joint-paper-for-cloud-native-ai</a></blockquote><p>Recentemente abbiamo pubblicato un documento tecnico congiunto con OPPO: <a href="https://arxiv.org/abs/2606.03323"><em>Implement Kubernetes Pod-Level Remote Attestation for Confidential Workloads on dstack</em></a>. Questo è il risultato di mesi di collaborazione tra i nostri team di ingegneria e rappresenta un passo significativo verso la realizzazione di un’infrastruttura per l’AI privata che sia pratica e verificabile su scala produttiva.</p><h3>Cosa abbiamo costruito</h3><p>Il documento descrive un meccanismo di attestazione remota a livello di Pod che opera su dstack, il nostro framework open-source per il confidential computing. In termini semplici: quando un carico di lavoro AI viene avviato all’interno di un Pod Kubernetes, il sistema genera una prova crittografica che collega l’hardware su cui è in esecuzione, il software contenuto nel Pod e l’identità che il Pod possiede all’interno del cluster. Un verificatore esterno può controllare questa prova prima di consentire al Pod di ricevere dati sensibili o accedere a servizi protetti.</p><p>Questo è importante perché i controlli Kubernetes tradizionali, come RBAC e Network Policy, definiscono ciò che un Pod è autorizzato a fare. Non rispondono però alla domanda se il Pod stia realmente eseguendo il codice che dichiara di eseguire, su un hardware che non è stato manomesso. L’attestazione risponde a questa domanda. E implementarla a livello di Pod, invece che a livello di nodo o macchina virtuale, la rende utilizzabile direttamente per i singoli carichi di lavoro.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*od1KDQ-ahlXMMwcB" /></figure><p>Il meccanismo si basa su Intel TDX e funziona all’interno del normale ciclo di vita di Kubernetes. La prova di attestazione è disponibile prima che il carico di lavoro del Pod venga avviato, il che significa che le decisioni sulle policy vengono prese prima che qualsiasi dato sensibile entri nel Pod. Un nodo compromesso non può impersonare un Pod valido. Un’immagine container modificata non corrisponderà alla misurazione prevista.</p><h3>Perché abbiamo lavorato a questo progetto</h3><p>In Phala, dstack è sempre stato concepito per rendere il confidential computing accessibile agli sviluppatori. Forniamo SDK, primitive di attestazione e infrastrutture di gestione delle chiavi affinché i team AI possano distribuire i propri carichi di lavoro in ambienti verificabili senza dover diventare esperti di sicurezza informatica.</p><p>Anche OPPO stava lavorando nella stessa direzione, ma da un’altra prospettiva. Il suo Private Computing Cloud (PCC) è progettato come una base cloud-native affidabile, condividendo la stessa convinzione secondo cui i carichi di lavoro AI personali — dall’analisi delle immagini all’interazione vocale per oltre 100 milioni di utenti mobili — richiedono garanzie di privacy a livello infrastrutturale. Entrambi i team condividono la stessa visione: la prossima generazione di carichi di lavoro cloud, in particolare i servizi AI che elaborano dati personali, necessita di un livello di fiducia verificabile che vada oltre ciò che la sicurezza cloud tradizionale può offrire.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*YWiV7mbB38jQgWPE" /></figure><p>Questo obiettivo comune ha portato alla collaborazione tra i nostri team di ingegneria. Il nostro contributo si è concentrato sull’attestazione remota a livello di Pod, rendendo possibile collegare la fiducia nell’hardware ai singoli carichi di lavoro Kubernetes. OPPO ha apportato una profonda esperienza nelle architetture device-to-cloud e nelle sfide reali legate all’esecuzione di questi sistemi su larga scala. Il documento è il risultato di questa collaborazione.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*yIlIadE18Ayiz-oF" /></figure><p>Attraverso questa collaborazione open-source, il lavoro contribuisce a rafforzare l’infrastruttura di fiducia di OPPO PCC dimostrando come l’attestazione a livello di Pod possa fornire a ogni carico di lavoro AI una catena di identità verificabile che parte dalla CPU. Non sostituisce le misure di sicurezza esistenti. Aggiunge un livello che mancava: un modo per confermare, prima che qualsiasi dato venga elaborato, che l’ambiente sia autentico.</p><h3>Per la comunità più ampia</h3><p>Il design dell’attestazione a livello di Pod è documentato integralmente su arXiv e l’implementazione verrà resa open-source una volta completati i necessari audit di sicurezza. Le applicazioni costruite su dstack beneficeranno direttamente di questo lavoro, ottenendo l’attestazione a livello di Pod senza introdurre nuove dipendenze infrastrutturali.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*e2iVHCVwdMfaUVJ2" /></figure><p>Consideriamo questo come parte di un cambiamento più ampio nel modo in cui vengono valutate le infrastrutture per i servizi AI. Per anni la conversazione si è concentrata sulle prestazioni e sull’elasticità. I carichi di lavoro AI che gestiscono dati personali aggiungono una terza esigenza: la verificabilità. Utenti e sviluppatori dovrebbero poter confermare che l’ambiente che elabora i loro dati sia affidabile, anziché dover semplicemente fidarsi della parola dell’operatore cloud.</p><h3>Cosa ci aspetta</h3><p>La nostra collaborazione con OPPO continua. Stiamo lavorando per portare l’attestazione a livello di Pod più vicina alla piena operatività in produzione all’interno di OPPO PCC ed esplorando applicazioni nel campo degli agenti AI personali, dell’intelligenza on-device che preserva la privacy e del calcolo sicuro multi-parte tra dispositivi.</p><p>Phala rimane impegnata nel progresso del confidential computing open-source. Gli strumenti e le primitive sviluppati attraverso questa collaborazione confluiranno nella roadmap pubblica di dstack, rafforzando le fondamenta open-source per chiunque stia costruendo infrastrutture AI verificabili.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=b1df936f4f5f" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/oppo-phala-portare-la-fiducia-verificabile-nellinfrastruttura-ai-cloud-native-b1df936f4f5f">OPPO × Phala: portare la fiducia verificabile nell’infrastruttura AI cloud-native</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Turbine su Phala TEE: un caso d’uso per un’infrastruttura di trading verificabile]]></title>
            <link>https://medium.com/phala-italia/turbine-su-phala-tee-un-caso-duso-per-un-infrastruttura-di-trading-verificabile-42ad428de419?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/42ad428de419</guid>
            <category><![CDATA[defi]]></category>
            <category><![CDATA[propellerhead]]></category>
            <category><![CDATA[turbine-protocol]]></category>
            <category><![CDATA[phala-network]]></category>
            <category><![CDATA[confidential-computing]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Thu, 25 Jun 2026 06:24:51 GMT</pubDate>
            <atom:updated>2026-06-25T06:24:51.203Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*rH-RCS1eh9lOp_KH" /></figure><blockquote>Traduzione della versione originale in inglese: <a href="https://phala.com/posts/turbine-trading-infra-on-phala-cloud">https://phala.com/posts/turbine-trading-infra-on-phala-cloud</a></blockquote><p>Turbine promette trading a spread zero. Il livello TEE è il modo in cui dimostra questa promessa ai trader.</p><p>PropellerHeads ha recentemente lanciato <a href="https://app.turbine.exchange/">Turbine</a>, un protocollo di trading progettato per regolare operazioni di qualsiasi dimensione con lo spread più basso della finanza. Nessun regolamento continuo. Nessun market maker. Nessun bot di arbitraggio che estragga valore. Solo trader che regolano le operazioni tra loro e con la liquidità DeFi aggregata, in modo lento e privato.</p><p>Il libro ordini e la logica di regolamento vengono eseguiti all’interno delle macchine virtuali confidenziali Intel TDX di Phala Cloud.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*aRtM0SiuM_Mdyasl" /></figure><h3>Senza TEE: il divario di fiducia</h3><p>Un protocollo che raccoglie ordini, li abbina in privato e li regola utilizzando un’unica chiave di firma presenta un punto debole evidente: l’operatore che gestisce il server. Senza garanzie hardware:</p><ul><li><strong>Gli ordini sono esposti.</strong> Chiunque abbia accesso al server — un dipendente, un provider cloud o un attaccante che comprometta l’host — può vedere ogni ordine prima che venga regolato. Il frontrunning non è impedito da alcuna policy; semplicemente non c’è nulla che lo impedisca.</li><li><strong>La chiave di firma è un obiettivo ad alto valore.</strong> Se la chiave risiede su un server tradizionale, estrarla è solo una questione di accesso. Una volta ottenuta, un attaccante può firmare regolamenti arbitrari e i trader potrebbero accorgersene solo quando i fondi sono già stati sottratti.</li><li><strong>Il codice può divergere da quello verificato.</strong> Un protocollo può essere sottoposto ad audit da Trail of Bits e tuttavia eseguire codice differente in produzione. Senza un’attestazione crittografica del binario effettivamente in esecuzione, l’affermazione “siamo stati auditati” ha poco valore.</li></ul><p>Non si tratta di scenari ipotetici. I libri ordini centralizzati e le dark pool hanno una lunga storia di fughe di informazioni, abusi interni e controversie sui regolamenti. Il design di Turbine richiede una risposta diversa.</p><h3>Perché il TEE è imprescindibile</h3><p>Turbine affronta tutti e tre questi problemi eseguendo l’intero stack del libro ordini e del regolamento all’interno del TEE di Phala Cloud.</p><h4>All’interno del TEE</h4><p>Turbine viene eseguito come macchina virtuale confidenziale dstack su Intel TDX. dstack fornisce la piattaforma TEE: inizializza l’enclave, gestisce l’attestazione remota, cifra tutte le comunicazioni di rete e lo storage e funge da unico punto di ingresso per il traffico esterno.</p><p>Su questa piattaforma vengono eseguiti come servizi applicativi il batch solver di Turbine e il motore di routing di Fynd. Il solver utilizza i percorsi DEX individuati da Fynd per calcolare i regolamenti batch ottimali, quindi firma ciascun regolamento con una chiave che esiste esclusivamente all’interno dell’enclave.</p><p>L’intero stack viene misurato in una singola attestazione, in modo che piattaforma e applicazione siano crittograficamente legate tra loro.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/778/1*qY46WNUYZvdFQAADMGk2WA.png" /></figure><h4>Flusso di un batch</h4><p>Gli ordini entrano nell’enclave tramite dstack, vengono aggregati dal solver utilizzando i percorsi di Fynd e i prezzi degli oracle, quindi simulati, firmati e inviati on-chain. La chiave di firma e i dati degli ordini rimangono all’interno del TEE durante tutto il processo.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*SAl9-f-ib1bnHUzm" /></figure><h3>KMS on-chain: trasparenza per impostazione predefinita</h3><p>Turbine utilizza il KMS on-chain di Phala, uno smart contract su Ethereum che governa il ciclo di vita della chiave di firma dell’enclave.</p><p>A differenza di un KMS tradizionale, in cui l’accesso alle chiavi è controllato dalle policy IAM dell’operatore, il KMS on-chain rende la gestione delle chiavi trasparente e verificabile per progettazione.</p><h4>Derivazione della chiave</h4><p>La chiave di firma dei regolamenti viene derivata all’interno dell’enclave tramite il contratto KMS on-chain. Nessun operatore genera una chiave e la carica manualmente.</p><p>Il percorso di derivazione è deterministico, quindi chiunque può verificare che la chiave utilizzata corrisponda alle regole di derivazione previste.</p><h4>Governance degli aggiornamenti del codice</h4><p>Quando Turbine distribuisce una nuova versione del codice, il nuovo hash di misurazione dell’enclave deve essere registrato on-chain tramite il contratto KMS.</p><p>Il KMS rilascia chiavi di firma solo alle enclave la cui misurazione corrisponde a una versione registrata. Se un binario non approvato tenta di richiedere una chiave, non riceve nulla.</p><p>Questo significa che i trader possono verificare in qualsiasi momento quale versione del codice sia autorizzata e che nessun aggiornamento possa essere effettuato in modo silenzioso.</p><h4>Controllo dell’hardware (lato Phala)</h4><p>Non tutti i server che dichiarano di essere macchine TDX sono legittimi. Phala mantiene on-chain un registro dell’hardware approvato.</p><p>Il contratto KMS accetta quote di attestazione solo da macchine che corrispondono al profilo hardware registrato. Un attore malevolo non può avviare un falso “TEE” e farlo riconoscere come ambiente valido per il regolamento.</p><p>L’effetto complessivo è che ogni aspetto del ciclo di vita della chiave di firma — l’hardware su cui viene eseguita, la versione del codice che abilita e i regolamenti che firma — è visibile on-chain. Nessuna scatola nera.</p><h3>Il modello di fiducia</h3><p>Oltre alla gestione delle chiavi, anche l’ambiente di esecuzione è crittograficamente verificabile.</p><p>La chiave di firma e la chiave TLS vengono generate all’interno dell’enclave e non ne escono mai. L’intero stack docker-compose viene incluso nell’attestazione remota tramite hashing.</p><p>Chiunque può:</p><ol><li>Ottenere una quote da /attestation/...</li><li>Verificarla utilizzando qualsiasi verificatore di quote TDX (ad esempio la libreria dcap-qvl di Phala)</li><li>Ricalcolare l’hash per confermare con precisione i componenti effettivamente in esecuzione</li></ol><h3>Specifiche tecniche</h3><ul><li><strong>Tipo di TEE:</strong> Intel TDX tramite dstack</li><li><strong>Gestione delle chiavi:</strong> On-chain KMS (produzione) / Phala KMS (staging)</li><li><strong>Attestazione:</strong> Attestazione remota con quote verificabili pubblicamente</li><li><strong>Networking:</strong> zt-https tra client e CVM</li><li><strong>Storage:</strong> Volumi persistenti cifrati per lo stato degli ordini</li></ul><h3>Conclusioni</h3><p>Turbine si affida al TEE per una ragione concreta: il trading lento richiede libri ordini nascosti, e i libri ordini nascosti richiedono garanzie hardware, non promesse.</p><p>Phala Cloud fornisce tali garanzie: tre container, un file compose e attestazione crittografica.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=42ad428de419" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/turbine-su-phala-tee-un-caso-duso-per-un-infrastruttura-di-trading-verificabile-42ad428de419">Turbine su Phala TEE: un caso d’uso per un’infrastruttura di trading verificabile</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Private AI Gateway: AI privata verificata su infrastrutture di calcolo frammentate]]></title>
            <link>https://medium.com/phala-italia/private-ai-gateway-ai-privata-verificata-su-infrastrutture-di-calcolo-frammentate-4dd310a9899c?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/4dd310a9899c</guid>
            <category><![CDATA[artificial-intelligence]]></category>
            <category><![CDATA[end-to-end-encryption]]></category>
            <category><![CDATA[ai-privacy]]></category>
            <category><![CDATA[opensource-ai]]></category>
            <category><![CDATA[confidential-computing]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Tue, 23 Jun 2026 06:29:00 GMT</pubDate>
            <atom:updated>2026-06-23T06:29:00.464Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*AL-VwGxLISzupWpP" /></figure><blockquote>Traduzione dell’articolo originale in inglese: <a href="https://phala.com/posts/private-ai-gateway-verified-private-ai-compute">https://phala.com/posts/private-ai-gateway-verified-private-ai-compute</a></blockquote><p><a href="https://github.com/Dstack-TEE/private-ai-gateway"><strong>Private AI Gateway</strong></a> trasforma l’<a href="https://docs.phala.com/phala-cloud/confidential-ai/overview">inferenza basata su TEE</a> da una semplice prova a livello di endpoint in una rete verificata: chiavi E2EE attestate, <a href="https://docs.redpill.ai/confidential-ai/open-source">verifica del percorso verso i provider</a>, inoltro <em>fail-closed</em> e <a href="https://docs.redpill.ai/guides/verify-a-response">ricevute firmate</a>.</p><p>L’AI privata ha un problema di verifica.</p><p>Un modello può essere eseguito all’interno di una <a href="https://docs.phala.com/phala-cloud/confidential-ai/overview">TEE</a>. Un provider può pubblicare un <a href="https://github.com/Dstack-TEE/dstack">report di attestazione</a>. Un client può verificare una quote. Tutto questo dimostra una sola cosa: che uno specifico carico di lavoro appariva corretto in uno specifico momento.</p><p>Gli utenti reali dei modelli hanno bisogno di più.</p><p>Devono sapere a quale chiave il loro client ha cifrato i dati. Devono sapere che quella chiave è collegata al workload che hanno verificato. Devono sapere quale percorso di <a href="https://docs.redpill.ai/get-started/models">instradamento del modello</a> ha servito la richiesta. Devono avere prove che routing, fallback, aggiornamenti dei provider e aggiornamenti dei modelli abbiano preservato il percorso privato. Devono disporre di <a href="https://docs.redpill.ai/guides/verify-a-response">ricevute</a> che i team di sicurezza possano ispezionare dopo l’esecuzione della chiamata.</p><p><a href="https://github.com/Dstack-TEE/private-ai-gateway">Private AI Gateway</a> è progettato per questo livello. Trasforma l’inferenza privata da una prova a livello di endpoint in un sistema instradato in cui cifratura, <a href="https://docs.redpill.ai/confidential-ai/open-source">verifica dei provider</a> e <a href="https://docs.redpill.ai/guides/verify-a-response">ricevute</a> accompagnano ogni richiesta.</p><h3>La verifica delle TEE era difficile da trasformare in un prodotto</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*2f024WSmBDc-15Ik" /><figcaption>Architettura: cifratura, routing, verifica dei provider e ricevute rimangono sullo stesso percorso della richiesta.</figcaption></figure><p>Le prime dimostrazioni di inferenza in TEE normalmente dimostrano un singolo endpoint.</p><p>L’utente verifica una quote, controlla le misurazioni, conferma una chiave pubblica e poi invia traffico a quell’endpoint. Questo funziona per un singolo servizio di modelli. Diventa però fragile quando un prodotto instrada le richieste tra modelli, regioni, provider e pool di capacità differenti.</p><p>Gli utenti più esigenti richiedono garanzie più forti di un semplice URL di attestazione verificato una sola volta. Chiedono un collegamento dinamico tra il workload verificato e la chiave o il canale che gestisce il prompt. Chiedono quale percorso abbia servito la richiesta. Chiedono come il sistema si comporti quando un provider aggiorna un modello, ruota le chiavi o restituisce prove parziali.</p><p>La superficie di verifica diventa quindi un problema di prodotto:</p><ul><li><a href="https://github.com/Dstack-TEE/private-ai-gateway"><strong>RA-TLS</strong></a> fornisce un forte legame tra canale e attestazione, ma richiede che ogni stack client gestisca verifiche TLS personalizzate.</li><li><strong>L’attestazione fuori banda con </strong><a href="https://github.com/Dstack-TEE/private-ai-gateway"><strong>pinning SPKI</strong></a> si adatta a client comuni come <a href="https://docs.redpill.ai/get-started/quickstart">OpenAI SDK</a>, httpx, curl e gli stack TLS dei browser. Il verificatore collega il workload attestato alla chiave pubblica TLS.</li><li><a href="https://docs.redpill.ai/guides/verify-a-response"><strong>L’E2EE a livello applicativo</strong></a> introduce un confine di protezione a livello di prompt. La <a href="https://docs.redpill.ai/guides/verify-a-response">chiave pubblica E2EE</a> deve essere attestata e collegata al set di chiavi del workload.</li><li><strong>Le </strong><a href="https://docs.redpill.ai/guides/verify-a-response"><strong>ricevute</strong></a> devono spiegare il percorso effettivo: hash della richiesta, route selezionata, <a href="https://docs.redpill.ai/confidential-ai/open-source">verifica upstream</a>, richiesta inviata al provider, hash della risposta e risposta finale restituita.</li></ul><p><a href="https://github.com/Dstack-TEE/private-ai-gateway">Private AI Gateway</a> integra tutti questi controlli direttamente nel percorso della richiesta.</p><h3>Cosa significa E2EE in questo contesto</h3><p>Qui E2EE significa <strong>cifratura end-to-end a livello applicativo collegata all’attestazione</strong>.</p><p>Il client verifica innanzitutto l’<a href="https://github.com/Dstack-TEE/dstack">attestazione del gateway</a>. Questo report espone l’identità del workload e il relativo set di chiavi attestate. Il client utilizza quindi la <a href="https://docs.redpill.ai/guides/verify-a-response">chiave pubblica E2EE attestata</a> per cifrare i campi JSON sensibili prima che la richiesta lasci il dispositivo del client.</p><p>Solo il <a href="https://github.com/Dstack-TEE/dstack">workload attestato del gateway</a> possiede la corrispondente chiave privata. I metadati di routing possono restare visibili per esigenze di policy, fatturazione, <a href="https://docs.redpill.ai/get-started/models">selezione dei modelli</a> e rate limiting. Il contenuto sensibile del prompt rimane cifrato fino a quando non raggiunge il confine del workload verificato.</p><p>Esistono due modalità utili:</p><ul><li><a href="https://github.com/Dstack-TEE/private-ai-gateway"><strong>TLS attestato</strong></a><strong>:</strong> si verifica il workload, lo si collega alla <a href="https://github.com/Dstack-TEE/private-ai-gateway">SPKI TLS</a> e si utilizzano normali client HTTPS.</li><li><a href="https://docs.redpill.ai/guides/verify-a-response"><strong>ACI E2EE</strong></a><strong>:</strong> si verifica il set di chiavi del workload, si cifrano campi selezionati della richiesta verso la <a href="https://docs.redpill.ai/guides/verify-a-response">chiave E2EE attestata</a> e si mantiene la cifratura del prompt indipendente dal livello di trasporto.</li></ul><p>ACI E2EE rappresenta l’evoluzione del prodotto. Il gateway può continuare a instradare richieste, fatturare, selezionare modelli e generare ricevute, proteggendo al contempo il prompt a livello applicativo.</p><p>Nel codice, il flusso tradizionale a livello di endpoint appare così:</p><pre>// Older endpoint-level flow: verify a gateway/channel, then send normal JSON over HTTPS.<br>const verifier = new TeeVerifier({<br>  expectedMeasurement: process.env.EXPECTED_MEASUREMENT,<br>  expectedTlsSpki: process.env.EXPECTED_TLS_SPKI,<br>});<br><br>await verifier.verifyGateway(&quot;https://gateway.example.com/.well-known/attestation&quot;);<br><br>const client = new OpenAI({<br>  baseURL: &quot;https://gateway.example.com/v1&quot;,<br>  apiKey: process.env.PRIVATE_AI_API_KEY,<br>});<br><br>await client.chat.completions.create({<br>  model: &quot;llama-3.1-8b&quot;,<br>  messages: [{ role: &quot;user&quot;, content: &quot;sensitive prompt&quot; }],<br>});</pre><p>Il flusso ACI E2EE mantiene la compatibilità con le richieste OpenAI e aggiunge un passaggio basato su chiavi attestate:</p><pre>// Flusso ACI E2EE:<br>// ACI E2EE flow: verify the workload keyset, encrypt sensitive fields, then call the same API shape.<br>const report = await verifier.verifyGateway(&quot;https://gateway.example.com/.well-known/attestation&quot;);<br><br>const e2ee = await AciE2EE.fromAttestedKeyset({<br>  gatewayPublicKey: report.e2eePublicKey,<br>  workloadId: report.workloadId,<br>});<br><br>const encryptedMessages = await e2ee.encryptMessages([<br>  { role: &quot;user&quot;, content: &quot;sensitive prompt&quot; },<br>]);<br><br>await client.chat.completions.create({<br>  model: &quot;llama-3.1-8b&quot;,<br>  messages: encryptedMessages,<br>  extra_headers: {<br>    &quot;x-client-pub-key&quot;: e2ee.clientPublicKey,<br>    &quot;x-model-pub-key&quot;: report.e2eePublicKey,<br>    &quot;x-e2ee-version&quot;: &quot;aci-1&quot;,<br>    &quot;x-e2ee-nonce&quot;: e2ee.nonce,<br>  },<br>});</pre><p>La differenza sta nel punto in cui risiede la garanzia. Nel flusso tradizionale si ripone fiducia nel canale verificato. Con ACI E2EE il prompt viene cifrato direttamente verso la chiave del workload attestato, così routing e ricevute restano visibili mentre il contenuto del prompt rimane confinato entro il perimetro verificato.</p><h3>L’infrastruttura privata per l’AI è distribuita e frammentata</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*8A8fLAh27BUXKddk" /><figcaption>Endpoint TEE frammentati diventano una singola rete verificata per l’AI privata.</figcaption></figure><p>La <a href="https://docs.phala.com/phala-cloud/confidential-ai/confidential-model/api-reference/models">capacità di esecuzione dei modelli in TEE</a> è distribuita tra molti provider e differenti modalità di prova.</p><p>Alcuni provider espongono attestazioni specifiche per il modello. Altri offrono verifiche a livello di router. Alcuni si basano sull’attestazione delle GPU. Altri vincolano la SPKI TLS. Alcuni espongono chiavi pubbliche E2EE. Alcuni adottano solidi meccanismi di integrità del modello, come pacchetti di modelli protetti tramite dm-verity e avvio controllato da attestazione GPU. Altri dispongono di ottimi modelli ma di un’esperienza di verifica meno robusta.</p><p>Per gli utenti, questa frammentazione si traduce in complessità operativa:</p><ul><li>ogni modello viene verificato in modo diverso;</li><li>ogni provider espone prove in formati differenti;</li><li>un percorso supporta E2EE mentre un altro supporta TLS attestato;</li><li>un aggiornamento può interrompere una parte dei modelli;</li><li>i team di sicurezza devono analizzare manualmente le prove specifiche di ciascun provider;</li><li>gli sviluppatori richiedono disponibilità elevata, mentre la sicurezza pretende che ogni fallback rimanga verificato.</li></ul><p>Private AI Gateway aggrega le risorse in base alle proprietà delle prove. Un percorso diventa utilizzabile quando soddisfa requisiti di modello, prezzo, latenza, disponibilità e stato di verifica. Il gateway può verificare preventivamente i provider, memorizzare lease di verifica, imporre vincoli di canale e interrompere l’inoltro (<em>fail closed</em>) quando manca una prova richiesta.</p><h3>Il percorso del gateway</h3><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*PxbPNf-GP_BuLLeV" /><figcaption>Percorso di prova: chiave E2EE attestata, route verificata verso il provider e ricevuta firmata.</figcaption></figure><p>Una richiesta che attraversa Private AI Gateway segue un percorso corredato di prove.</p><ol><li>Il client verifica l’attestazione del gateway.</li><li>Il client cifra i campi sensibili verso la chiave E2EE attestata oppure effettua il pinning della SPKI TLS attestata.</li><li>Il gateway riceve la richiesta all’interno del workload attestato.</li><li>Il middleware elabora metadati non sensibili relativi a routing, fatturazione e policy.</li><li>Il backend seleziona una route configurata.</li><li>Prima dell’inoltro, il backend verifica il provider upstream e applica il corretto vincolo di canale: SPKI TLS, chiave E2EE, lease di sessione del provider o prove specifiche del provider.</li><li>La risposta del modello ritorna attraverso il gateway.</li><li>Il gateway firma una ricevuta che copre l’intero percorso della richiesta.</li></ol><p>La ricevuta è l’artefatto che rende il sistema verificabile e sottoponibile ad audit. Può registrare:</p><ul><li>hash della richiesta;</li><li>corpo della richiesta inoltrato dal middleware;</li><li>route selezionata;</li><li>risultato della verifica upstream;</li><li>hash della richiesta inviata al provider;</li><li>hash della risposta del provider;</li><li>hash della risposta finale restituita.</li></ul><p>Questa soluzione è più forte di una semplice firma sulla risposta. Consente all’utente di sapere quale percorso ha gestito la richiesta e quale prova è stata verificata prima che il prompt venisse inoltrato.</p><h3>Ciò che interessa agli utenti più avanzati</h3><p>Gli utenti avanzati pongono domande molto concrete:</p><ul><li>Il client cifra verso una chiave che risiede realmente all’interno del workload attestato?</li><li>La chiave TLS o E2EE può essere ruotata in modo sicuro?</li><li>Cosa accade quando un provider aggiorna un modello e cambiano i campi attesi nella quote?</li><li>Cosa accade quando un vecchio meccanismo di firma utilizza una chiave mentre il verificatore ne attende un’altra?</li><li>Cosa accade quando molti modelli devono essere ricontrollati dopo un bug di integrazione?</li><li>La compatibilità con API standard può coesistere con un elevato livello di qualità delle prove?</li></ul><p>Queste sono domande di prodotto tanto quanto domande di crittografia. Private AI Gateway fornisce una risposta unificata: <strong>un gateway attestato, un backend di verifica delle route, un formato unico di ricevuta e molti upstream verificati.</strong></p><h3>Il contributo di dstack</h3><p><a href="https://github.com/Dstack-TEE/dstack">dstack</a> è il substrato che rende affidabile il gateway.</p><p>Il gateway viene eseguito come workload misurato. dstack fornisce identità del workload, attestazione, chiavi supportate da KMS, binding tramite hash della composizione e rilascio delle chiavi all’interno del perimetro TEE. Questo consente al gateway di esporre una chiave E2EE attestata, firmare ricevute con una chiave appartenente al set attestato e dimostrare quale workload abbia gestito la richiesta.</p><p>Sistemi nello stile di Tinfoil mostrano come si presenta un’inferenza privata robusta presso un singolo provider: avvio verificato, pacchetti di modelli protetti da dm-verity, <a href="https://docs.phala.com/phala-cloud/confidential-ai/confidential-gpu/deploy-and-verify">attestazione GPU</a> e <a href="https://github.com/Dstack-TEE/vllm-proxy">vLLM</a> dietro un’API pulita. Private AI Gateway compie il passo successivo. Può posizionarsi sopra molteplici provider di inferenza privata e trasformare diversi formati di prova in un sistema di verifica a livello di route.</p><p>Questo è il vero avanzamento: <strong>un’infrastruttura privata frammentata diventa una rete verificata.</strong></p><h3>Il cambiamento di paradigma del prodotto</h3><p>L’AI privata dovrebbe sembrare una <a href="https://docs.phala.com/phala-cloud/confidential-ai/confidential-model/confidential-ai-api">normale API per modelli</a>, ma con prove migliori.</p><p>Gli sviluppatori ottengono una superficie API familiare. I team di sicurezza ottengono ricevute firmate. I provider ottengono un modo per contribuire con capacità verificata senza costringere ogni cliente a imparare un formato di prova proprietario.</p><p>Private AI Gateway punta a questa forma di prodotto:</p><ul><li>superficie API standard;</li><li>identità attestata del gateway;</li><li>E2EE per i campi sensibili;</li><li>route upstream verificate;</li><li>inoltro <em>fail-closed</em> quando la prova è obbligatoria;</li><li>ricevute che spiegano esattamente cosa è accaduto.</li></ul><p>È così che l’AI privata passa da dimostrazioni isolate basate su TEE a un’infrastruttura aggregata di calcolo verificato.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=4dd310a9899c" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/private-ai-gateway-ai-privata-verificata-su-infrastrutture-di-calcolo-frammentate-4dd310a9899c">Private AI Gateway: AI privata verificata su infrastrutture di calcolo frammentate</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Eseguire GLM-5.2 con contesto da 1 milione di token su un singolo nodo 8×H200]]></title>
            <link>https://medium.com/phala-italia/eseguire-glm-5-2-con-contesto-da-1-milione-di-token-su-un-singolo-nodo-8-h200-c01021f3ddbd?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/c01021f3ddbd</guid>
            <category><![CDATA[confidential-ai]]></category>
            <category><![CDATA[open-source]]></category>
            <category><![CDATA[phala-cloud-tee]]></category>
            <category><![CDATA[gpu-computing]]></category>
            <category><![CDATA[hopper-gpu]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Fri, 19 Jun 2026 07:21:13 GMT</pubDate>
            <atom:updated>2026-06-19T07:21:13.958Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*YjxZ1tPUY5IKtYDz" /></figure><p>GLM-5.2 offre ai modelli di coding a pesi aperti una vera finestra di contesto da 1 milione di token. La parte difficile è servire questa finestra completa sull’hardware che molti team utilizzano già in produzione: Hopper.</p><p>Abbiamo quantizzato GLM-5.2-FP8 in W4AFP8 e lo abbiamo validato su un singolo nodo 8×H200 con SGLang. Il checkpoint riduce la memoria occupata dai pesi da 755 GB a 368 GB, liberando 387 GB di HBM per la cache KV da 1 milione di token e per il margine operativo di runtime.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*jid5DggMYGG-gGPo" /></figure><h3>Perché è importante</h3><p>GLM-5.2 ha già risolto il problema del contesto lungo dal lato del modello: attenzione sparsa, IndexShare, decodifica speculativa MTP, utilizzo di strumenti (tool use), ragionamento e una finestra di 1.048.576 token. Tuttavia, il deployment presenta un secondo problema. Una finestra da 1 milione di token richiede spazio per i pesi del modello, la cache KV, i grafi CUDA, i buffer di runtime e l’overhead del servizio.</p><p>Il checkpoint FP8 ufficiale rappresenta una solida base generale per il serving. Su Hopper, però, questa base lascia molto meno margine di memoria quando si spinge verso l’intera finestra di contesto. W4AFP8 modifica il bilancio della memoria senza cambiare la famiglia del modello, il tokenizer, la forma dell’API o il comportamento di GLM-5.2.</p><h3>Cosa abbiamo modificato</h3><p>GLM-5.2 è un grande modello MoE (Mixture of Experts). La maggior parte dell’occupazione di memoria dei pesi risiede negli esperti instradati (routed experts), rendendoli il punto con il maggior potenziale di compressione. GLM-5.2-W4AFP8 memorizza i pesi degli esperti MoE instradati come interi a 4 bit con attivazioni FP8. I layer densi, gli esperti condivisi, il meccanismo di attenzione, l’indicizzatore per l’attenzione sparsa e i pesi MTP non appartenenti agli esperti rimangono in FP8 o BF16.</p><p>Il risultato è un checkpoint ottimizzato per Hopper e SGLang. Mantiene l’intero conteggio logico dei parametri di GLM-5.2 e serve lo stesso modello con una precisione inferiore dei pesi. Il numero di parametri mostrato nella pagina Hugging Face riflette gli elementi memorizzati in forma compressa, poiché due pesi da 4 bit condividono un singolo byte.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*sBcd8Z1MMWfkNjpL" /></figure><h3>La qualità è rimasta allineata</h3><p>Abbiamo valutato il checkpoint su 8×H200 con SGLang v0.5.13.post1 utilizzando le impostazioni di campionamento raccomandate per GLM-5.2: temperatura 1.0, top_p 0.95 e ragionamento abilitato. L’obiettivo del benchmark era semplice: dimostrare che il guadagno in memoria preserva la qualità del modello.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*eOJP-IN21O8Vn9PL" /></figure><p>GPQA-Diamond ha ottenuto 90,9 contro il riferimento ufficiale di 91,2. IFBench strict ha ottenuto 75,0 contro 74,3. AA-LCR per il ragionamento su contesti lunghi ha ottenuto 76,0 contro 69,7. Nel test needle-in-a-haystack con circa 983.000 token sono stati recuperati correttamente 3 aghi su 3. La chiamata di strumenti (tool calling) BFCL ha mostrato un comportamento identico a quello di riferimento.</p><p>Questo definisce il perimetro dell’affermazione: GLM-5.2-W4AFP8 è allineato alla baseline ufficiale di GLM-5.2 nei benchmark eseguiti, mantenendo intatti il recupero delle informazioni su contesti lunghi e il tool calling.</p><h3>La decodifica speculativa MTP continua a funzionare</h3><p>GLM-5.2 include un layer Multi-Token Prediction (MTP) per la decodifica speculativa in stile EAGLE. Abbiamo quantizzato e validato anche questo percorso come parte del rilascio. In SGLang, il modello principale continua a verificare ogni token generato in fase di bozza, quindi la decodifica speculativa influisce sulla latenza e sul throughput, non sulla semantica dell’output.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*hW77mtFQGxctrnZY" /></figure><p>Su un singolo flusso, il throughput di decodifica è aumentato da 75 token/s a 118 token/s con EAGLE. Nel test di serving con input da 8K token, output da 1K token e 16 richieste concorrenti, il throughput aggregato di completamento è aumentato da 658 token/s a 733 token/s.</p><h3>Come eseguirlo</h3><p>Il checkpoint è stato validato con SGLang v0.5.13.post1 su GPU Hopper. Utilizzare il percorso di quantizzazione W4AFP8, la cache KV in FP8, i parser di ragionamento e tool calling di GLM e l’intera lunghezza di contesto di 1.048.576 token.</p><pre>python -m sglang.launch_server \<br>  --model-path PhalaCloud/GLM-5.2-W4AFP8 \<br>  --quantization w4afp8 --disable-shared-experts-fusion \<br>  --tp 8 --kv-cache-dtype fp8_e4m3 \<br>  --reasoning-parser glm45 --tool-call-parser glm47 \<br>  --context-length 1048576 --mem-fraction-static 0.85 \<br>  --trust-remote-code</pre><p>Per utilizzare il percorso a 118 token/s su singolo stream, aggiungere la decodifica speculativa EAGLE:</p><pre>--speculative-algorithm EAGLE --speculative-num-steps 1 \<br>--speculative-eagle-topk 1 --speculative-num-draft-tokens 2</pre><h3>Ambito</h3><ul><li>Validato con SGLang v0.5.13.post1.</li><li>Progettato per GPU Hopper: H100 o H200, architettura SM90.</li><li>vLLM e altri motori non sono stati validati per questo checkpoint.</li><li>Il checkpoint eredita capacità, licenza e limitazioni del modello base GLM-5.2.</li></ul><h3>Considerazioni pratiche</h3><p>GLM-5.2 ha reso disponibile un contesto da 1 milione di token in un modello open-weight. GLM-5.2-W4AFP8 rende quella finestra praticabile su un singolo nodo 8×H200.</p><p>Per i team che dispongono di infrastrutture Hopper, questo trasforma GLM-5.2 da un semplice rilascio di un modello a lungo contesto in un obiettivo di serving realmente distribuibile con contesto da 1 milione di token.</p><p><strong>Modello:</strong> <a href="https://huggingface.co/PhalaCloud/GLM-5.2-W4AFP8">GLM-5.2-W4AFP8 su Hugging Face</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=c01021f3ddbd" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/eseguire-glm-5-2-con-contesto-da-1-milione-di-token-su-un-singolo-nodo-8-h200-c01021f3ddbd">Eseguire GLM-5.2 con contesto da 1 milione di token su un singolo nodo 8×H200</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[GLM-5.2 su Phala: AI Confidenziale Open Source SOTA]]></title>
            <link>https://medium.com/phala-italia/glm-5-2-su-phala-ai-confidenziale-open-source-sota-3541e5e21342?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/3541e5e21342</guid>
            <category><![CDATA[ai-agent]]></category>
            <category><![CDATA[confidential-ai]]></category>
            <category><![CDATA[opensource-ai]]></category>
            <category><![CDATA[ai-privacy]]></category>
            <category><![CDATA[phala-cloud-tee]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Wed, 17 Jun 2026 11:48:49 GMT</pubDate>
            <atom:updated>2026-06-17T11:48:49.639Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*Y0nVE6XV7av_QQ4c" /></figure><blockquote>Traduzione dalla versione originale disponibile qui: <a href="https://phala.com/posts/glm-5-2-open-source-sota-confidential-ai-phala">https://phala.com/posts/glm-5-2-open-source-sota-confidential-ai-phala</a></blockquote><p>Phala è partner di lancio di GLM-5.2 e porta il nuovo modello open source SOTA (State of the Art) di Z.ai all’interno di uno stack di inferenza orientato alla privacy, progettato per carichi di lavoro AI in produzione. Il lancio combina la potenza del modello — contesto da 1 milione di token, capacità di coding a lungo orizzonte e pesi aperti — con l’infrastruttura di AI confidenziale di Phala per un’inferenza crittografata supportata da TEE.</p><p>Man mano che i modelli open source diventano più capaci, la domanda non è più se i team possano eseguirli, ma se possano farlo con le garanzie necessarie per gestire dati sensibili. GLM-5.2 offre agli sviluppatori un modello più potente per agenti a lungo contesto, programmazione e ragionamento aziendale. Phala aggiunge il livello infrastrutturale confidenziale che protegge prompt, contesto ed esecuzione dell’inferenza.</p><h3>Phala × GLM-5.2: la privacy AI come livello di deployment</h3><p>La partnership di lancio riguarda il luogo in cui vengono eseguiti i modelli open source più avanzati. Gli sviluppatori desiderano capacità SOTA open source, routing semplice compatibile con OpenAI e garanzie di deployment per prompt sensibili, codice, documenti e tracce degli agenti. Phala rende GLM-5.2 disponibile come percorso di AI confidenziale: prestazioni elevate di un modello open source eseguite su un’infrastruttura progettata con la privacy al primo posto.</p><ul><li>GLM-5.2 offre un nuovo percorso per il ragionamento a lungo contesto, i workflow agentici e le applicazioni ad alta intensità di coding.</li><li>Phala fornisce infrastruttura di AI confidenziale per inferenza crittografata, esecuzione supportata da TEE e proprietà di runtime verificabili.</li><li>Redpill offre ai team una superficie API compatibile con OpenAI per instradare carichi di lavoro di produzione verso questo stack.</li></ul><h3>Punti salienti dei benchmark ufficiali di GLM-5.2</h3><p>Il rilascio di GLM-5.2 da parte di Z.ai posiziona il modello come una soluzione open source per il coding a lungo orizzonte, dotata di una finestra di contesto da 1 milione di token.</p><p>Nei benchmark ufficiali, GLM-5.2 è il modello open source con il punteggio più alto nell’insieme di test dedicato al coding a lungo orizzonte, si colloca a solo l’1% da Claude Opus 4.8 su FrontierSWE, supera GPT-5.5 dell’1% sullo stesso benchmark e mostra miglioramenti significativi rispetto a GLM-5.1 nei benchmark standard di programmazione, inclusi Terminal-Bench 2.1 e SWE-bench Pro.</p><p>Anche Design Arena ha classificato GLM-5.2 al primo posto nella categoria coding con un punteggio di 1360 Elo, evidenziandone i pesi aperti.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*vAAr4hEEy6EKriI_" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*fWrzbp_pVhqxMxiD" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*c3g05BTCEVS3fa1U" /></figure><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*nWwav7Cg56sjD5b1" /><figcaption><em>Fonte: blog ufficiale di Z.ai su GLM-5.2 — benchmark di coding a lungo orizzonte.</em></figcaption></figure><p>Per Phala questo è importante perché capacità più avanzate nel coding agentico e nel contesto esteso aumentano la quantità di dati sensibili che gli sviluppatori desiderano elaborare durante l’inferenza. GLM-5.2 su Phala rappresenta quindi più di un semplice nuovo modello disponibile: è un percorso di lancio per l’attuale modello open source SOTA di AI confidenziale, che collega le capacità del modello alle garanzie di privacy offerte dalle TEE.</p><h3>Benchmark in TEE: GLM-5.2-FP8 su 8×H200 con SGLang</h3><p>Abbiamo testato GLM-5.2-FP8 in un ambiente dotato di 8 GPU H200 utilizzando SGLang 0.5.13.post1. La matrice di benchmark ha impiegato forme di input/output fisse a diversi livelli di concorrenza e la principale metrica di servizio è stata il throughput di completamento per utente concorrente richiesto.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*w47lXYmEEUmXzezo" /></figure><p>Con <strong>1.000 token in input e 1.000 token in output</strong>, GLM-5.2-FP8 mantiene una velocità superiore all’obiettivo di 25 token/s per utente fino a una concorrenza di 64, raggiungendo 25,68 token/s per utente con un throughput aggregato di completamento pari a 1.643,57 token/s.</p><p>Con <strong>8.000 token in input e 1.000 token in output</strong>, il sistema rimane sopra lo stesso obiettivo fino a una concorrenza di 32, raggiungendo 29,85 token/s per utente prima di scendere a 12 token/s per utente con una concorrenza di 64.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*YxKcql9nF9tKvQ2p" /></figure><p>Il throughput aggregato continua a scalare nel test 1k/1k fino a c64. Lo scenario 8k/1k raggiunge invece il picco intorno a c32 e poi diminuisce a c64, poiché la pressione sulla latenza diventa predominante.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*SWcOrOKUGVeKKRPu" /></figure><p>Il <strong>TTFT p99 (Time To First Token)</strong> rappresenta il principale segnale di attenzione per i sistemi di serving in produzione. Nello scenario 8k/1k sale a 8,57 secondi con concorrenza 32 e a 62,97 secondi con concorrenza 64, mentre nel test 1k/1k raggiunge 22,79 secondi a c64, pur mantenendo una velocità superiore all’obiettivo di 25 token/s per utente.</p><h3>Perché l’inferenza confidenziale è importante</h3><p>Il valore di GLM-5.2 cresce con la lunghezza del contesto e la complessità dei compiti. Questo aumenta anche gli obblighi di protezione della privacy: gli agenti AI possono trasportare nei propri prompt e nelle tracce degli strumenti utilizzati contesto proveniente da repository di codice, dati dei clienti, documenti legali, credenziali operative o logiche aziendali proprietarie.</p><p>L’inferenza confidenziale offre ai team un percorso di deployment in cui i carichi di lavoro AI sensibili possono essere eseguiti all’interno di ambienti isolati a livello hardware, con proprietà di runtime verificabili.</p><p>Per gli sviluppatori ciò significa che capacità del modello, throughput e protezione dei dati possono evolvere insieme, anziché rappresentare ostacoli separati all’adozione.</p><h3>Cosa possono eseguire gli sviluppatori</h3><ul><li>Workflow agentici privati che operano su codice sorgente, documenti, strumenti e contesti di progetto di lunga durata.</li><li>Assistenti aziendali che ragionano su dati dei clienti, basi di conoscenza interne e archivi soggetti a requisiti di conformità.</li><li>Migrazioni per sviluppatori che richiedono routing compatibile con OpenAI e un percorso di deployment basato su AI orientata alla privacy.</li></ul><h3>Accesso al modello e prezzi</h3><p>GLM-5.2 è disponibile sia su Phala che su Redpill. Entrambe le piattaforme applicano la stessa tariffazione per token in input e output.</p><h3><a href="https://phala.com/models/z-ai/glm-5%2E2">Phala</a></h3><ul><li>Prezzo input: <strong>1,40 USD per milione di token</strong></li><li>Prezzo output: <strong>4,60 USD per milione di token</strong></li></ul><h3><a href="https://redpill.ai/models/z-ai/glm-5.2">Redpill</a></h3><ul><li>Prezzo input: <strong>1,40 USD per milione di token</strong></li><li>Prezzo output: <strong>4,60 USD per milione di token</strong></li></ul><h3>Configurazione del benchmark</h3><p>Il test è stato eseguito utilizzando <strong>SGLang bench_serving</strong> con un dataset casuale, lunghezze di sequenza di input/output fisse (ISL/OSL), frequenza delle richieste impostata su <em>inf</em>, limiti massimi di concorrenza, <em>apply-chat-template</em>, <em>random-range-ratio</em> pari a 1.0 e un numero di prompt pari a due volte il livello di concorrenza.</p><p>Il backend utilizzava <strong>zai-org/GLM-5.2-FP8</strong>, con:</p><ul><li>TP=8</li><li>cache KV in BF16</li><li>decodifica speculativa EAGLE</li></ul><p>SGLang ha riportato un valore effettivo di <strong>max_running_requests=48</strong> per la decodifica speculativa.</p><p>Il test segue l’attuale framework a sequenza fissa e include attività di cache durante le fasi di warmup ed esecuzione; pertanto, un obiettivo rigoroso di prefill senza cache dovrebbe essere verificato tramite un’esecuzione separata con cache svuotata e disabilitata.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=3541e5e21342" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/glm-5-2-su-phala-ai-confidenziale-open-source-sota-3541e5e21342">GLM-5.2 su Phala: AI Confidenziale Open Source SOTA</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Avviso di incidente di sicurezza: vulnerabilità dell’API di Phala Cloud]]></title>
            <link>https://medium.com/phala-italia/avviso-di-incidente-di-sicurezza-vulnerabilit%C3%A0-dellapi-di-phala-cloud-e63216a5f47f?source=rss-d69e8a564573------2</link>
            <guid isPermaLink="false">https://medium.com/p/e63216a5f47f</guid>
            <category><![CDATA[cybersecurity]]></category>
            <category><![CDATA[phala-cloud-tee]]></category>
            <category><![CDATA[devops]]></category>
            <category><![CDATA[confidential-computing]]></category>
            <dc:creator><![CDATA[Cappex]]></dc:creator>
            <pubDate>Wed, 17 Jun 2026 11:40:39 GMT</pubDate>
            <atom:updated>2026-06-17T11:40:39.622Z</atom:updated>
            <content:encoded><![CDATA[<figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/0*oKYWIt4u9gFDAci-" /></figure><blockquote>Traduzione dalla versione originale disponibile qui: <a href="https://phala.com/posts/security-incident-notice-phala-cloud-api-vulnerability">https://phala.com/posts/security-incident-notice-phala-cloud-api-vulnerability</a></blockquote><p>Il 1° giugno 2026, Phala ha identificato e corretto una vulnerabilità in un endpoint API di Phala Cloud che consentiva modifiche non autorizzate ad alcune CVM. La vulnerabilità è stata contenuta.</p><p>La nostra indagine ha rilevato che l’attaccante ha distribuito uno script malevolo di pre-avvio (<em>pre-launch script</em>) sulle CVM interessate. Lo script potrebbe aver avuto accesso alle variabili d’ambiente decrittografate dopo l’avvio della macchina.</p><p><strong>Azione raccomandata:</strong> i clienti interessati dovrebbero sostituire le CVM coinvolte e ruotare tutti i segreti (<em>secrets</em>) archiviati nelle variabili d’ambiente crittografate. Gli utenti e le CVM interessati sono stati informati direttamente via e-mail.</p><h3>Cosa è successo</h3><p>La vulnerabilità consentiva modifiche non autorizzate ad alcune CVM di Phala Cloud. Dopo aver identificato il problema, abbiamo corretto l’endpoint API interessato e bloccato il vettore di attacco.</p><p>Lo script malevolo di pre-avvio osservato sulle CVM interessate potrebbe aver avuto accesso alle variabili d’ambiente decrittografate dopo l’avvio della CVM.</p><h3>Cronologia</h3><ul><li><strong>2026–05–31T22:26:36.808Z:</strong> prima attività non autorizzata confermata.</li><li><strong>2026–06–01T15:47:49.456Z:</strong> vulnerabilità identificata e API corretta.</li></ul><h3>Impatto</h3><ul><li>Le CVM che utilizzano <strong>Onchain KMS</strong> non rientrano nell’ambito dell’incidente.</li><li>Potrebbero essere interessate solo le CVM che utilizzano <strong>Offchain KMS</strong>.</li><li>I segreti archiviati nelle variabili d’ambiente crittografate delle CVM interessate devono essere considerati compromessi.</li><li>Le credenziali dei registry AWS, incluse le credenziali <strong>ECR</strong>, devono essere considerate compromesse se sono state utilizzate dalle CVM interessate.</li></ul><h3>Azioni raccomandate</h3><ul><li>Considerare compromesse le CVM interessate e sostituirle.</li><li>Ruotare tutti i segreti archiviati nelle variabili d’ambiente crittografate.</li><li>Ruotare le credenziali dei registry AWS e le credenziali di altri servizi esterni utilizzate dalle CVM interessate.</li></ul><h3>Notifiche ai clienti</h3><p>Abbiamo notificato direttamente via e-mail gli utenti e le CVM interessati.</p><h3>Indagine in corso</h3><p>Stiamo proseguendo le indagini e forniremo ulteriori aggiornamenti quando necessario. I clienti possono contattare il team di Phala Cloud per qualsiasi domanda o programmare un incontro per discutere del proprio ambiente specifico.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=e63216a5f47f" width="1" height="1" alt=""><hr><p><a href="https://medium.com/phala-italia/avviso-di-incidente-di-sicurezza-vulnerabilit%C3%A0-dellapi-di-phala-cloud-e63216a5f47f">Avviso di incidente di sicurezza: vulnerabilità dell’API di Phala Cloud</a> was originally published in <a href="https://medium.com/phala-italia">Phala Italia</a> on Medium, where people are continuing the conversation by highlighting and responding to this story.</p>]]></content:encoded>
        </item>
    </channel>
</rss>