Uber rilascia come open source il sistema di protezione degli agenti AI ADR

Immaginate questo scenario: consentite agli sviluppatori di utilizzare assistenti di codifica come Claude Code o Cursor. Gli agenti navigano liberamente nella console, eseguono comandi, leggono file e chiamano API esterne tramite il Model Context Protocol (MCP). Improvvisamente, un'iniezione di prompt non rilevabile finisce in uno dei file in fase di elaborazione. L'agente legge l'istruzione dannosa e invia silenziosamente le chiavi private a un server esterno.

Uber ha incontrato questa minaccia direttamente. Per proteggere i processi interni e i bot di supporto ai clienti, gli ingegneri dell'azienda hanno creato il sistema ADR (Agentic AI Detection and Response). Gli autori hanno recentemente rilasciato il progetto come open source su GitHub e pubblicato un articolo di ricerca per la conferenza MLSys 2026.

Di cosa si compone ADR

Uber utilizza già ADR in produzione. Alcuni componenti rimangono nei repository interni dell'azienda (ad esempio, il motore Prevention per il blocco automatico di azioni pericolose e lo strumento di audit automatizzato ADR Explorer). Tuttavia, la parte principale dell'architettura è stata rilasciata sotto licenza Apache 2.0.

La parte open source del progetto è suddivisa in tre blocchi:

• Observability (Sensor). Raccoglie e applica uno schema unificato alla telemetria da più di 7 strumenti di sviluppo popolari. Funziona su macOS, Linux e Windows.
• Benchmark (ADR-Bench). Un ambiente di test per la validazione della sicurezza. È composto da 303 attività, 133 server MCP e copre 17 tecniche di attacco contro agenti autonomi.
• Detection (ADR Detector). Un modulo a due livelli per il rilevamento delle minacce nei log di attività degli agenti.

Raccolta della telemetria senza dipendenza da uno strumento specifico

La principale sfida nel tracciamento degli agenti AI è la frammentazione dei log. Cursor scrive i log in un formato, Claude Code in un altro e un bot interno dell'azienda in un terzo.

Il modulo Sensor recupera gli eventi grezzi da ogni strumento e li normalizza in un formato comune. Cattura non solo il testo dei messaggi, ma anche le catene di intenti, le chiamate di funzioni specifiche e i risultati dell'esecuzione dei comandi. Questo fornisce al team di sicurezza un flusso di eventi unificato, indipendentemente dall'ambiente in cui l'ingegnere stava lavorando.

Dopo di ciò, è possibile eseguire uno scenario di test standard. Se non si hanno a disposizione chiavi API o non si vogliono spendere token, il progetto include una modalità di validazione locale leggera:

Istruzioni dettagliate per riprodurre i grafici e le metriche dell'articolo di ricerca sono disponibili nel file docs/REPRODUCIBILITY.md.

Chi dovrebbe prestare attenzione al progetto

Il repository ha raccolto circa 650 stelle finora, ma il suo valore pratico è immediatamente evidente. A differenza di molti framework teorici, ADR è nato da una reale esigenza di una grande azienda di proteggere i propri dipendenti.

Il progetto sarà utile per:

• Specialisti di sicurezza informatica che cercano modi per controllare l'utilizzo degli assistenti AI all'interno dell'azienda.
• Ricercatori che necessitano di un benchmark pronto all'uso per testare la sicurezza degli agenti LLM.
• Sviluppatori di agenti proprietari che vogliono studiare lo schema di raccolta e normalizzazione della telemetria.

Naturalmente, la versione open source non include ancora il modulo di prevenzione automatica degli attacchi (Prevention). Ma anche nel suo stato attuale, ADR fornisce un'eccellente base per costruire un sistema di monitoraggio degli strumenti AI all'interno di un team.