Hoe de beveiliging van AI-services en -agents controleren met AI Infra Guard

Onlangs stuitte ik op de AI-Infra-Guard repository (afgekort als A.I.G) van het onderzoeksteam van Tencent's Zhuque Lab. Het project pakt een specifiek en nogal pijnlijk probleem aan: zodra je lokale AI-services opzet zoals vLLM, Ollama, of ComfyUI, of begint met het verbinden van plug-ins van derden en MCP-servers met je LLM, breidt het beveiligingsperimeter zich onmiddellijk uit.

Standaard vulnerability scanners begrijpen de specificaties van de AI-stack slecht. Ze kunnen modellen niet testen op jailbreaks, controleren geen instructiemanipulatie in agent-skills, en zijn niet op de hoogte van inference framework-specifieke handtekeningen. De Tencent-ontwikkelaars hebben een kant-en-klaar platform voor continue monitoring en geautomatiseerde auditing van de gehele AI-pijplijn open source vrijgegeven.

Wat de scanner kan doen

Het platform dekt meerdere beveiligingslagen, van netwerkinfrastructuur tot prompt- en tool-logica.

1. Netwerkgebaseerde AI-infrastructuur scanning

Het hulpmiddel maakt verbinding met een draaiende service via IP of URL en legt de digitale vingerafdruk vast. De database herkent meer dan 100 componenten (Ollama, ComfyUI, vLLM, n8n, Triton Inference Server) en vergelijkt ze met een database van meer dan 20.000 bekende CVE's.

Je kunt een enkele instantie of een heel subnet scannen.

2. MCP-server en agent-skill auditing

Met de verspreiding van het Model Context Protocol (MCP) en agent-engines is er een nieuwe bedreigingsvector ontstaan: kwaadaardige code in plugbare tools, toolvergiftiging en referentielekkage.

A.I.G kan zowel de broncode van een MCP-server repository als geüploade archieven analyseren. De scanner controleert negen risicocategorieën volgens de SkillTrustBench-classificatie:

• Skill-instructiekaping en contextgeheugenvergiftiging
• Verborgen uitvoerbare code-injectie en payload-downloads
• Bevoegdheidescalatie in het systeem
• Onveilige afhankelijkheden en tool-spoofing

3. Beoordeling van weerstand tegen jailbreaks

De Jailbreak Evaluation-module omvat verschillende LLM-aanvalstechnieken (inclusief meerstapsaanvallen zoals Many-Shot, PAIR, GOAT en ActorAttack). Je verbindt het eindpunt van het doelmodel via API, selecteert een benchmark, en de scanner voert tests uit, waarbij een rapport wordt geproduceerd met percentages van succesvolle aanvallen en de zwakke punten van het model.

Snelle start

De eenvoudigste manier om het platform lokaal te deployen is door de kant-en-klare image te starten via Docker Compose. Je hebt een machine nodig met 4 GB RAM en ongeveer 10 GB schijfruimte.

git clone https://github.com/Tencent/AI-Infra-Guard.git
cd AI-Infra-Guard
docker compose -f docker-compose.images.yml up -d

De webinterface is beschikbaar op http://localhost:8088.

Let op: de repository stelt expliciet dat de ingebouwde server momenteel geen authenticatiemechanisme heeft. Het公开stellen ervan op het openbare internet wordt sterk afgeraden—draai het alleen binnen een intern netwerk of op een lokale machine.

Skill-audits uitvoeren via CLI

Als je agent-controles in CI/CD moet integreren zonder de webinterface te starten, heeft het project een apart CLI-pakket:

pip install aig-skill-scan

export LLM_API_KEY="your-api-key"

# Сканирование директории с кодом скилла
aig-skill-scan --repo /path/to/your/skill \
               -m deepseek-v4-flash \
               --language en \
               -o result.json

Hoe auditing in de praktijk werkt

Stel dat er een vLLM-inferentie-instantie draait op je lokale server op poort 8000. Om deze te controleren op bekende kwetsbaarheden:

1. Open de webinterface op http://localhost:8088.
2. Navigeer naar de sectie AI Infra Scan.
3. Voer het netwerkadres http://127.0.0.1:8000 in het adresveld in.
4. Voer de controle uit. De scanner identificeert de componentversie, vergelijkt deze met de regeldatabase, en toont een lijst van ontdekte CVE's met links naar patches.

Tool-repositories worden op vergelijkbare wijze gecontroleerd: je geeft een link naar een GitHub MCP-serverimplementatie, en de scanner parseert de syntax, controleert permissies, padafhandeling en netwerk-oproepen.

Wie heeft hier baat bij

Het project is gericht op teams die LLMs en AI-agents actief integreren in hun workflows:

• AppSec en beveiligingsspecialisten: een kant-en-klaar regelset voor het testen van de AI-stack van je bedrijf zonder exploits handmatig te hoeven samenstellen.
• MCP- en agent-ontwikkelaars: de CLI-tool aig-skill-scan integreert eenvoudig in pre-commit hooks of GitHub Actions-pijplijnen om plugbare plugins te controleren vóór deployment.
• MLOps-ingenieurs: een snelle manier om je interne netwerk te scannen en te verzekeren dat geen collega's een ongepatchte Ollama- of ComfyUI-server extern hebben blootgesteld.