Comment réduire les coûts des agents LLM sans perdre en qualité
Headroom est une couche open-source de compression de contexte locale qui intercepte le flux d'informations avant l'envoi aux LLM, réduisant les coûts des tokens de 60 à 95% sans perte de précision.