Cómo ajustar un modelo neuronal de 8B en un portátil con una GPU de 4 GB
Una guía práctica para ajustar modelos de 8B en hardware de consumo usando Soup—una herramienta CLI que aporta streaming de capas y pipelines automatizados a GPUs pequeñas.
Idioma
InicioLenguajes
Secciones
Una guía práctica para ajustar modelos de 8B en hardware de consumo usando Soup—una herramienta CLI que aporta streaming de capas y pipelines automatizados a GPUs pequeñas.
Aprende a detectar y enmascarar automáticamente PII como números de pasaporte y tarjetas de crédito en logs usando la biblioteca Presidio de Microsoft con ejemplos en Python.
txtai es una biblioteca Python todo en uno que combina base de datos vectorial, búsqueda híbrida con SQL, análisis de grafos y orquestación de LLM para pipelines RAG.
SD.Next es un fork del WebUI de Automatic1111 que añade soporte multiplataforma, gestión eficiente de recursos y herramientas integradas para generación de imágenes y vídeo.
MLX-Audio ofrece capacidades ultrarrápidas de TTS, STT y STS para Macs con Apple Silicon. Construido sobre el framework MLX de Apple, ofrece Whisper, Kokoro, clonación de voz y más, todo ejecutándose localmente sin costos en la nube.