Python
Come distribuire qualsiasi modello AI open-source con API OpenAI in un solo comando
OpenLLM ti permette di distribuire qualsiasi modello AI open-source con un endpoint API compatibile con OpenAI in un singolo comando. Costruito su BentoML e vLLM.