Inferencia y servicio

nano-vLLM

nano-vLLM: datos del nivel gratuito, límites, puntuación y fuentes verificables para comparar esta opción de inferencia y servicio.

Puntuación

6.0 / 10

Nivel gratuito

Bueno

Lenguaje

Python

Licencia

MIT

Estrellas

14.3k★

Tipo

Ligero

Autohospedaje

Sí

Repositorio

GeeeekExplorer/nano-vllm

Sitio web

https://github.com/GeeeekExplorer/nano-vllm