Inferencia y servicio

vLLM

vLLM: datos del nivel gratuito, límites, puntuación y fuentes verificables para comparar esta opción de inferencia y servicio.

Puntuación

9.0 / 10

Nivel gratuito

Excepcional

Lenguaje

Python

Licencia

Apache-2.0

Estrellas

85.3k★

Autohospedaje

Sí

Repositorio

vllm-project/vllm

Sitio web

https://docs.vllm.ai