Inferencia y servicio gratis — ordenados por valor
Opciones de inferencia y servicio con acceso gratuito o de baja fricción, comparadas con datos canónicos y fuentes verificables.
vLLM
vLLM ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 9.0 / 10Inferencia y serviciollama.cpp
llama.cpp ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 8.6 / 10Inferencia y servicioRay Serve
Ray Serve ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 8.3 / 10Inferencia y servicioTensorRT-LLM
TensorRT-LLM ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 8.3 / 10Inferencia y servicioLocalAI
LocalAI ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 8.0 / 10Inferencia y servicioOllama
Ollama ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 7.8 / 10Inferencia y servicioKoboldCpp
KoboldCpp ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 7.6 / 10Inferencia y servicioJan
Jan ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 7.5 / 10Inferencia y servicioLMDeploy
LMDeploy ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 7.3 / 10Inferencia y servicioXinference
Xinference ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 7.1 / 10Inferencia y servicioKServe
KServe ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 7.1 / 10Inferencia y serviciollamafile
llamafile ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.9 / 10Inferencia y servicioMLC LLM
MLC LLM ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.9 / 10Inferencia y servicioKTransformers
KTransformers ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.9 / 10Inferencia y servicioOutlines
Outlines ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.9 / 10Inferencia y servicioGPUStack
GPUStack ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.9 / 10Inferencia y serviciollm-d
llm-d ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.9 / 10Inferencia y servicioTriton Inference Server
Triton Inference Server ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.8 / 10Inferencia y servicioRamaLama
RamaLama ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.5 / 10Inferencia y servicioLightLLM
LightLLM ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.3 / 10Inferencia y servicioCTranslate2
CTranslate2 ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.2 / 10Inferencia y servicionano-vLLM
nano-vLLM ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 6.0 / 10Inferencia y servicioGuidance
Guidance ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.9 / 10Inferencia y servicioXGrammar
XGrammar ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.9 / 10Inferencia y servicioText Embeddings Inference
Text Embeddings Inference ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.6 / 10Inferencia y servicioAphrodite Engine
Aphrodite Engine ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.6 / 10Inferencia y servicioLLGuidance
LLGuidance ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.4 / 10Inferencia y servicioText Generation Inference
Text Generation Inference ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.3 / 10Inferencia y servicioGPT4All
GPT4All ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.0 / 10Inferencia y servicioLoRAX
LoRAX ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 5.0 / 10Inferencia y servicioExLlamaV2
ExLlamaV2 ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 4.4 / 10Inferencia y servicioLM Format Enforcer
LM Format Enforcer ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 4.4 / 10Inferencia y servicioCortex
Cortex ofrece una opción comparable con datos de acceso, límites y calidad.
Puntuación: 3.9 / 10