Inferencia y servicio

llama.cpp

llama.cpp: datos del nivel gratuito, límites, puntuación y fuentes verificables para comparar esta opción de inferencia y servicio.

Puntuación: 8.6 / 10
Nivel gratuito: Sólido
Lenguaje: C++
Licencia: MIT
Estrellas: 119k★
Tipo: Ligero
Autohospedaje: Sí
Repositorio: ggml-org/llama.cpp
Sitio web: https://github.com/ggml-org/llama.cpp

Visitar el sitio oficial ↗