Inferencia y servicio

KoboldCpp

KoboldCpp: datos del nivel gratuito, límites, puntuación y fuentes verificables para comparar esta opción de inferencia y servicio.

Puntuación

7.6 / 10

Nivel gratuito

Sólido

Lenguaje

C++

Licencia

AGPL-3.0

Estrellas

10.9k★

Tipo

Ligero

Autohospedaje

Sí

Repositorio

LostRuins/koboldcpp

Sitio web

https://github.com/LostRuins/koboldcpp