Inferencia y servicio

ExLlamaV2

ExLlamaV2: datos del nivel gratuito, límites, puntuación y fuentes verificables para comparar esta opción de inferencia y servicio.

Puntuación
4.4 / 10
Nivel gratuito
Emergente
Lenguaje
Python
Licencia
MIT
Estrellas
4.6k★
Autohospedaje
Repositorio
turboderp-org/exllamav2
Sitio web
https://github.com/turboderp-org/exllamav2
Visitar el sitio oficial ↗