license, base_model, language, library_name, tags

license	base_model	language	library_name	tags
apache-2.0	BSC-LT/salamandra-2b-instruct	es ca en pt	llama.cpp	gguf llama.cpp quantized spanish

Salamandra 2B Instruct GGUF

Conversión propia de BSC-LT/salamandra-2b-instruct a GGUF para uso con llama.cpp.

Archivos

• salamandra-2b-instruct-fp16.gguf
• salamandra-2b-instruct-Q4_K_M.gguf

Notas

El archivo Q4_K_M fue cuantizado con llama.cpp. Algunos tensores requirieron fallback automático a otros formatos de cuantización por restricciones de forma.

Uso con llama.cpp

./llama-cli -m salamandra-2b-instruct-Q4_K_M.gguf -cnv