latxa-7b-v1-gguf/README.md

language, pipeline_tag, tags, model_name, base_model

language	pipeline_tag	tags	model_name	base_model
eu	text-generation	gguf latxa 7b hitz llama	latxa-7b-v1	HiTZ/latxa-7b-v1

Latxa 7b GGUF

Provided files

Name	Quant method	Bits	Size	Max RAM required	Use case
latxa-7b-v1.gguf			26 GB
latxa-7b-v1-f16.gguf			13 GB
latxa-7b-v1-q8_0.gguf	Q8_0		6,7 GB