gemma-2-baku-2b-it-GGUF/README.md

license, language, tags, pipeline_tag, library_name, base_model, base_model_relation

license	language	tags	pipeline_tag	library_name	base_model	base_model_relation
gemma	ja en	gemma2 conversational	text-generation	transformers	rinna/gemma-2-baku-2b-it	quantized

rinna様の rinna/gemma-2-baku-2b-it をGGUF形式に変換したものです。 K量子化モデルについてもiMatrix適用してあります。

iMatrixテキストはTFMC様のc4_en_ja_imatrix.txtを使用しています。