Files
Vecteus-V2-7B-GGUF/README.md

14 lines
491 B
Markdown
Raw Normal View History

---
license: apache-2.0
language:
- ja
tags:
- Mistral
library_name: transformers
pipeline_tag: text-generation
---
Local-Novel-LLM-project様の [Vecteus-V2-7B](https://huggingface.co/Local-Novel-LLM-project/Vecteus-V2-7B) をGGUF形式に変換したものです。
K量子化モデルについてもiMatrix適用してあります。
iMatrixテキストはTFMC様の[c4_en_ja_imatrix.txt](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用しています。