---
base_model:
- Qwen/Qwen2.5-7B-Instruct
base_model_relation: finetune
datasets:
  evaluation: null
  test: null
  train: null
domain: null
frameworks: other
language:
- zh
- en
license: Apache License 2.0
models: null
tags:
- null
tasks:
- text-generation
---
#### Clone with HTTP
```bash
 git clone https://www.modelscope.cn/studios/ysqlian/YZH_Model.git
```
#YZH-完整模型-Q4_K_M

这是一个使用 Qwen 架构，由我收集数据并从头训练（Pre-trained from Scratch）的语言模型。

本仓库提供的是经过 Q4_K_M 量化的 GGUF 版本，专为使用 llama.cpp 进行本地推理而设计。

“##模型详情”

量化格式：GGUF (Q4_K_M)
参数量：8B
语言：中文、英文
##如何使用

你可以使用 llama.cpp 在本地运行此模型。

###命令行推理

./main -m YZH-Full-Model-Q4_K_M.gguf -p "你好，请介绍一下你自己。" -n 512 -c 8192