YZH_Model/README.md

base_model, base_model_relation, datasets, domain, frameworks, language, license, models, tags, tasks

base_model	base_model_relation	datasets	domain	frameworks	language	license	models	tags	tasks
Qwen/Qwen2.5-7B-Instruct	finetune	evaluation test train null null null	null	other	zh en	Apache License 2.0	null	null	text-generation

Clone with HTTP

 git clone https://www.modelscope.cn/studios/ysqlian/YZH_Model.git

#YZH-完整模型-Q4_K_M

这是一个使用 Qwen 架构，由我收集数据并从头训练（Pre-trained from Scratch）的语言模型。

本仓库提供的是经过 Q4_K_M 量化的 GGUF 版本，专为使用 llama.cpp 进行本地推理而设计。

“##模型详情”

量化格式：GGUF (Q4_K_M) 参数量：8B 语言：中文、英文 ##如何使用

你可以使用 llama.cpp 在本地运行此模型。

###命令行推理

./main -m YZH-Full-Model-Q4_K_M.gguf -p "你好，请介绍一下你自己。" -n 512 -c 8192