ChineseErrorCorrector3-4B-GGUF/README.md

language, base_model, pipeline_tag, tags

language	base_model	pipeline_tag	tags
zh	twnlp/ChineseErrorCorrector3-4B	text-generation	GGUF

renz7/ChineseErrorCorrector3-4B-GGUF

twnlp/ChineseErrorCorrector3-4B GGUF format.

Usage

llama-cli -m ~/Downloads/cec3-4b-q4_k_m.gguf -ngl 20 -t 4 -p "你是一个文本纠错专家，纠正输入句子中的语法错误，并输出正确的句子，输入句子为: 认真工作,一丝不够"

Thanks

• twnlp/ChineseErrorCorrector3-4B
• llama.cpp