diff --git a/README.md b/README.md index 67188d0..54ce06b 100644 --- a/README.md +++ b/README.md @@ -10,10 +10,9 @@ pipeline_tag: text-generation ## 介绍 -* 中国联通AI创新中心发布业界第一个llama3中文指令微调模型,全参数微调(非lora),2024年4月19日22点 +* 中国联通AI创新中心发布业界第一个llama3中文指令微调模型长文本版本,全参数微调(非lora),2024年4月26日19点 * 本模型以[**Meta Llama 3**](https://huggingface.co/collections/meta-llama/meta-llama-3-66214712577ca38149ebb2b6)为基础,增加中文数据进行训练,实现llama3模型高质量中文问答 -* 模型上下文保持原生长度8K,支持长度64K版本将于后续发布 -* 陆续发布700亿参数中文微调版本,长文本版本和加入中文二次预训练版 +* 此模型上下文原生长度28K,比原始版本上下文长度8k提高了20k * 基础模型 [**Meta-Llama-3-8B**](https://huggingface.co/meta-llama/Meta-Llama-3-8B)