初始化项目,由ModelHub XC社区提供模型
Model: YeungNLP/firefly-llama2-13b Source: Original Platform
This commit is contained in:
12
README.md
Normal file
12
README.md
Normal file
@@ -0,0 +1,12 @@
|
||||
firefly-llama2-13b模型,目前在Open LLM排行榜上,以62分的成绩,在所有13B模型中排名第三,且仅比榜首略低0.5分。
|
||||
|
||||
**该模型是个英文模型,仅使用英文数据训练,未针对中文扩充词表**
|
||||
|
||||
值得注意的是,我们采用了qlora技术,比其他排名前列的模型,需要更少的训练资源,24G的显卡即可训练百亿模型。
|
||||
|
||||
训练代码以及更多细节,欢迎关注我们的开源中文大模型项目[Firefly](https://github.com/yangjianxin1/Firefly), 以及公众号【YeungNLP】
|
||||
|
||||

|
||||
|
||||

|
||||
|
||||
Reference in New Issue
Block a user