13 lines
635 B
Markdown
13 lines
635 B
Markdown
|
firefly-llama2-13b模型，目前在Open LLM排行榜上，以62分的成绩，在所有13B模型中排名第三，且仅比榜首略低0.5分。
|
|||
|
|
|
|||
|
|
**该模型是个英文模型，仅使用英文数据训练，未针对中文扩充词表**
|
|||
|
|
|
|||
|
|
值得注意的是，我们采用了qlora技术，比其他排名前列的模型，需要更少的训练资源，24G的显卡即可训练百亿模型。
|
|||
|
|
|
|||
|
|
训练代码以及更多细节，欢迎关注我们的开源中文大模型项目[Firefly](https://github.com/yangjianxin1/Firefly)， 以及公众号【YeungNLP】
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
|