初始化项目,由ModelHub XC社区提供模型
Model: Dongwookss/futfut_by_zephyr7b_gguf Source: Original Platform
This commit is contained in:
30
README.md
Normal file
30
README.md
Normal file
@@ -0,0 +1,30 @@
|
||||
---
|
||||
license: apache-2.0
|
||||
datasets:
|
||||
- Dongwookss/q_a_korean_futsal
|
||||
- Dongwookss/prac_fut
|
||||
- mintaeng/llm_futsaldata_yo
|
||||
language:
|
||||
- ko
|
||||
tags:
|
||||
- trl
|
||||
- unsloth
|
||||
base_model:
|
||||
- Dongwookss/futfut_by_zephyr7b
|
||||
---
|
||||
<p align="center">
|
||||
<img src="https://cdn-uploads.huggingface.co/production/uploads/66305fd7fdd79b4fe6d6a5e5/7UDKdaPfBJnazuIi1cUVw.png" width="400" height="400">
|
||||
</p>
|
||||
|
||||
- **Base Model :** 'HuggingFaceH4/zephyr-7b-beta'
|
||||
|
||||
|
||||
- **Purpose :** '얼마든지 물어보세요~! 풋풋!'이 말 끝에 붙으며 '해요'체를 사용하는 챗봇을 구현하려고 한다. 프로젝트 목적상 RAG를 통해 풋살 도메인에 대한 정보를 제공하는 '풋풋이' 컨셉이기에 말투 설정이 이와 같다.
|
||||
|
||||
|
||||
- **Method :** Unsloth 패키지를 사용하여 gpu 자원이 초과되지 않도록 하였으며 SFTrainer를 사용하여 모델훈련을 진행함.
|
||||
|
||||
|
||||
- **Environ :** Colab L4 GPU를 사용하여 진행하였습니다.
|
||||
|
||||
- **About gguf :** 풋풋이 최종 버전을 만들기 위해 각 단계별 모델을 저장하였습니다. 모델 **양자화(Quantize)** 종류로 F16, Q8_0, Q5_K_M 3가지로 저장하였습니다.
|
||||
Reference in New Issue
Block a user