初始化项目,由ModelHub XC社区提供模型
Model: yukihamada/ElioChat-1.7B-Instruct-v3 Source: Original Platform
This commit is contained in:
37
.gitattributes
vendored
Normal file
37
.gitattributes
vendored
Normal file
@@ -0,0 +1,37 @@
|
|||||||
|
*.7z filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.arrow filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.bin filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.bz2 filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.ckpt filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.ftz filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.gz filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.h5 filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.joblib filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.lfs.* filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.mlmodel filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.model filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.msgpack filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.npy filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.npz filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.onnx filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.ot filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.parquet filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.pb filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.pickle filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.pkl filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.pt filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.pth filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.rar filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.safetensors filter=lfs diff=lfs merge=lfs -text
|
||||||
|
saved_model/**/* filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.tar.* filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.tar filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.tflite filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.tgz filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.wasm filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.xz filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.zip filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*.zst filter=lfs diff=lfs merge=lfs -text
|
||||||
|
*tfevents* filter=lfs diff=lfs merge=lfs -text
|
||||||
|
ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf filter=lfs diff=lfs merge=lfs -text
|
||||||
|
ElioChat-1.7B-Instruct-v3-F16.gguf filter=lfs diff=lfs merge=lfs -text
|
||||||
3
ElioChat-1.7B-Instruct-v3-F16.gguf
Normal file
3
ElioChat-1.7B-Instruct-v3-F16.gguf
Normal file
@@ -0,0 +1,3 @@
|
|||||||
|
version https://git-lfs.github.com/spec/v1
|
||||||
|
oid sha256:0dfd51374d484203fddfbb20824cd55f6fd9d76969373234d69e4944b0623357
|
||||||
|
size 3447344800
|
||||||
3
ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf
Normal file
3
ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf
Normal file
@@ -0,0 +1,3 @@
|
|||||||
|
version https://git-lfs.github.com/spec/v1
|
||||||
|
oid sha256:82652c12c33044a23e66f55fc8ecdb67bd05bb5a968b7a1f4134ee086ba5638a
|
||||||
|
size 1257875104
|
||||||
136
README.md
Normal file
136
README.md
Normal file
@@ -0,0 +1,136 @@
|
|||||||
|
---
|
||||||
|
license: other
|
||||||
|
license_name: qwen
|
||||||
|
license_link: https://huggingface.co/Qwen/Qwen3-1.7B/blob/main/LICENSE
|
||||||
|
language:
|
||||||
|
- ja
|
||||||
|
- en
|
||||||
|
base_model: Qwen/Qwen3-1.7B
|
||||||
|
tags:
|
||||||
|
- gguf
|
||||||
|
- japanese
|
||||||
|
- thinking
|
||||||
|
- llama.cpp
|
||||||
|
- ios
|
||||||
|
- iphone
|
||||||
|
- local-llm
|
||||||
|
library_name: transformers
|
||||||
|
pipeline_tag: text-generation
|
||||||
|
---
|
||||||
|
|
||||||
|
# ElioChat-1.7B-Instruct-v3
|
||||||
|
|
||||||
|
iPhoneで動く日本語思考AI。Qwen3-1.7Bベースに日本語思考データでファインチューニング。
|
||||||
|
|
||||||
|
## 特徴
|
||||||
|
|
||||||
|
- **思考過程が見える**: `<think>...</think>` タグで推論プロセスを表示
|
||||||
|
- **日本語最適化**: 日本語・日本文化に特化した1,166件の学習データ
|
||||||
|
- **軽量**: Q5_K_M量子化で約1.2GB、iPhone 13以降で快適動作
|
||||||
|
- **学習コスト**: わずか$0.70(約100円)
|
||||||
|
|
||||||
|
## ダウンロード
|
||||||
|
|
||||||
|
| ファイル | サイズ | 用途 |
|
||||||
|
|----------|--------|------|
|
||||||
|
| `ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf` | 1.2 GB | 推奨(バランス型)|
|
||||||
|
| `ElioChat-1.7B-Instruct-v3-F16.gguf` | 3.2 GB | 高品質版 |
|
||||||
|
|
||||||
|
## 使用例
|
||||||
|
|
||||||
|
### llama.cpp
|
||||||
|
|
||||||
|
```bash
|
||||||
|
llama-cli -m ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf \
|
||||||
|
-p "<|im_start|>user\n2の10乗は?<|im_end|>\n<|im_start|>assistant\n" \
|
||||||
|
-n 200 --temp 0.7
|
||||||
|
```
|
||||||
|
|
||||||
|
### iPhoneアプリ
|
||||||
|
|
||||||
|
- [ElioChat](https://eliochat.com) - iOS向けローカルLLMアプリ
|
||||||
|
- [PocketPal AI](https://pocketpal.ai) - iOS向けLLMアプリ
|
||||||
|
|
||||||
|
## 応答例
|
||||||
|
|
||||||
|
### 数学問題
|
||||||
|
|
||||||
|
```
|
||||||
|
Q: 2の10乗はいくつ?
|
||||||
|
|
||||||
|
A: <think>
|
||||||
|
2を10回かけます。
|
||||||
|
2^1 = 2
|
||||||
|
2^2 = 4
|
||||||
|
2^3 = 8
|
||||||
|
...
|
||||||
|
2^10 = 1024
|
||||||
|
</think>
|
||||||
|
|
||||||
|
答えは1024です。
|
||||||
|
```
|
||||||
|
|
||||||
|
### 論理推論
|
||||||
|
|
||||||
|
```
|
||||||
|
Q: AはBより背が高い。BはCより背が高い。一番背が高いのは誰?
|
||||||
|
|
||||||
|
A: <think>
|
||||||
|
AはBより高い、BはCより高い。
|
||||||
|
A > B > C の関係。
|
||||||
|
</think>
|
||||||
|
|
||||||
|
一番背が高いのはAです。
|
||||||
|
```
|
||||||
|
|
||||||
|
## ベンチマーク(2025年1月)
|
||||||
|
|
||||||
|
| モデル | 正答率 | 思考タグ | 平均応答時間 |
|
||||||
|
|--------|--------|----------|--------------|
|
||||||
|
| **ElioChat-1.7B-v3** | 70% | **45%** | 20.7s |
|
||||||
|
| Qwen3-1.7B | 65% | 20% | 16.3s |
|
||||||
|
| TinySwallow-1.5B | 90% | 0% | 14.9s |
|
||||||
|
| Sarashina2.2-3B | 90% | 0% | 8.8s |
|
||||||
|
|
||||||
|
> ElioChat-v3は思考過程を可視化する唯一のモデル。「なぜその答えなのか」が分かる。
|
||||||
|
|
||||||
|
## 学習データ構成
|
||||||
|
|
||||||
|
| カテゴリ | 件数 |
|
||||||
|
|---------|------|
|
||||||
|
| コア推論(論理・数学) | 515 |
|
||||||
|
| 日本語・文化 | 193 |
|
||||||
|
| 会話・ユーモア | 116 |
|
||||||
|
| 実用・教養 | 153 |
|
||||||
|
| その他 | 189 |
|
||||||
|
| **合計** | **1,166** |
|
||||||
|
|
||||||
|
## 学習詳細
|
||||||
|
|
||||||
|
| 項目 | 値 |
|
||||||
|
|------|-----|
|
||||||
|
| ベースモデル | Qwen/Qwen3-1.7B |
|
||||||
|
| 学習方式 | LoRA (PEFT) |
|
||||||
|
| LoRA Rank | 64 |
|
||||||
|
| GPU | NVIDIA A100-SXM4-40GB |
|
||||||
|
| 学習時間 | 32.7分 |
|
||||||
|
| **コスト** | **$0.70** |
|
||||||
|
| 最終Loss | 1.25 |
|
||||||
|
|
||||||
|
## オフライン利用
|
||||||
|
|
||||||
|
モデルをダウンロードすれば、ネット接続なしで使えます:
|
||||||
|
- 飛行機の中
|
||||||
|
- 山の中
|
||||||
|
- 地下鉄
|
||||||
|
- プライバシーが必要な場面
|
||||||
|
|
||||||
|
## 関連リンク
|
||||||
|
|
||||||
|
- **GitHub**: [yukihamada/qwen-jp](https://github.com/yukihamada/qwen-jp)
|
||||||
|
- **ElioChat App**: [eliochat.com](https://eliochat.com)
|
||||||
|
|
||||||
|
## ライセンス
|
||||||
|
|
||||||
|
- ベースモデル: Qwen License
|
||||||
|
- 学習データ・コード: MIT License
|
||||||
Reference in New Issue
Block a user