初始化项目,由ModelHub XC社区提供模型
Model: yukihamada/ElioChat-1.7B-Instruct-v3 Source: Original Platform
This commit is contained in:
37
.gitattributes
vendored
Normal file
37
.gitattributes
vendored
Normal file
@@ -0,0 +1,37 @@
|
||||
*.7z filter=lfs diff=lfs merge=lfs -text
|
||||
*.arrow filter=lfs diff=lfs merge=lfs -text
|
||||
*.bin filter=lfs diff=lfs merge=lfs -text
|
||||
*.bz2 filter=lfs diff=lfs merge=lfs -text
|
||||
*.ckpt filter=lfs diff=lfs merge=lfs -text
|
||||
*.ftz filter=lfs diff=lfs merge=lfs -text
|
||||
*.gz filter=lfs diff=lfs merge=lfs -text
|
||||
*.h5 filter=lfs diff=lfs merge=lfs -text
|
||||
*.joblib filter=lfs diff=lfs merge=lfs -text
|
||||
*.lfs.* filter=lfs diff=lfs merge=lfs -text
|
||||
*.mlmodel filter=lfs diff=lfs merge=lfs -text
|
||||
*.model filter=lfs diff=lfs merge=lfs -text
|
||||
*.msgpack filter=lfs diff=lfs merge=lfs -text
|
||||
*.npy filter=lfs diff=lfs merge=lfs -text
|
||||
*.npz filter=lfs diff=lfs merge=lfs -text
|
||||
*.onnx filter=lfs diff=lfs merge=lfs -text
|
||||
*.ot filter=lfs diff=lfs merge=lfs -text
|
||||
*.parquet filter=lfs diff=lfs merge=lfs -text
|
||||
*.pb filter=lfs diff=lfs merge=lfs -text
|
||||
*.pickle filter=lfs diff=lfs merge=lfs -text
|
||||
*.pkl filter=lfs diff=lfs merge=lfs -text
|
||||
*.pt filter=lfs diff=lfs merge=lfs -text
|
||||
*.pth filter=lfs diff=lfs merge=lfs -text
|
||||
*.rar filter=lfs diff=lfs merge=lfs -text
|
||||
*.safetensors filter=lfs diff=lfs merge=lfs -text
|
||||
saved_model/**/* filter=lfs diff=lfs merge=lfs -text
|
||||
*.tar.* filter=lfs diff=lfs merge=lfs -text
|
||||
*.tar filter=lfs diff=lfs merge=lfs -text
|
||||
*.tflite filter=lfs diff=lfs merge=lfs -text
|
||||
*.tgz filter=lfs diff=lfs merge=lfs -text
|
||||
*.wasm filter=lfs diff=lfs merge=lfs -text
|
||||
*.xz filter=lfs diff=lfs merge=lfs -text
|
||||
*.zip filter=lfs diff=lfs merge=lfs -text
|
||||
*.zst filter=lfs diff=lfs merge=lfs -text
|
||||
*tfevents* filter=lfs diff=lfs merge=lfs -text
|
||||
ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf filter=lfs diff=lfs merge=lfs -text
|
||||
ElioChat-1.7B-Instruct-v3-F16.gguf filter=lfs diff=lfs merge=lfs -text
|
||||
3
ElioChat-1.7B-Instruct-v3-F16.gguf
Normal file
3
ElioChat-1.7B-Instruct-v3-F16.gguf
Normal file
@@ -0,0 +1,3 @@
|
||||
version https://git-lfs.github.com/spec/v1
|
||||
oid sha256:0dfd51374d484203fddfbb20824cd55f6fd9d76969373234d69e4944b0623357
|
||||
size 3447344800
|
||||
3
ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf
Normal file
3
ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf
Normal file
@@ -0,0 +1,3 @@
|
||||
version https://git-lfs.github.com/spec/v1
|
||||
oid sha256:82652c12c33044a23e66f55fc8ecdb67bd05bb5a968b7a1f4134ee086ba5638a
|
||||
size 1257875104
|
||||
136
README.md
Normal file
136
README.md
Normal file
@@ -0,0 +1,136 @@
|
||||
---
|
||||
license: other
|
||||
license_name: qwen
|
||||
license_link: https://huggingface.co/Qwen/Qwen3-1.7B/blob/main/LICENSE
|
||||
language:
|
||||
- ja
|
||||
- en
|
||||
base_model: Qwen/Qwen3-1.7B
|
||||
tags:
|
||||
- gguf
|
||||
- japanese
|
||||
- thinking
|
||||
- llama.cpp
|
||||
- ios
|
||||
- iphone
|
||||
- local-llm
|
||||
library_name: transformers
|
||||
pipeline_tag: text-generation
|
||||
---
|
||||
|
||||
# ElioChat-1.7B-Instruct-v3
|
||||
|
||||
iPhoneで動く日本語思考AI。Qwen3-1.7Bベースに日本語思考データでファインチューニング。
|
||||
|
||||
## 特徴
|
||||
|
||||
- **思考過程が見える**: `<think>...</think>` タグで推論プロセスを表示
|
||||
- **日本語最適化**: 日本語・日本文化に特化した1,166件の学習データ
|
||||
- **軽量**: Q5_K_M量子化で約1.2GB、iPhone 13以降で快適動作
|
||||
- **学習コスト**: わずか$0.70(約100円)
|
||||
|
||||
## ダウンロード
|
||||
|
||||
| ファイル | サイズ | 用途 |
|
||||
|----------|--------|------|
|
||||
| `ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf` | 1.2 GB | 推奨(バランス型)|
|
||||
| `ElioChat-1.7B-Instruct-v3-F16.gguf` | 3.2 GB | 高品質版 |
|
||||
|
||||
## 使用例
|
||||
|
||||
### llama.cpp
|
||||
|
||||
```bash
|
||||
llama-cli -m ElioChat-1.7B-Instruct-v3-Q5_K_M.gguf \
|
||||
-p "<|im_start|>user\n2の10乗は?<|im_end|>\n<|im_start|>assistant\n" \
|
||||
-n 200 --temp 0.7
|
||||
```
|
||||
|
||||
### iPhoneアプリ
|
||||
|
||||
- [ElioChat](https://eliochat.com) - iOS向けローカルLLMアプリ
|
||||
- [PocketPal AI](https://pocketpal.ai) - iOS向けLLMアプリ
|
||||
|
||||
## 応答例
|
||||
|
||||
### 数学問題
|
||||
|
||||
```
|
||||
Q: 2の10乗はいくつ?
|
||||
|
||||
A: <think>
|
||||
2を10回かけます。
|
||||
2^1 = 2
|
||||
2^2 = 4
|
||||
2^3 = 8
|
||||
...
|
||||
2^10 = 1024
|
||||
</think>
|
||||
|
||||
答えは1024です。
|
||||
```
|
||||
|
||||
### 論理推論
|
||||
|
||||
```
|
||||
Q: AはBより背が高い。BはCより背が高い。一番背が高いのは誰?
|
||||
|
||||
A: <think>
|
||||
AはBより高い、BはCより高い。
|
||||
A > B > C の関係。
|
||||
</think>
|
||||
|
||||
一番背が高いのはAです。
|
||||
```
|
||||
|
||||
## ベンチマーク(2025年1月)
|
||||
|
||||
| モデル | 正答率 | 思考タグ | 平均応答時間 |
|
||||
|--------|--------|----------|--------------|
|
||||
| **ElioChat-1.7B-v3** | 70% | **45%** | 20.7s |
|
||||
| Qwen3-1.7B | 65% | 20% | 16.3s |
|
||||
| TinySwallow-1.5B | 90% | 0% | 14.9s |
|
||||
| Sarashina2.2-3B | 90% | 0% | 8.8s |
|
||||
|
||||
> ElioChat-v3は思考過程を可視化する唯一のモデル。「なぜその答えなのか」が分かる。
|
||||
|
||||
## 学習データ構成
|
||||
|
||||
| カテゴリ | 件数 |
|
||||
|---------|------|
|
||||
| コア推論(論理・数学) | 515 |
|
||||
| 日本語・文化 | 193 |
|
||||
| 会話・ユーモア | 116 |
|
||||
| 実用・教養 | 153 |
|
||||
| その他 | 189 |
|
||||
| **合計** | **1,166** |
|
||||
|
||||
## 学習詳細
|
||||
|
||||
| 項目 | 値 |
|
||||
|------|-----|
|
||||
| ベースモデル | Qwen/Qwen3-1.7B |
|
||||
| 学習方式 | LoRA (PEFT) |
|
||||
| LoRA Rank | 64 |
|
||||
| GPU | NVIDIA A100-SXM4-40GB |
|
||||
| 学習時間 | 32.7分 |
|
||||
| **コスト** | **$0.70** |
|
||||
| 最終Loss | 1.25 |
|
||||
|
||||
## オフライン利用
|
||||
|
||||
モデルをダウンロードすれば、ネット接続なしで使えます:
|
||||
- 飛行機の中
|
||||
- 山の中
|
||||
- 地下鉄
|
||||
- プライバシーが必要な場面
|
||||
|
||||
## 関連リンク
|
||||
|
||||
- **GitHub**: [yukihamada/qwen-jp](https://github.com/yukihamada/qwen-jp)
|
||||
- **ElioChat App**: [eliochat.com](https://eliochat.com)
|
||||
|
||||
## ライセンス
|
||||
|
||||
- ベースモデル: Qwen License
|
||||
- 学習データ・コード: MIT License
|
||||
Reference in New Issue
Block a user