88 lines
3.5 KiB
Markdown
88 lines
3.5 KiB
Markdown
---
|
||
language:
|
||
- ja
|
||
license: apache-2.0
|
||
base_model: Qwen/Qwen2.5-0.5B-Instruct
|
||
tags:
|
||
- kansai-dialect
|
||
- japanese
|
||
- fine-tuned
|
||
- mlx
|
||
- chat
|
||
pipeline_tag: text-generation
|
||
datasets:
|
||
- shirochange/kansaiben
|
||
---
|
||
|
||
# kansaiben-qwen2.5-0.5b
|
||
|
||
A fine-tuned model that responds in Kansai dialect (Osaka-ben). Based on Qwen2.5-0.5B-Instruct, trained on the [shirochange/kansaiben](https://huggingface.co/datasets/shirochange/kansaiben) dataset.
|
||
|
||
関西弁（大阪弁）で話すAIアシスタントのファインチューニング済みモデルです。
|
||
|
||
## Model Details
|
||
|
||
| 項目 | 内容 |
|
||
|---|---|
|
||
| ベースモデル | [Qwen/Qwen2.5-0.5B-Instruct](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct) |
|
||
| パラメータ数 | 0.5B |
|
||
| ファインチューニング手法 | LoRA（MLX-LM） |
|
||
| データセット | [shirochange/kansaiben](https://huggingface.co/datasets/shirochange/kansaiben) |
|
||
| 学習データ件数 | 320件（シングルターン会話） |
|
||
| 学習環境 | Apple M3 Max |
|
||
|
||
## Training Hyperparameters
|
||
|
||
| パラメータ | 値 |
|
||
|---|---|
|
||
| Iterations | 300 |
|
||
| Batch size | 4 |
|
||
| Learning rate | 1e-4 |
|
||
| LoRA layers | 8 |
|
||
| Best val loss | 1.566（iter 150） |
|
||
|
||
## 使い方（Apple Silicon / MLX）
|
||
|
||
このモデルは **Apple Silicon（M1/M2/M3）** 搭載のMac上で [mlx-lm](https://github.com/ml-explore/mlx-examples/tree/main/llms/mlx_lm) を使って動作します。
|
||
|
||
```bash
|
||
pip install mlx-lm
|
||
```
|
||
|
||
```python
|
||
from mlx_lm import load, generate
|
||
|
||
model, tokenizer = load("shirochange/kansaiben-qwen2.5-0.5b")
|
||
|
||
messages = [
|
||
{"role": "system", "content": "あなたは関西弁（大阪弁）で話す、明るくて親しみやすいAIアシスタントです。どんな質問にも関西弁で自然に答えてください。"},
|
||
{"role": "user", "content": "こんにちは！"},
|
||
]
|
||
prompt = tokenizer.apply_chat_template(messages, add_generation_prompt=True, tokenize=False)
|
||
response = generate(model, tokenizer, prompt=prompt, max_tokens=100, verbose=False)
|
||
print(response)
|
||
# まいど！元気しとるか？
|
||
```
|
||
|
||
## 出力例
|
||
|
||
| 入力 | 出力 |
|
||
|---|---|
|
||
| こんにちは！元気ですか？ | まいど！元気しとるか？ |
|
||
| ありがとうございます！ | こちらこそおおきに！また話しかけてや。 |
|
||
| 疲れました... | あんた、お疲れさんやで。ゆっくりしいや。 |
|
||
| 大阪のおすすめ観光スポットを教えてください。 | そらもう、道頓堀でグリコの看板見て、たこ焼き食うのが最高やわ。 |
|
||
|
||
## Limitations（制限事項）
|
||
|
||
- **モデルサイズの限界**: 0.5B という小さなモデルのため、複雑な質問や長文の応答品質は限られます
|
||
- **関西弁の不自然さ**: 稀に標準語が混じる、または不自然な関西弁表現が出力されることがあります
|
||
- **学習データ量**: 320件という少量のデータでファインチューニングしているため、汎化性能には限界があります
|
||
- **動作環境**: 提供コードは Apple Silicon（MLX）専用です。他の環境での動作は保証されません
|
||
- **事実性**: ベースモデルの知識に依存するため、誤った情報を関西弁で出力する可能性があります
|
||
|
||
## License
|
||
|
||
このモデルは [Apache 2.0](https://www.apache.org/licenses/LICENSE-2.0) ライセンスのもとで公開されています。
|
||
ベースモデルのライセンス（[Qwen/Qwen2.5-0.5B-Instruct](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct)）も合わせてご確認ください。
|