77 lines
2.4 KiB
Markdown
77 lines
2.4 KiB
Markdown
|
---
|
|||
|
|
license: apache-2.0
|
|||
|
|
language:
|
|||
|
|
- tr
|
|||
|
|
base_model: Qwen/Qwen2.5-7B-Instruct
|
|||
|
|
tags:
|
|||
|
|
- turkish
|
|||
|
|
- türkçe
|
|||
|
|
- chat
|
|||
|
|
- bozdogan
|
|||
|
|
pipeline_tag: text-generation
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
# 🦅 Bozdoğan-7B
|
|||
|
|
|
|||
|
|
**Bozdoğan**, Umut Archery tarafından eğitilen ve geliştirilen Türkçe sohbet (chat) yapay zeka modelidir. Qwen 2.5 7B Instruct temel modeli üzerine ~10.000 Türkçe sohbet örneğiyle ince ayar yapılmış, tek parça tam modeldir (vLLM / serverless ile doğrudan çalışır).
|
|||
|
|
|
|||
|
|
## Model Detayları
|
|||
|
|
|
|||
|
|
- **Geliştirici:** Umut Archery
|
|||
|
|
- **Model Adı:** Bozdoğan-7B
|
|||
|
|
- **Temel Model:** Qwen/Qwen2.5-7B-Instruct
|
|||
|
|
- **Dil:** Türkçe 🇹🇷
|
|||
|
|
- **Eğitim Verisi:** ~10.000 Türkçe sohbet örneği
|
|||
|
|
- **Lisans:** Apache 2.0
|
|||
|
|
|
|||
|
|
Bozdoğan kendi kimliğini bilir: kendisine kim olduğu sorulduğunda Bozdoğan olduğunu ve Umut Archery tarafından geliştirildiğini söyler.
|
|||
|
|
|
|||
|
|
## Kullanım
|
|||
|
|
|
|||
|
|
```python
|
|||
|
|
import torch
|
|||
|
|
from transformers import AutoModelForCausalLM, AutoTokenizer
|
|||
|
|
|
|||
|
|
model = AutoModelForCausalLM.from_pretrained(
|
|||
|
|
"UmutArchery/Bozdogan-7B",
|
|||
|
|
device_map="auto",
|
|||
|
|
dtype=torch.bfloat16,
|
|||
|
|
trust_remote_code=True
|
|||
|
|
)
|
|||
|
|
tokenizer = AutoTokenizer.from_pretrained("UmutArchery/Bozdogan-7B")
|
|||
|
|
|
|||
|
|
SYSTEM = "Sen Bozdoğan'sın. Umut Archery tarafından eğitilen ve geliştirilen bir Türkçe yapay zeka asistanısın."
|
|||
|
|
|
|||
|
|
def sor(soru):
|
|||
|
|
prompt = f"<|im_start|>system\n{SYSTEM}<|im_end|>\n<|im_start|>user\n{soru}<|im_end|>\n<|im_start|>assistant\n"
|
|||
|
|
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
|
|||
|
|
out = model.generate(**inputs, max_new_tokens=300, temperature=0.7, top_p=0.9, do_sample=True)
|
|||
|
|
cevap = tokenizer.decode(out[0], skip_special_tokens=False)
|
|||
|
|
s = cevap.rfind("<|im_start|>assistant\n") + len("<|im_start|>assistant\n")
|
|||
|
|
e = cevap.find("<|im_end|>", s)
|
|||
|
|
return cevap[s:e].strip() if e != -1 else cevap[s:].strip()
|
|||
|
|
|
|||
|
|
print(sor("Merhaba, kendini tanıtır mısın?"))
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## Eğitim Sonuçları
|
|||
|
|
|
|||
|
|
| Metrik | Değer |
|
|||
|
|
|--------|-------|
|
|||
|
|
| Train Loss | ~0.53 |
|
|||
|
|
| Eval Loss | ~0.59 |
|
|||
|
|
| Token Doğruluğu | ~%88 |
|
|||
|
|
|
|||
|
|
## Donanım
|
|||
|
|
|
|||
|
|
- **GPU:** NVIDIA A100 80GB
|
|||
|
|
- **Eğitim Süresi:** ~40 dk (ana model) + ~6 dk (kimlik eğitimi)
|
|||
|
|
|
|||
|
|
## Sınırlamalar
|
|||
|
|
|
|||
|
|
Bozdoğan ~10.000 örnekle eğitilmiş 7B'lik bir modeldir. Karmaşık akıl yürütme veya uzmanlık gerektiren konularda hata yapabilir. Kritik konularda verdiği bilgileri doğrulayın.
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
*Bozdoğan, Umut Archery tarafından geliştirilmiştir. 🦅*
|