166 lines
7.3 KiB
Markdown
166 lines
7.3 KiB
Markdown
---
|
||
language:
|
||
- tr
|
||
license: gemma
|
||
base_model: google/gemma-3-270m-it
|
||
pipeline_tag: text-generation
|
||
library_name: transformers
|
||
tags:
|
||
- pii
|
||
- anonymization
|
||
- masking
|
||
- kvkk
|
||
- gdpr
|
||
- turkish
|
||
- privacy
|
||
- fintech
|
||
---
|
||
|
||
# PII Guard Turkish 270M
|
||
|
||
Cihaz üstü (mobil) kullanım için tasarlanmış, Türkçe metindeki kişisel verileri **talimat-koşullu** maskeleyen 270M parametreli model. Bu repo kullanıma hazır tam modeldir; telefonda çalıştırmak için GGUF sürümüne bakın: [pii-guard-turkish-270m-gguf](https://huggingface.co/cagrigungor/pii-guard-turkish-270m-gguf).
|
||
|
||
```
|
||
Girdi : Ahmet Yıldız 0542 321 45 67 numarasından aradı, ibanı TR12 0001 2000 0034 5678 9012 34
|
||
Çıktı : [AD] [TEL] numarasından aradı, ibanı [IBAN]
|
||
```
|
||
|
||
Bir LLM'e veri göndermeden önceki maskeleme katmanı, log temizleme ve KVKK/GDPR veri
|
||
minimizasyonu için tasarlandı. **53 PII etiketi** tanır ve **talimat okur**: aynı metin,
|
||
farklı politika altında farklı maskelenir.
|
||
|
||
## Sonuçlar
|
||
|
||
Eğitim verisinden tamamen bağımsız, elle kurulmuş 1.000 örneklik benchmark üzerinde
|
||
**satır düzeyi tam eşleşme** (çıktının beklenen metinle karakter karakter aynı olması —
|
||
tek bir etiket hatası satırın tamamını yanlış sayar):
|
||
|
||
| Model | Tam Eşleşme (1000) | Şema-nötr (903) |
|
||
|---|---|---|
|
||
| cagrigungor/pii-guard-turkish-0.8b | **0.876** | **0.889** |
|
||
| cagrigungor/pii-guard-turkish-0.6b | 0.828 | 0.850 |
|
||
| cagrigungor/pii-guard-turkish-270m | 0.740 | 0.770 |
|
||
| melikegks/turkish-pii-guard-0.8b | 0.731 | 0.810 |
|
||
|
||
Şema-nötr sütun, `[YAS] [CINSIYET] [UYRUK]` etiketlerinin maskelenmesini gerektiren 97 satır
|
||
hariç tutularak hesaplanır (bu üç etiket her modelin şemasında bulunmadığından modeller arası
|
||
adil kıyas bu sütundur). Benchmark halka açıktır ve yeniden üretilebilir:
|
||
|
||
- Kaggle: https://www.kaggle.com/datasets/aiwithcagri/turkish-pii-masking-benchmark
|
||
- Hugging Face: https://huggingface.co/datasets/cagrigungor/turkish-pii-masking-benchmark
|
||
|
||
Benchmark bileşimi: tam maskeleme (350), beyaz liste (200), kara liste (150), kapsam dışı (100),
|
||
tuzaklı negatif (200); içinde BÜYÜK HARF, Türkçe ek almış PII, sözle yazılmış numaralar,
|
||
çok kişili metinler ve 300-900 karakterlik uzun girdiler işaretli dilimler halinde bulunur.
|
||
|
||
Kategori kırılımı (bu model): tam maskeleme 0.723 · beyaz liste 0.620 ·
|
||
kara liste 0.740 · kapsam dışı 0.730 · negatif 0.895. Zor dilimler: ekli PII 0.818 ·
|
||
BÜYÜK HARF 0.505 · uzun metin 0.521 · sözle yazım 0.649.
|
||
|
||
## Eğitim
|
||
|
||
| | |
|
||
|---|---|
|
||
| Taban model | google/gemma-3-270m-it |
|
||
| Yöntem | LoRA (r=16, alfa=32), bf16, completion-only loss, Unsloth |
|
||
| Bağlam | 768 token |
|
||
| Veri | Sentetik Türkçe bankacılık/ERP metni, 53 PII etiketi, ~400.000 örnek |
|
||
| Split | Modül düzeyinde train/val ayrımı; benchmark tamamen bağımsız üretim |
|
||
|
||
|
||
## Kullanım
|
||
|
||
Prompt biçimi eğitimle birebir aynı olmalıdır. Gemma mimarisi prompt başında **BOS token**
|
||
ister; `add_special_tokens=False` kullanıyorsan BOS'u elle ekle, yoksa çıktı bozulur.
|
||
|
||
```python
|
||
import torch
|
||
from transformers import AutoModelForCausalLM, AutoTokenizer
|
||
|
||
MODEL = "cagrigungor/pii-guard-turkish-270m"
|
||
tokenizer = AutoTokenizer.from_pretrained(MODEL)
|
||
model = AutoModelForCausalLM.from_pretrained(
|
||
MODEL, dtype=torch.bfloat16, device_map="auto").eval()
|
||
|
||
def maskele(metin, talimat="Metindeki tüm kişisel verileri uygun etiketlerle maskele."):
|
||
prompt = (f"{tokenizer.bos_token}<start_of_turn>user\n{talimat}\n\n"
|
||
f"Metin: {metin}<end_of_turn>\n<start_of_turn>model\n")
|
||
girdi = tokenizer(prompt, return_tensors="pt", add_special_tokens=False).to(model.device)
|
||
with torch.inference_mode():
|
||
cikti = model.generate(**girdi, max_new_tokens=512, do_sample=False,
|
||
eos_token_id=tokenizer.convert_tokens_to_ids("<end_of_turn>"),
|
||
pad_token_id=tokenizer.eos_token_id)
|
||
return tokenizer.decode(cikti[0, girdi["input_ids"].shape[1]:],
|
||
skip_special_tokens=True).strip()
|
||
|
||
print(maskele("müşteri Ayşe Yılmaz tc 12345678901 tel 0532 111 22 33"))
|
||
# -> müşteri [AD] tc [TCKN] tel [TEL]
|
||
```
|
||
|
||
## Politika biçimleri
|
||
|
||
Model talimatı okur; aynı metin farklı politika altında farklı maskelenir.
|
||
|
||
| Politika | Örnek talimat |
|
||
|---|---|
|
||
| Tam maskeleme | "Metindeki tüm kişisel verileri uygun etiketlerle maskele." |
|
||
| Beyaz liste | "Sadece IBAN ve telefon numarasını maskele. Gerisi aynen kalsın." |
|
||
| Kara liste | "Ad soyad hariç bütün hassas alanları etiketle." |
|
||
| Kategori | "Yalnızca özel nitelikli kişisel veriler maskelenecek." |
|
||
| Kapsam dışı | Talimatta istenen etiket metinde yoksa çıktı girdiyle aynı kalır. |
|
||
|
||
## Etiketler
|
||
|
||
53 etiket, dokuz kategoride.
|
||
|
||
| Kategori | Etiketler |
|
||
|---|---|
|
||
| Kimlik | `[AD]` `[TCKN]` `[DOGUM_TARIHI]` `[DOGUM_YERI]` `[ANNE_ADI]` `[ANNE_KIZLIK]` `[BABA_ADI]` `[PASAPORT_NO]` `[EHLIYET_NO]` `[SGK_NO]` `[IMZA]` |
|
||
| Finansal | `[IBAN]` `[HESAP_NO]` `[KART]` `[KART_SKT]` `[CVV]` `[MAAS]` `[VERGI_NO]` `[MUSTERI_NO]` `[KREDI_NOTU]` `[POLICE_NO]` `[SOZLESME_NO]` `[KRIPTO_CUZDAN]` |
|
||
| İletişim | `[TEL]` `[EMAIL]` `[ADRES]` `[KONUM]` |
|
||
| Özel nitelikli (KVKK md. 6) | `[SAGLIK]` `[DIN]` `[ETNIK_KOKEN]` `[SENDIKA]` `[BIYOMETRIK]` `[CEZA_KAYDI]` `[KAN_GRUBU]` `[ENGEL_DURUMU]` |
|
||
| Kimlik doğrulama | `[SIFRE]` `[PIN]` `[KULLANICI_ADI]` |
|
||
| Cihaz ve ağ | `[IP_ADRES]` `[MAC_ADRES]` `[IMEI]` `[CIHAZ_ID]` |
|
||
| Araç | `[PLAKA]` `[SASI_NO]` `[MOTOR_NO]` `[RUHSAT_NO]` |
|
||
| İstihdam ve diğer | `[SICIL_NO]` `[ISYERI]` `[AILE]` `[REFERANS]` |
|
||
| Demografi | `[YAS]` `[CINSIYET]` `[UYRUK]` |
|
||
|
||
## Türkçeye özgü davranış
|
||
|
||
- **Ek almış PII**: kesme işaretli ekler ünlü uyumuyla korunur —
|
||
`Ayşe Yılmaz'ın hesabına havale yap` -> `[AD]'ın hesabına havale yap`
|
||
- **Sözle yazılmış değerler**: `tc kimlik numaram yedi bir dokuz yedi ...` -> `tc kimlik numaram [TCKN]`
|
||
- **BÜYÜK HARF girdi**: `ADIM AHMET TC 12345678901` -> `ADIM [AD] TC [TCKN]`
|
||
- **Çok kişili metin**: aynı cümledeki farklı kişiler ayrı ayrı maskelenir
|
||
- **Tuzaklara direnç**: fatura/sipariş numarası, şehir adlı projeler, "tc kimlik alanı boş
|
||
bırakılamaz" gibi PII kelimesi geçen ama PII içermeyen metinler değiştirilmez
|
||
|
||
## Sınırlar
|
||
|
||
1. **Değerlendirme sentetik veriyle yapılmıştır.** Eğitim ve benchmark verisi Faker + LLM
|
||
üretimidir; gerçek kişi verisi içermez. Gerçek kullanıcı metnindeki performans ölçülmemiştir.
|
||
Kendi verinde ölçmeden kritik bir hatta koyma.
|
||
2. **Şema dışı etiket üretebilir.** Üretimde 53 etiketlik bir whitelist katmanı öneririz;
|
||
şema dışı etiket içeren çıktıyı reddedip insan incelemesine gönder.
|
||
3. **Zayıf dilimler** (benchmark kırılımından): kara liste talimatları ve sözle yazılmış
|
||
uzun sayı dizileri en düşük skorlu dilimlerdir. Bu dilimlerde çıktı doğrulaması ekle.
|
||
4. **Yalnızca Türkçe.** Başka dillerde test edilmedi.
|
||
5. **Karar destek aracı değildir.** KVKK/GDPR sorumluluğu kullanandadır; kritik akışlarda
|
||
insan denetimi gerekir.
|
||
|
||
## Yazar
|
||
|
||
Hasan Çağrı Güngör
|
||
iletisim@cagrigungor.com — https://finiscode.com
|
||
|
||
## Alıntı
|
||
|
||
```bibtex
|
||
@misc{pii-guard-turkish,
|
||
title = {PII Guard Turkish},
|
||
author = {Hasan Çağrı Güngör},
|
||
year = {2026},
|
||
url = {https://huggingface.co/cagrigungor/pii-guard-turkish-270m}
|
||
}
|
||
```
|