初始化项目，由ModelHub XC社区提供模型

Model: MrMeOrYou/emma-5-GGUF
Source: Original Platform

.gitattributes

@@ -0,0 +1,60 @@
+*.7z filter=lfs diff=lfs merge=lfs -text
+*.arrow filter=lfs diff=lfs merge=lfs -text
+*.bin filter=lfs diff=lfs merge=lfs -text
+*.bz2 filter=lfs diff=lfs merge=lfs -text
+*.ckpt filter=lfs diff=lfs merge=lfs -text
+*.ftz filter=lfs diff=lfs merge=lfs -text
+*.gz filter=lfs diff=lfs merge=lfs -text
+*.h5 filter=lfs diff=lfs merge=lfs -text
+*.joblib filter=lfs diff=lfs merge=lfs -text
+*.lfs.* filter=lfs diff=lfs merge=lfs -text
+*.mlmodel filter=lfs diff=lfs merge=lfs -text
+*.model filter=lfs diff=lfs merge=lfs -text
+*.msgpack filter=lfs diff=lfs merge=lfs -text
+*.npy filter=lfs diff=lfs merge=lfs -text
+*.npz filter=lfs diff=lfs merge=lfs -text
+*.onnx filter=lfs diff=lfs merge=lfs -text
+*.ot filter=lfs diff=lfs merge=lfs -text
+*.parquet filter=lfs diff=lfs merge=lfs -text
+*.pb filter=lfs diff=lfs merge=lfs -text
+*.pickle filter=lfs diff=lfs merge=lfs -text
+*.pkl filter=lfs diff=lfs merge=lfs -text
+*.pt filter=lfs diff=lfs merge=lfs -text
+*.pth filter=lfs diff=lfs merge=lfs -text
+*.rar filter=lfs diff=lfs merge=lfs -text
+*.safetensors filter=lfs diff=lfs merge=lfs -text
+saved_model/**/* filter=lfs diff=lfs merge=lfs -text
+*.tar.* filter=lfs diff=lfs merge=lfs -text
+*.tar filter=lfs diff=lfs merge=lfs -text
+*.tflite filter=lfs diff=lfs merge=lfs -text
+*.tgz filter=lfs diff=lfs merge=lfs -text
+*.wasm filter=lfs diff=lfs merge=lfs -text
+*.xz filter=lfs diff=lfs merge=lfs -text
+*.zip filter=lfs diff=lfs merge=lfs -text
+*.zst filter=lfs diff=lfs merge=lfs -text
+*tfevents* filter=lfs diff=lfs merge=lfs -text
+emma-5-F32.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q3_K_M.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q3_K_S.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q4_K_M.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q5_0.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q5_1.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q5_K_S.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-IQ3_M.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-IQ4_XS.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-MXFP4_MOE.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q1_0.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q3_K_L.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-BF16.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-F16.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-IQ3_S.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q2_K.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q4_1.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q5_K_M.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q6_K.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-TQ2_0.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-IQ4_NL.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q4_0.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q4_K_S.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-Q8_0.gguf filter=lfs diff=lfs merge=lfs -text
+emma-5-TQ1_0.gguf filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,239 @@
+---
+license: openrail
+base_model: egomnia/emma-5
+base_model_relation: quantized
+library_name: gguf
+pipeline_tag: text-generation
+language:
+  - it
+authors:
+  - Egomnia S.p.A.
+tags:
+  - gguf
+  - llama.cpp
+  - italian
+  - gpt
+  - text-generation
+  - enterprise
+  - swiGLU
+  - gqa
+datasets:
+  - custom-mixture
+---
+
+# 🇮🇹 Emma-5 (GGUF)
+
+## Premessa
+
+Questo repository contiene una conversione **non ufficiale** in formato GGUF di [`egomnia/emma-5`](https://huggingface.co/egomnia/emma-5), realizzata con llama.cpp.
+
+Il modello originale **Emma-5** è stato sviluppato da **Egomnia S.p.A.**. Questo repository non è affiliato a Egomnia S.p.A. e non modifica l'autorialità del modello originale.
+
+### Provenienza dei pesi
+
+La prima conversione GGUF è stata creata mentre il repository originale `egomnia/emma-5` non era disponibile pubblicamente. In quel momento i pesi sono stati recuperati da [`eldavoo/emma-5`](https://huggingface.co/eldavoo/emma-5), un reupload/archivio pubblico del modello.
+
+Dopo la ripubblicazione di [`egomnia/emma-5`](https://huggingface.co/egomnia/emma-5), i file del modello e del tokenizer sono stati confrontati con quelli di `eldavoo/emma-5` e verificati come byte-identici. Per questo motivo i metadata di questo repository puntano ora a `egomnia/emma-5` come modello base originale.
+
+Grazie a `eldavoo` per aver mantenuto disponibile l'archivio pubblico usato come sorgente al momento della conversione iniziale. L'autorialità e i diritti sul modello restano attribuiti a Egomnia S.p.A. secondo la licenza e il model card originali.
+
+## File disponibili
+
+Il file `emma-5-F32.gguf` è la conversione GGUF in F32 del modello originale. Le altre varianti sono state ricavate da questo file con `llama-quantize`, usando i tipi di quantizzazione supportati da llama.cpp.
+
+Sono disponibili:
+
+- `emma-5-F32.gguf`
+- `emma-5-F16.gguf`
+- `emma-5-BF16.gguf`
+- `emma-5-Q8_0.gguf`
+- `emma-5-Q6_K.gguf`
+- `emma-5-Q5_K_M.gguf`
+- `emma-5-Q5_K_S.gguf`
+- `emma-5-Q5_1.gguf`
+- `emma-5-Q5_0.gguf`
+- `emma-5-Q4_K_M.gguf`
+- `emma-5-Q4_K_S.gguf`
+- `emma-5-Q4_1.gguf`
+- `emma-5-Q4_0.gguf`
+- `emma-5-IQ4_NL.gguf`
+- `emma-5-IQ4_XS.gguf`
+- `emma-5-Q3_K_L.gguf`
+- `emma-5-Q3_K_M.gguf`
+- `emma-5-Q3_K_S.gguf`
+- `emma-5-IQ3_M.gguf`
+- `emma-5-IQ3_S.gguf`
+- `emma-5-Q2_K.gguf`
+- `emma-5-TQ2_0.gguf`
+- `emma-5-TQ1_0.gguf`
+- `emma-5-Q1_0.gguf`
+- `emma-5-MXFP4_MOE.gguf`
+
+Le quantizzazioni sono state verificate localmente come riproducibili a partire da `emma-5-F32.gguf` con llama.cpp: gli output generati coincidono byte-per-byte con i file pubblicati.
+
+## Esecuzione con llama.cpp
+
+### Chat interattiva
+
+```bash
+llama-cli -m emma-5-F32.gguf --jinja -ngl 99 -c 2048 -cnv
+```
+
+### Prompt diretto
+
+```bash
+llama-cli -m emma-5-F32.gguf --jinja -ngl 99 -c 2048 -st -p "Qual è la capitale d'Italia?"
+```
+
+`--jinja` applica il chat template incorporato nel GGUF. `-ngl 99` carica i layer in GPU, se disponibile; omettilo per usare solo la CPU. `-c 2048` imposta la context length massima del modello.
+
+## Adattamenti rispetto al checkpoint ONNX
+
+Per l'architettura `llama` di llama.cpp sono stati applicati due adattamenti:
+
+- RoPE: le proiezioni Q e K sono permutate dal layout half-split (GPT-NeoX) al layout interleaved (GPT-J), come per i modelli LLaMA.
+- Chat template: il formato di istruzione Alpaca italiano usato nell'SFT è incorporato nel file (`tokenizer.chat_template`).
+
+## Formato del prompt
+
+```text
+### Istruzione: <richiesta> ### Risposta:
+```
+
+Con `--jinja` il formato viene applicato automaticamente. Per il completamento grezzo, usa lo stesso formato su una sola riga.
+
+## Parametri di campionamento
+
+Né i repository ufficiali né il checkpoint ONNX definiscono parametri di campionamento: un modello ONNX espone soltanto i logit, mentre `temperature`, `top-p` e `top-k` vengono applicati a valle dal codice di inferenza, non dal modello stesso. I valori seguenti non provengono quindi da Egomnia: sono valori di riferimento generici, scelti per questa conversione come compromesso ragionevole tra coerenza e varietà dell'output, e possono essere adattati liberamente al caso d'uso:
+
+- `temperature`: 0.7
+- `top-p`: 0.9
+- `top-k`: 40
+
+I default di llama.cpp sono diversi, quindi per usare questi valori conviene impostarli manualmente, incluso `--min-p 0`.
+
+Il `--repeat-penalty` non va invece impostato: llama.cpp lo lascia già a `1.0`, cioè nessuna penalità di ripetizione, coerentemente con un percorso di inferenza ONNX che non applica alcuna penalità.
+
+```bash
+llama-cli -m emma-5-F32.gguf --jinja -c 2048 -ngl 99 -cnv \
+  --temp 0.7 --top-k 40 --top-p 0.9 --min-p 0
+```
+
+Server OpenAI-compatibile:
+
+```bash
+llama-server -m emma-5-F32.gguf --jinja -c 2048 -ngl 99 \
+  --temp 0.7 --top-k 40 --top-p 0.9 --min-p 0
+```
+
+Per un output deterministico e riproducibile, e fedele al checkpoint ONNX, usa `--temp 0` (greedy).
+
+## Nota sul tokenizer
+
+Il tokenizer SentencePiece originale normalizza i ritorni a capo (`nmt_nfkc`, `remove_extra_whitespaces`), mentre il tokenizer di llama.cpp non lo fa nello stesso modo. Per evitare differenze nella tokenizzazione usa `--jinja`, oppure, nei prompt grezzi, spazi singoli al posto dei caratteri di a capo.
+
+## Nota sul multi-turno
+
+Emma-5 è stato addestrato (SFT) principalmente su singoli turni istruzione/risposta. È quindi più affidabile a turno singolo. In conversazioni a più turni la qualità può calare e l'output dipende da come viene ricostruita la cronologia del contesto.
+
+Per risultati più fedeli conviene inviare una istruzione completa per ogni richiesta.
+
+---
+
+## Informazioni sul modello originale
+
+Le informazioni seguenti derivano dal model card di [`egomnia/emma-5`](https://huggingface.co/egomnia/emma-5).
+
+## Overview
+
+**Emma-5** è un "mini" Large Language Model decoder-only sperimentale sviluppato da **Egomnia S.p.A.**, progettato per lingua italiana.
+
+Sito ufficiale: https://emma.egomnia.com
+
+Il modello è pensato per:
+
+- comprensione contestuale moderata
+- generazione di contenuti di media-piccola complessità
+
+Non è progettato per applicazioni safety-critical o reasoning avanzato multi-step.
+
+## Architettura
+
+- Tipo: GPT decoder-only
+- Transformer blocks: 28
+- Hidden size: 1.280
+- Attention heads: 16 query + 4 KV (GQA 4:1)
+- Head dimension: 80
+- Feed-forward dimension: 3.456 (SwiGLU, ff_mult 8/3)
+- Activation function: SwiGLU
+- Normalization: RMSNorm
+- Positional encoding: RoPE (theta 10.000)
+- Dropout: 0.0
+- Embeddings: tied (token embedding = lm_head)
+
+## Contesto e vocabolario
+
+- Context length: 2.048 token
+- Vocabulary size: 50.000 token
+- Tokenizer: SentencePiece BPE con byte fallback
+
+## Dataset di training
+
+- Codice: 40,48%
+- Generalista: 39,46%
+- Enciclopedico: 15,68%
+- Libri: 3,07%
+- Colloquiale: 0,73%
+- Politico: 0,55%
+
+## Training pipeline
+
+- Pretraining: 200.000 step
+- Fine-tuning: SFT (3 epoche)
+- DPO: disabilitato
+- Corpus pretraining: 54,36 GB raw (~10,8 miliardi token)
+
+## Export e ottimizzazione originali
+
+- Framework originale: PyTorch
+- Export originale: ONNX
+- Opset: 18
+- Quantizzazione ONNX: INT8
+- Peso modello ONNX: 2,46 GB (FP32)
+- Peso quantizzato INT8: ~560 MB
+
+## Uso non previsto
+
+- applicazioni mediche, legali o finanziarie critiche
+- sistemi ad alta affidabilità o mission critical
+- reasoning complesso multi-step
+- ricerca scientifica avanzata senza supervisione
+
+## Focus prestazionale
+
+Il modello è ottimizzato per:
+
+- equilibrio tra qualità e latenza
+- inference su CPU/GPU entry-level
+- contesti leggeri
+
+## Limitazioni
+
+- capacità di reasoning ancora limitata rispetto a modelli di grandi dimensioni
+- possibile generazione di contenuti imprecisi o incompleti
+- sensibilità a prompt ambigui o molto lunghi
+- contesto limitato a 2.048 token
+
+## Licenza
+
+Distribuito sotto licenza **OpenRAIL-M**, con eventuali vincoli derivati dalle licenze dei dataset utilizzati.
+Questa licenza consente l’uso, la modifica e la distribuzione del modello anche in ambito commerciale, imponendo tuttavia restrizioni sull’utilizzo in scenari potenzialmente dannosi, illegali o non etici, secondo i principi di Responsible AI e nel rispetto delle eventuali restrizioni derivanti dalle licenze dei dataset utilizzati.
+Si richiede esprezzamente di citare **Egomnia S.p.A.** come autore del modello in caso di utilizzo di quest'ultimo per prodotti, servizi, pubblicazioni o documentazione tecnica.
+
+## Autore
+
+Egomnia S.p.A.
+
+## Sito ufficiale
+
+https://emma.egomnia.com

emma-5-BF16.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:065b3c83f74ae790daddc3d35b5990d6d71c5824011edf74e7616ceb2420c5f6
+size 1230035296

emma-5-F16.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:611c3de8e25a73c1498dda5f36b304830c0cbeb7490140bfdccb90e7e43490a4
+size 1230035296

emma-5-F32.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:605bddae04c2040ba5741823c6e333ee1da1bdb9ec0d26f232ed30e011c8f79d
+size 2458589504

emma-5-IQ3_M.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d0cd903ccf446c72a6d0c7cf5dae1aaa335d1905ce6ca659ce96050a1b575e04
+size 316153696

emma-5-IQ3_S.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3fdd994cff1c5ec6f69feca47b51fd52ffcb4e67d4bb0ef91d673410deed50b7
+size 308402016

emma-5-IQ4_NL.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f1b308787d3b6a853c11c767830e7fe22a0b6cb33d40bb570a96f7116c60c861
+size 367433856

emma-5-IQ4_XS.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9a40bdea5dda6ae7d8bbf11b2b1eaeb3873063f292307cfecdc455a0288e1034
+size 354466816

emma-5-MXFP4_MOE.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c194362ad325d0ab268327397f0cf0dbc12bd15c05f2d33a02dc7030223758ac
+size 654150496

emma-5-Q1_0.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:57aedb3c34569534caca31734f414af190924ac5cd6b2c54767799553662d2e8
+size 131363776

emma-5-Q2_K.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4c4324f3dac75bf89f423553a0e8d4e7f15793f717f1ea452727a0a56348b39c
+size 270918336

emma-5-Q3_K_L.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:db0a9a7c055c4645995ed4234b3aa0bb6474936218aa614ecca58153f83cc3c4
+size 344887136

emma-5-Q3_K_M.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c76500774aa27b11dd2400f447a73d671ed1dc1d6a7302875cbfb8bf6834f8a9
+size 330356576

emma-5-Q3_K_S.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2efb09654c3a69eecfe1df0ff47e2d14fdafac4d59328ec4e8949f03e4d0e340
+size 306878816

emma-5-Q4_0.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fdb4974405c62b183b17091358f75967c0265bdfbf919c58eee9bb17bef18349
+size 363511936

emma-5-Q4_1.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:548a53d98f577ad84d56a1195f27f3671087c26b243632b4cf3ac33e28d27c53
+size 397904256

emma-5-Q4_K_M.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8806c931c32f81bc28f78fce2596829fd97ff2ba4b6a83002e91598593378481
+size 403697536

emma-5-Q4_K_S.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f113d0ef7dfd2273355dc2b7494218a681fea1ccb20e4eb585050b26fe55663b
+size 380029056

emma-5-Q5_0.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:93228232cb51b587f1758494a6f3ec045eecb8cde75161b567c4725447371f88
+size 432296576

emma-5-Q5_1.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5917c0a886d0ddb0ae9fa72177bc9760447dee15914d43e9ea148d91619266f8
+size 466688896

emma-5-Q5_K_M.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ec0f6fcf52d5c3a5fa39e21f3a925cbbc5a44a58b9368fcd73bff5803853b379
+size 460153216

emma-5-Q5_K_S.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5f1a4a3ba4cb5e3de2945e9939834523c532e93197912d7d01e68f7eda8030d4
+size 440038016

emma-5-Q6_K.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8ffcd828fe7877de8a0510d4903dc76ea0cf15c203c00bd4a3dc6b8617e67012
+size 535378336

emma-5-Q8_0.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a9b42aa8a22f24b14f1c5f81b4a4c3fd316f56d7a280c1431b99aac0092b855d
+size 654150496

emma-5-TQ1_0.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:408a19812e513cd411b3299d439c7f456918575252004ac918cb235758c4b18c
+size 236100736

emma-5-TQ2_0.gguf

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:32ee2620b5c907e009016828914c0bc6acf0a4960b55ef7d6b7e35da7d832a74
+size 253088896