commit aede321963d1257d8a691b4be37689db4acc51ea Author: ModelHub XC Date: Wed Jul 1 20:18:18 2026 +0800 初始化项目,由ModelHub XC社区提供模型 Model: MrMeOrYou/emma-5-GGUF Source: Original Platform diff --git a/.gitattributes b/.gitattributes new file mode 100644 index 0000000..3d4b353 --- /dev/null +++ b/.gitattributes @@ -0,0 +1,60 @@ +*.7z filter=lfs diff=lfs merge=lfs -text +*.arrow filter=lfs diff=lfs merge=lfs -text +*.bin filter=lfs diff=lfs merge=lfs -text +*.bz2 filter=lfs diff=lfs merge=lfs -text +*.ckpt filter=lfs diff=lfs merge=lfs -text +*.ftz filter=lfs diff=lfs merge=lfs -text +*.gz filter=lfs diff=lfs merge=lfs -text +*.h5 filter=lfs diff=lfs merge=lfs -text +*.joblib filter=lfs diff=lfs merge=lfs -text +*.lfs.* filter=lfs diff=lfs merge=lfs -text +*.mlmodel filter=lfs diff=lfs merge=lfs -text +*.model filter=lfs diff=lfs merge=lfs -text +*.msgpack filter=lfs diff=lfs merge=lfs -text +*.npy filter=lfs diff=lfs merge=lfs -text +*.npz filter=lfs diff=lfs merge=lfs -text +*.onnx filter=lfs diff=lfs merge=lfs -text +*.ot filter=lfs diff=lfs merge=lfs -text +*.parquet filter=lfs diff=lfs merge=lfs -text +*.pb filter=lfs diff=lfs merge=lfs -text +*.pickle filter=lfs diff=lfs merge=lfs -text +*.pkl filter=lfs diff=lfs merge=lfs -text +*.pt filter=lfs diff=lfs merge=lfs -text +*.pth filter=lfs diff=lfs merge=lfs -text +*.rar filter=lfs diff=lfs merge=lfs -text +*.safetensors filter=lfs diff=lfs merge=lfs -text +saved_model/**/* filter=lfs diff=lfs merge=lfs -text +*.tar.* filter=lfs diff=lfs merge=lfs -text +*.tar filter=lfs diff=lfs merge=lfs -text +*.tflite filter=lfs diff=lfs merge=lfs -text +*.tgz filter=lfs diff=lfs merge=lfs -text +*.wasm filter=lfs diff=lfs merge=lfs -text +*.xz filter=lfs diff=lfs merge=lfs -text +*.zip filter=lfs diff=lfs merge=lfs -text +*.zst filter=lfs diff=lfs merge=lfs -text +*tfevents* filter=lfs diff=lfs merge=lfs -text +emma-5-F32.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q3_K_M.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q3_K_S.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q4_K_M.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q5_0.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q5_1.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q5_K_S.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-IQ3_M.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-IQ4_XS.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-MXFP4_MOE.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q1_0.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q3_K_L.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-BF16.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-F16.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-IQ3_S.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q2_K.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q4_1.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q5_K_M.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q6_K.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-TQ2_0.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-IQ4_NL.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q4_0.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q4_K_S.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-Q8_0.gguf filter=lfs diff=lfs merge=lfs -text +emma-5-TQ1_0.gguf filter=lfs diff=lfs merge=lfs -text diff --git a/README.md b/README.md new file mode 100644 index 0000000..89a245c --- /dev/null +++ b/README.md @@ -0,0 +1,239 @@ +--- +license: openrail +base_model: egomnia/emma-5 +base_model_relation: quantized +library_name: gguf +pipeline_tag: text-generation +language: + - it +authors: + - Egomnia S.p.A. +tags: + - gguf + - llama.cpp + - italian + - gpt + - text-generation + - enterprise + - swiGLU + - gqa +datasets: + - custom-mixture +--- + +# 🇮🇹 Emma-5 (GGUF) + +## Premessa + +Questo repository contiene una conversione **non ufficiale** in formato GGUF di [`egomnia/emma-5`](https://huggingface.co/egomnia/emma-5), realizzata con llama.cpp. + +Il modello originale **Emma-5** è stato sviluppato da **Egomnia S.p.A.**. Questo repository non è affiliato a Egomnia S.p.A. e non modifica l'autorialità del modello originale. + +### Provenienza dei pesi + +La prima conversione GGUF è stata creata mentre il repository originale `egomnia/emma-5` non era disponibile pubblicamente. In quel momento i pesi sono stati recuperati da [`eldavoo/emma-5`](https://huggingface.co/eldavoo/emma-5), un reupload/archivio pubblico del modello. + +Dopo la ripubblicazione di [`egomnia/emma-5`](https://huggingface.co/egomnia/emma-5), i file del modello e del tokenizer sono stati confrontati con quelli di `eldavoo/emma-5` e verificati come byte-identici. Per questo motivo i metadata di questo repository puntano ora a `egomnia/emma-5` come modello base originale. + +Grazie a `eldavoo` per aver mantenuto disponibile l'archivio pubblico usato come sorgente al momento della conversione iniziale. L'autorialità e i diritti sul modello restano attribuiti a Egomnia S.p.A. secondo la licenza e il model card originali. + +## File disponibili + +Il file `emma-5-F32.gguf` è la conversione GGUF in F32 del modello originale. Le altre varianti sono state ricavate da questo file con `llama-quantize`, usando i tipi di quantizzazione supportati da llama.cpp. + +Sono disponibili: + +- `emma-5-F32.gguf` +- `emma-5-F16.gguf` +- `emma-5-BF16.gguf` +- `emma-5-Q8_0.gguf` +- `emma-5-Q6_K.gguf` +- `emma-5-Q5_K_M.gguf` +- `emma-5-Q5_K_S.gguf` +- `emma-5-Q5_1.gguf` +- `emma-5-Q5_0.gguf` +- `emma-5-Q4_K_M.gguf` +- `emma-5-Q4_K_S.gguf` +- `emma-5-Q4_1.gguf` +- `emma-5-Q4_0.gguf` +- `emma-5-IQ4_NL.gguf` +- `emma-5-IQ4_XS.gguf` +- `emma-5-Q3_K_L.gguf` +- `emma-5-Q3_K_M.gguf` +- `emma-5-Q3_K_S.gguf` +- `emma-5-IQ3_M.gguf` +- `emma-5-IQ3_S.gguf` +- `emma-5-Q2_K.gguf` +- `emma-5-TQ2_0.gguf` +- `emma-5-TQ1_0.gguf` +- `emma-5-Q1_0.gguf` +- `emma-5-MXFP4_MOE.gguf` + +Le quantizzazioni sono state verificate localmente come riproducibili a partire da `emma-5-F32.gguf` con llama.cpp: gli output generati coincidono byte-per-byte con i file pubblicati. + +## Esecuzione con llama.cpp + +### Chat interattiva + +```bash +llama-cli -m emma-5-F32.gguf --jinja -ngl 99 -c 2048 -cnv +``` + +### Prompt diretto + +```bash +llama-cli -m emma-5-F32.gguf --jinja -ngl 99 -c 2048 -st -p "Qual è la capitale d'Italia?" +``` + +`--jinja` applica il chat template incorporato nel GGUF. `-ngl 99` carica i layer in GPU, se disponibile; omettilo per usare solo la CPU. `-c 2048` imposta la context length massima del modello. + +## Adattamenti rispetto al checkpoint ONNX + +Per l'architettura `llama` di llama.cpp sono stati applicati due adattamenti: + +- RoPE: le proiezioni Q e K sono permutate dal layout half-split (GPT-NeoX) al layout interleaved (GPT-J), come per i modelli LLaMA. +- Chat template: il formato di istruzione Alpaca italiano usato nell'SFT è incorporato nel file (`tokenizer.chat_template`). + +## Formato del prompt + +```text +### Istruzione: ### Risposta: +``` + +Con `--jinja` il formato viene applicato automaticamente. Per il completamento grezzo, usa lo stesso formato su una sola riga. + +## Parametri di campionamento + +Né i repository ufficiali né il checkpoint ONNX definiscono parametri di campionamento: un modello ONNX espone soltanto i logit, mentre `temperature`, `top-p` e `top-k` vengono applicati a valle dal codice di inferenza, non dal modello stesso. I valori seguenti non provengono quindi da Egomnia: sono valori di riferimento generici, scelti per questa conversione come compromesso ragionevole tra coerenza e varietà dell'output, e possono essere adattati liberamente al caso d'uso: + +- `temperature`: 0.7 +- `top-p`: 0.9 +- `top-k`: 40 + +I default di llama.cpp sono diversi, quindi per usare questi valori conviene impostarli manualmente, incluso `--min-p 0`. + +Il `--repeat-penalty` non va invece impostato: llama.cpp lo lascia già a `1.0`, cioè nessuna penalità di ripetizione, coerentemente con un percorso di inferenza ONNX che non applica alcuna penalità. + +```bash +llama-cli -m emma-5-F32.gguf --jinja -c 2048 -ngl 99 -cnv \ + --temp 0.7 --top-k 40 --top-p 0.9 --min-p 0 +``` + +Server OpenAI-compatibile: + +```bash +llama-server -m emma-5-F32.gguf --jinja -c 2048 -ngl 99 \ + --temp 0.7 --top-k 40 --top-p 0.9 --min-p 0 +``` + +Per un output deterministico e riproducibile, e fedele al checkpoint ONNX, usa `--temp 0` (greedy). + +## Nota sul tokenizer + +Il tokenizer SentencePiece originale normalizza i ritorni a capo (`nmt_nfkc`, `remove_extra_whitespaces`), mentre il tokenizer di llama.cpp non lo fa nello stesso modo. Per evitare differenze nella tokenizzazione usa `--jinja`, oppure, nei prompt grezzi, spazi singoli al posto dei caratteri di a capo. + +## Nota sul multi-turno + +Emma-5 è stato addestrato (SFT) principalmente su singoli turni istruzione/risposta. È quindi più affidabile a turno singolo. In conversazioni a più turni la qualità può calare e l'output dipende da come viene ricostruita la cronologia del contesto. + +Per risultati più fedeli conviene inviare una istruzione completa per ogni richiesta. + +--- + +## Informazioni sul modello originale + +Le informazioni seguenti derivano dal model card di [`egomnia/emma-5`](https://huggingface.co/egomnia/emma-5). + +## Overview + +**Emma-5** è un "mini" Large Language Model decoder-only sperimentale sviluppato da **Egomnia S.p.A.**, progettato per lingua italiana. + +Sito ufficiale: https://emma.egomnia.com + +Il modello è pensato per: + +- comprensione contestuale moderata +- generazione di contenuti di media-piccola complessità + +Non è progettato per applicazioni safety-critical o reasoning avanzato multi-step. + +## Architettura + +- Tipo: GPT decoder-only +- Transformer blocks: 28 +- Hidden size: 1.280 +- Attention heads: 16 query + 4 KV (GQA 4:1) +- Head dimension: 80 +- Feed-forward dimension: 3.456 (SwiGLU, ff_mult 8/3) +- Activation function: SwiGLU +- Normalization: RMSNorm +- Positional encoding: RoPE (theta 10.000) +- Dropout: 0.0 +- Embeddings: tied (token embedding = lm_head) + +## Contesto e vocabolario + +- Context length: 2.048 token +- Vocabulary size: 50.000 token +- Tokenizer: SentencePiece BPE con byte fallback + +## Dataset di training + +- Codice: 40,48% +- Generalista: 39,46% +- Enciclopedico: 15,68% +- Libri: 3,07% +- Colloquiale: 0,73% +- Politico: 0,55% + +## Training pipeline + +- Pretraining: 200.000 step +- Fine-tuning: SFT (3 epoche) +- DPO: disabilitato +- Corpus pretraining: 54,36 GB raw (~10,8 miliardi token) + +## Export e ottimizzazione originali + +- Framework originale: PyTorch +- Export originale: ONNX +- Opset: 18 +- Quantizzazione ONNX: INT8 +- Peso modello ONNX: 2,46 GB (FP32) +- Peso quantizzato INT8: ~560 MB + +## Uso non previsto + +- applicazioni mediche, legali o finanziarie critiche +- sistemi ad alta affidabilità o mission critical +- reasoning complesso multi-step +- ricerca scientifica avanzata senza supervisione + +## Focus prestazionale + +Il modello è ottimizzato per: + +- equilibrio tra qualità e latenza +- inference su CPU/GPU entry-level +- contesti leggeri + +## Limitazioni + +- capacità di reasoning ancora limitata rispetto a modelli di grandi dimensioni +- possibile generazione di contenuti imprecisi o incompleti +- sensibilità a prompt ambigui o molto lunghi +- contesto limitato a 2.048 token + +## Licenza + +Distribuito sotto licenza **OpenRAIL-M**, con eventuali vincoli derivati dalle licenze dei dataset utilizzati. +Questa licenza consente l’uso, la modifica e la distribuzione del modello anche in ambito commerciale, imponendo tuttavia restrizioni sull’utilizzo in scenari potenzialmente dannosi, illegali o non etici, secondo i principi di Responsible AI e nel rispetto delle eventuali restrizioni derivanti dalle licenze dei dataset utilizzati. +Si richiede esprezzamente di citare **Egomnia S.p.A.** come autore del modello in caso di utilizzo di quest'ultimo per prodotti, servizi, pubblicazioni o documentazione tecnica. + +## Autore + +Egomnia S.p.A. + +## Sito ufficiale + +https://emma.egomnia.com diff --git a/emma-5-BF16.gguf b/emma-5-BF16.gguf new file mode 100644 index 0000000..3a13c98 --- /dev/null +++ b/emma-5-BF16.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:065b3c83f74ae790daddc3d35b5990d6d71c5824011edf74e7616ceb2420c5f6 +size 1230035296 diff --git a/emma-5-F16.gguf b/emma-5-F16.gguf new file mode 100644 index 0000000..92ae60f --- /dev/null +++ b/emma-5-F16.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:611c3de8e25a73c1498dda5f36b304830c0cbeb7490140bfdccb90e7e43490a4 +size 1230035296 diff --git a/emma-5-F32.gguf b/emma-5-F32.gguf new file mode 100644 index 0000000..b3a68a1 --- /dev/null +++ b/emma-5-F32.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:605bddae04c2040ba5741823c6e333ee1da1bdb9ec0d26f232ed30e011c8f79d +size 2458589504 diff --git a/emma-5-IQ3_M.gguf b/emma-5-IQ3_M.gguf new file mode 100644 index 0000000..9e33338 --- /dev/null +++ b/emma-5-IQ3_M.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d0cd903ccf446c72a6d0c7cf5dae1aaa335d1905ce6ca659ce96050a1b575e04 +size 316153696 diff --git a/emma-5-IQ3_S.gguf b/emma-5-IQ3_S.gguf new file mode 100644 index 0000000..1150624 --- /dev/null +++ b/emma-5-IQ3_S.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3fdd994cff1c5ec6f69feca47b51fd52ffcb4e67d4bb0ef91d673410deed50b7 +size 308402016 diff --git a/emma-5-IQ4_NL.gguf b/emma-5-IQ4_NL.gguf new file mode 100644 index 0000000..d90606b --- /dev/null +++ b/emma-5-IQ4_NL.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f1b308787d3b6a853c11c767830e7fe22a0b6cb33d40bb570a96f7116c60c861 +size 367433856 diff --git a/emma-5-IQ4_XS.gguf b/emma-5-IQ4_XS.gguf new file mode 100644 index 0000000..1fe8fcc --- /dev/null +++ b/emma-5-IQ4_XS.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9a40bdea5dda6ae7d8bbf11b2b1eaeb3873063f292307cfecdc455a0288e1034 +size 354466816 diff --git a/emma-5-MXFP4_MOE.gguf b/emma-5-MXFP4_MOE.gguf new file mode 100644 index 0000000..eba7646 --- /dev/null +++ b/emma-5-MXFP4_MOE.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c194362ad325d0ab268327397f0cf0dbc12bd15c05f2d33a02dc7030223758ac +size 654150496 diff --git a/emma-5-Q1_0.gguf b/emma-5-Q1_0.gguf new file mode 100644 index 0000000..53024dc --- /dev/null +++ b/emma-5-Q1_0.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:57aedb3c34569534caca31734f414af190924ac5cd6b2c54767799553662d2e8 +size 131363776 diff --git a/emma-5-Q2_K.gguf b/emma-5-Q2_K.gguf new file mode 100644 index 0000000..80e867d --- /dev/null +++ b/emma-5-Q2_K.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4c4324f3dac75bf89f423553a0e8d4e7f15793f717f1ea452727a0a56348b39c +size 270918336 diff --git a/emma-5-Q3_K_L.gguf b/emma-5-Q3_K_L.gguf new file mode 100644 index 0000000..ec63167 --- /dev/null +++ b/emma-5-Q3_K_L.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:db0a9a7c055c4645995ed4234b3aa0bb6474936218aa614ecca58153f83cc3c4 +size 344887136 diff --git a/emma-5-Q3_K_M.gguf b/emma-5-Q3_K_M.gguf new file mode 100644 index 0000000..a958170 --- /dev/null +++ b/emma-5-Q3_K_M.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c76500774aa27b11dd2400f447a73d671ed1dc1d6a7302875cbfb8bf6834f8a9 +size 330356576 diff --git a/emma-5-Q3_K_S.gguf b/emma-5-Q3_K_S.gguf new file mode 100644 index 0000000..3638295 --- /dev/null +++ b/emma-5-Q3_K_S.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2efb09654c3a69eecfe1df0ff47e2d14fdafac4d59328ec4e8949f03e4d0e340 +size 306878816 diff --git a/emma-5-Q4_0.gguf b/emma-5-Q4_0.gguf new file mode 100644 index 0000000..98defc2 --- /dev/null +++ b/emma-5-Q4_0.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fdb4974405c62b183b17091358f75967c0265bdfbf919c58eee9bb17bef18349 +size 363511936 diff --git a/emma-5-Q4_1.gguf b/emma-5-Q4_1.gguf new file mode 100644 index 0000000..d0df035 --- /dev/null +++ b/emma-5-Q4_1.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:548a53d98f577ad84d56a1195f27f3671087c26b243632b4cf3ac33e28d27c53 +size 397904256 diff --git a/emma-5-Q4_K_M.gguf b/emma-5-Q4_K_M.gguf new file mode 100644 index 0000000..b5c5590 --- /dev/null +++ b/emma-5-Q4_K_M.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8806c931c32f81bc28f78fce2596829fd97ff2ba4b6a83002e91598593378481 +size 403697536 diff --git a/emma-5-Q4_K_S.gguf b/emma-5-Q4_K_S.gguf new file mode 100644 index 0000000..a7ec945 --- /dev/null +++ b/emma-5-Q4_K_S.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f113d0ef7dfd2273355dc2b7494218a681fea1ccb20e4eb585050b26fe55663b +size 380029056 diff --git a/emma-5-Q5_0.gguf b/emma-5-Q5_0.gguf new file mode 100644 index 0000000..92770a8 --- /dev/null +++ b/emma-5-Q5_0.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:93228232cb51b587f1758494a6f3ec045eecb8cde75161b567c4725447371f88 +size 432296576 diff --git a/emma-5-Q5_1.gguf b/emma-5-Q5_1.gguf new file mode 100644 index 0000000..1dd7949 --- /dev/null +++ b/emma-5-Q5_1.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5917c0a886d0ddb0ae9fa72177bc9760447dee15914d43e9ea148d91619266f8 +size 466688896 diff --git a/emma-5-Q5_K_M.gguf b/emma-5-Q5_K_M.gguf new file mode 100644 index 0000000..a49f4e9 --- /dev/null +++ b/emma-5-Q5_K_M.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ec0f6fcf52d5c3a5fa39e21f3a925cbbc5a44a58b9368fcd73bff5803853b379 +size 460153216 diff --git a/emma-5-Q5_K_S.gguf b/emma-5-Q5_K_S.gguf new file mode 100644 index 0000000..17df56a --- /dev/null +++ b/emma-5-Q5_K_S.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5f1a4a3ba4cb5e3de2945e9939834523c532e93197912d7d01e68f7eda8030d4 +size 440038016 diff --git a/emma-5-Q6_K.gguf b/emma-5-Q6_K.gguf new file mode 100644 index 0000000..9a6c5a4 --- /dev/null +++ b/emma-5-Q6_K.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8ffcd828fe7877de8a0510d4903dc76ea0cf15c203c00bd4a3dc6b8617e67012 +size 535378336 diff --git a/emma-5-Q8_0.gguf b/emma-5-Q8_0.gguf new file mode 100644 index 0000000..ab0a4e8 --- /dev/null +++ b/emma-5-Q8_0.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a9b42aa8a22f24b14f1c5f81b4a4c3fd316f56d7a280c1431b99aac0092b855d +size 654150496 diff --git a/emma-5-TQ1_0.gguf b/emma-5-TQ1_0.gguf new file mode 100644 index 0000000..faac469 --- /dev/null +++ b/emma-5-TQ1_0.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:408a19812e513cd411b3299d439c7f456918575252004ac918cb235758c4b18c +size 236100736 diff --git a/emma-5-TQ2_0.gguf b/emma-5-TQ2_0.gguf new file mode 100644 index 0000000..ca026b8 --- /dev/null +++ b/emma-5-TQ2_0.gguf @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:32ee2620b5c907e009016828914c0bc6acf0a4960b55ef7d6b7e35da7d832a74 +size 253088896