初始化项目,由ModelHub XC社区提供模型

Model: AETHER-LAB/akie-350m
Source: Original Platform
This commit is contained in:
ModelHub XC
2026-10-25 06:24:17 +08:00
commit 373f984c5a
9 changed files with 296634 additions and 0 deletions

37
.gitattributes vendored Normal file
View File

@@ -0,0 +1,37 @@
*.7z filter=lfs diff=lfs merge=lfs -text
*.arrow filter=lfs diff=lfs merge=lfs -text
*.bin filter=lfs diff=lfs merge=lfs -text
*.bz2 filter=lfs diff=lfs merge=lfs -text
*.ckpt filter=lfs diff=lfs merge=lfs -text
*.ftz filter=lfs diff=lfs merge=lfs -text
*.gz filter=lfs diff=lfs merge=lfs -text
*.h5 filter=lfs diff=lfs merge=lfs -text
*.joblib filter=lfs diff=lfs merge=lfs -text
*.lfs.* filter=lfs diff=lfs merge=lfs -text
*.mlmodel filter=lfs diff=lfs merge=lfs -text
*.model filter=lfs diff=lfs merge=lfs -text
*.msgpack filter=lfs diff=lfs merge=lfs -text
*.npy filter=lfs diff=lfs merge=lfs -text
*.npz filter=lfs diff=lfs merge=lfs -text
*.onnx filter=lfs diff=lfs merge=lfs -text
*.ot filter=lfs diff=lfs merge=lfs -text
*.parquet filter=lfs diff=lfs merge=lfs -text
*.pb filter=lfs diff=lfs merge=lfs -text
*.pickle filter=lfs diff=lfs merge=lfs -text
*.pkl filter=lfs diff=lfs merge=lfs -text
*.pt filter=lfs diff=lfs merge=lfs -text
*.pth filter=lfs diff=lfs merge=lfs -text
*.rar filter=lfs diff=lfs merge=lfs -text
*.safetensors filter=lfs diff=lfs merge=lfs -text
saved_model/**/* filter=lfs diff=lfs merge=lfs -text
*.tar.* filter=lfs diff=lfs merge=lfs -text
*.tar filter=lfs diff=lfs merge=lfs -text
*.tflite filter=lfs diff=lfs merge=lfs -text
*.tgz filter=lfs diff=lfs merge=lfs -text
*.wasm filter=lfs diff=lfs merge=lfs -text
*.xz filter=lfs diff=lfs merge=lfs -text
*.zip filter=lfs diff=lfs merge=lfs -text
*.zst filter=lfs diff=lfs merge=lfs -text
*tfevents* filter=lfs diff=lfs merge=lfs -text
akie_icone.png filter=lfs diff=lfs merge=lfs -text
akie_icone_avatar_com_margem.png filter=lfs diff=lfs merge=lfs -text

84
README.md Normal file
View File

@@ -0,0 +1,84 @@
---
license: unknown
language:
- pt
tags:
- pretraining
- portuguese
- akie
- aether-lab
- eplm
pipeline_tag: text-generation
---
<p align="center">
<img src="https://huggingface.co/AETHER-LAB/akie-350m/resolve/main/akie_icone.png" width="160"/>
</p>
<h1 align="center">AKIE</h1>
<p align="center"><em>Adaptive Knowledge and Intelligence Engine</em></p>
<p align="center"><strong>O primeiro ePLM — Evolutionary Personal LLM — 100% brasileiro</strong></p>
## O que é o AKIE
AKIE é um modelo de linguagem **treinado 100% do zero** — arquitetura,
tokenizer e embeddings próprios, sem partir de nenhum modelo de
terceiros. É o motor por trás do [NEXUS](https://agente.aetheros.com.br),
o assistente conversacional da [AETHER OS](https://aetheros.com.br).
Desenvolvido pela **AETHER Lab**, o braço de pesquisa/modelo da
AETHER OS — não uma equipe corporativa com orçamento ilimitado, mas
uma pessoa construindo com o que tem, um treino de cada vez.
## Por que "ePLM"
**ePLM — Evolutionary Personal LLM** é uma categoria própria, definida
não pelo tamanho do modelo, mas pela filosofia de como ele nasce e
como se relaciona com quem usa:
- **Evolutionary** — não nasce pronto. Cresce em etapas, cada treino é
evolução, não substituição.
- **Personal** — construído por uma pessoa, não por corporação. E se
adapta à pessoa que usa.
- **LLM** — o *Large* aqui não é sobre tamanho, é sobre ambição. Um
ePLM começa pequeno, mas mira longe.
AKIE não é a IA maior, nem tenta competir em escala com os grandes
laboratórios. É a **alternativa real** pra quem não tem acesso a
eles — feita por alguém no mesmo lugar, sem orçamento de sobra pra
errar em escala e corrigir depois. Isso não é discurso — é a restrição
real sob a qual cada decisão de treino deste modelo foi tomada.
## Status: pré-treino completo (1 época) — checkpoint base publicado, sem SFT ainda
**Os pesos publicados aqui são o checkpoint de PRÉ-TREINO puro
(`step_63989`), sem ajuste de instrução (SFT).** Ele completa e
continua texto — ainda não segue instrução de forma confiável, não
tem comportamento de diálogo polido, e não deve ser tratado como
assistente pronto. As capacidades descritas na seção de Filosofia
abaixo são o objetivo do projeto, não o que este checkpoint específico
já entrega.
- **Arquitetura**: 350M parâmetros (Llama-style: RMSNorm, SwiGLU,
RoPE, 26 camadas, hidden=1024, 16 heads, embeddings compartilhadas)
- **Corpus**: ~6B tokens, 4 eixos (código, raciocínio, instruções,
diálogo + conhecimento factual), 100% português do Brasil + código
- **Contexto**: 4096 tokens
- **Pré-treino**: 1 época completa, 63.989 steps, **val_loss final
1,6064** (held-out fixo, nunca visto no treino)
**Próxima etapa (em andamento)**: SFT (fine-tuning supervisionado) —
pilotos exploratórios já mostraram sinal real de que capacidades como
seguir instrução, raciocinar em `<think>` antes de responder, trocar
de idioma e usar resultado de ferramenta corretamente respondem bem a
SFT leve e barato sobre esse checkpoint. O modelo com SFT completo
(o que de fato vira o motor do NEXUS) ainda não está publicado.
## Filosofia
O objetivo não é bater benchmark — é um modelo que, quando o SFT
estiver pronto, se comporte de forma confiável: verificar fatos antes
de responder quando não tem certeza, admitir quando não sabe em vez de
inventar, e ser transparente sobre a confiabilidade das fontes que
usa. Pequeno, mas honesto — sobre o que sabe e sobre onde ainda está
em construção.

3
akie_icone.png Normal file
View File

@@ -0,0 +1,3 @@
version https://git-lfs.github.com/spec/v1
oid sha256:dabbe42c987bdd97ca251b93d409abf293ded12b5c929620b3631530fd513bd6
size 23201

View File

@@ -0,0 +1,3 @@
version https://git-lfs.github.com/spec/v1
oid sha256:96d1946c735ef5886e90bd0ff661d12b0ad2b3c6dda1be64438258ae07884eb9
size 731750

32
config.json Normal file
View File

@@ -0,0 +1,32 @@
{
"architectures": [
"LlamaForCausalLM"
],
"attention_bias": false,
"attention_dropout": 0.0,
"bos_token_id": 2,
"dtype": "bfloat16",
"eos_token_id": 3,
"head_dim": 64,
"hidden_act": "silu",
"hidden_size": 1024,
"initializer_range": 0.02,
"intermediate_size": 2816,
"max_position_embeddings": 4096,
"mlp_bias": false,
"model_type": "llama",
"num_attention_heads": 16,
"num_hidden_layers": 26,
"num_key_value_heads": 16,
"pad_token_id": 0,
"pretraining_tp": 1,
"rms_norm_eps": 1e-06,
"rope_parameters": {
"rope_theta": 10000.0,
"rope_type": "default"
},
"tie_word_embeddings": true,
"transformers_version": "5.15.0",
"use_cache": false,
"vocab_size": 32002
}

10
generation_config.json Normal file
View File

@@ -0,0 +1,10 @@
{
"_from_model_config": true,
"bos_token_id": 2,
"eos_token_id": 3,
"output_attentions": false,
"output_hidden_states": false,
"pad_token_id": 0,
"transformers_version": "5.15.0",
"use_cache": true
}

3
model.safetensors Normal file
View File

@@ -0,0 +1,3 @@
version https://git-lfs.github.com/spec/v1
oid sha256:ab8ee0367a0296b55ecc8e8c9645cb2ef99a2fe70222754696fb0ed68ce2203c
size 733618448

296438
tokenizer.json Normal file

File diff suppressed because it is too large Load Diff

24
tokenizer_config.json Normal file
View File

@@ -0,0 +1,24 @@
{
"add_prefix_space": true,
"backend": "tokenizers",
"bos_token": "<s>",
"clean_up_tokenization_spaces": false,
"eos_token": "</s>",
"additional_special_tokens": [
"<|user|>",
"</|user|>",
"<|assistant|>",
"</|assistant|>",
"<think>",
"</think>"
],
"is_local": true,
"local_files_only": false,
"model_max_length": 1000000000000000019884624838656,
"pad_token": "<pad>",
"sp_model_kwargs": {},
"spaces_between_special_tokens": false,
"tokenizer_class": "PreTrainedTokenizerFast",
"unk_token": "<unk>",
"use_default_system_prompt": false
}