85 lines
3.5 KiB
Markdown
85 lines
3.5 KiB
Markdown
---
|
|
license: unknown
|
|
language:
|
|
- pt
|
|
tags:
|
|
- pretraining
|
|
- portuguese
|
|
- akie
|
|
- aether-lab
|
|
- eplm
|
|
pipeline_tag: text-generation
|
|
---
|
|
|
|
<p align="center">
|
|
<img src="https://huggingface.co/AETHER-LAB/akie-350m/resolve/main/akie_icone.png" width="160"/>
|
|
</p>
|
|
|
|
<h1 align="center">AKIE</h1>
|
|
<p align="center"><em>Adaptive Knowledge and Intelligence Engine</em></p>
|
|
<p align="center"><strong>O primeiro ePLM — Evolutionary Personal LLM — 100% brasileiro</strong></p>
|
|
|
|
## O que é o AKIE
|
|
|
|
AKIE é um modelo de linguagem **treinado 100% do zero** — arquitetura,
|
|
tokenizer e embeddings próprios, sem partir de nenhum modelo de
|
|
terceiros. É o motor por trás do [NEXUS](https://agente.aetheros.com.br),
|
|
o assistente conversacional da [AETHER OS](https://aetheros.com.br).
|
|
|
|
Desenvolvido pela **AETHER Lab**, o braço de pesquisa/modelo da
|
|
AETHER OS — não uma equipe corporativa com orçamento ilimitado, mas
|
|
uma pessoa construindo com o que tem, um treino de cada vez.
|
|
|
|
## Por que "ePLM"
|
|
|
|
**ePLM — Evolutionary Personal LLM** é uma categoria própria, definida
|
|
não pelo tamanho do modelo, mas pela filosofia de como ele nasce e
|
|
como se relaciona com quem usa:
|
|
|
|
- **Evolutionary** — não nasce pronto. Cresce em etapas, cada treino é
|
|
evolução, não substituição.
|
|
- **Personal** — construído por uma pessoa, não por corporação. E se
|
|
adapta à pessoa que usa.
|
|
- **LLM** — o *Large* aqui não é sobre tamanho, é sobre ambição. Um
|
|
ePLM começa pequeno, mas mira longe.
|
|
|
|
AKIE não é a IA maior, nem tenta competir em escala com os grandes
|
|
laboratórios. É a **alternativa real** pra quem não tem acesso a
|
|
eles — feita por alguém no mesmo lugar, sem orçamento de sobra pra
|
|
errar em escala e corrigir depois. Isso não é discurso — é a restrição
|
|
real sob a qual cada decisão de treino deste modelo foi tomada.
|
|
|
|
## Status: pré-treino completo (1 época) — checkpoint base publicado, sem SFT ainda
|
|
|
|
**Os pesos publicados aqui são o checkpoint de PRÉ-TREINO puro
|
|
(`step_63989`), sem ajuste de instrução (SFT).** Ele completa e
|
|
continua texto — ainda não segue instrução de forma confiável, não
|
|
tem comportamento de diálogo polido, e não deve ser tratado como
|
|
assistente pronto. As capacidades descritas na seção de Filosofia
|
|
abaixo são o objetivo do projeto, não o que este checkpoint específico
|
|
já entrega.
|
|
|
|
- **Arquitetura**: 350M parâmetros (Llama-style: RMSNorm, SwiGLU,
|
|
RoPE, 26 camadas, hidden=1024, 16 heads, embeddings compartilhadas)
|
|
- **Corpus**: ~6B tokens, 4 eixos (código, raciocínio, instruções,
|
|
diálogo + conhecimento factual), 100% português do Brasil + código
|
|
- **Contexto**: 4096 tokens
|
|
- **Pré-treino**: 1 época completa, 63.989 steps, **val_loss final
|
|
1,6064** (held-out fixo, nunca visto no treino)
|
|
|
|
**Próxima etapa (em andamento)**: SFT (fine-tuning supervisionado) —
|
|
pilotos exploratórios já mostraram sinal real de que capacidades como
|
|
seguir instrução, raciocinar em `<think>` antes de responder, trocar
|
|
de idioma e usar resultado de ferramenta corretamente respondem bem a
|
|
SFT leve e barato sobre esse checkpoint. O modelo com SFT completo
|
|
(o que de fato vira o motor do NEXUS) ainda não está publicado.
|
|
|
|
## Filosofia
|
|
|
|
O objetivo não é bater benchmark — é um modelo que, quando o SFT
|
|
estiver pronto, se comporte de forma confiável: verificar fatos antes
|
|
de responder quando não tem certeza, admitir quando não sabe em vez de
|
|
inventar, e ser transparente sobre a confiabilidade das fontes que
|
|
usa. Pequeno, mas honesto — sobre o que sabe e sobre onde ainda está
|
|
em construção.
|