Adaptive Knowledge and Intelligence Engine
O primeiro ePLM — Evolutionary Personal LLM — 100% brasileiro
## O que é o AKIE AKIE é um modelo de linguagem **treinado 100% do zero** — arquitetura, tokenizer e embeddings próprios, sem partir de nenhum modelo de terceiros. É o motor por trás do [NEXUS](https://agente.aetheros.com.br), o assistente conversacional da [AETHER OS](https://aetheros.com.br). Desenvolvido pela **AETHER Lab**, o braço de pesquisa/modelo da AETHER OS — não uma equipe corporativa com orçamento ilimitado, mas uma pessoa construindo com o que tem, um treino de cada vez. ## Por que "ePLM" **ePLM — Evolutionary Personal LLM** é uma categoria própria, definida não pelo tamanho do modelo, mas pela filosofia de como ele nasce e como se relaciona com quem usa: - **Evolutionary** — não nasce pronto. Cresce em etapas, cada treino é evolução, não substituição. - **Personal** — construído por uma pessoa, não por corporação. E se adapta à pessoa que usa. - **LLM** — o *Large* aqui não é sobre tamanho, é sobre ambição. Um ePLM começa pequeno, mas mira longe. AKIE não é a IA maior, nem tenta competir em escala com os grandes laboratórios. É a **alternativa real** pra quem não tem acesso a eles — feita por alguém no mesmo lugar, sem orçamento de sobra pra errar em escala e corrigir depois. Isso não é discurso — é a restrição real sob a qual cada decisão de treino deste modelo foi tomada. ## Status: pré-treino completo (1 época) — checkpoint base publicado, sem SFT ainda **Os pesos publicados aqui são o checkpoint de PRÉ-TREINO puro (`step_63989`), sem ajuste de instrução (SFT).** Ele completa e continua texto — ainda não segue instrução de forma confiável, não tem comportamento de diálogo polido, e não deve ser tratado como assistente pronto. As capacidades descritas na seção de Filosofia abaixo são o objetivo do projeto, não o que este checkpoint específico já entrega. - **Arquitetura**: 350M parâmetros (Llama-style: RMSNorm, SwiGLU, RoPE, 26 camadas, hidden=1024, 16 heads, embeddings compartilhadas) - **Corpus**: ~6B tokens, 4 eixos (código, raciocínio, instruções, diálogo + conhecimento factual), 100% português do Brasil + código - **Contexto**: 4096 tokens - **Pré-treino**: 1 época completa, 63.989 steps, **val_loss final 1,6064** (held-out fixo, nunca visto no treino) **Próxima etapa (em andamento)**: SFT (fine-tuning supervisionado) — pilotos exploratórios já mostraram sinal real de que capacidades como seguir instrução, raciocinar em `