3.6 KiB
3.6 KiB
base_model, library_name, license, tags, language, datasets, quantized_by, pipeline_tag
| base_model | library_name | license | tags | language | datasets | quantized_by | pipeline_tag | ||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
transformers | apache-2.0 |
|
|
|
wilsondesouza | text-generation |
Aurora-1.0-Hermes-3.1-8B-PTBR-GGUF
Aurora-1.0-Hermes-3.1-8B-PTBR é um modelo de linguagem focado em Roleplay (Interpretação de Personagens) e Escrita Criativa totalmente em Português do Brasil.
Ele foi treinado utilizando a técnica Unsloth sobre o modelo base Hermes-3-Llama-3.1-8B-lorablated, herdando sua capacidade de seguir instruções complexas e sua natureza "uncensored" (sem recusas excessivas), mas refinado para a cultura e idioma brasileiro.
🌟 Destaques
- Nativo em PT-BR: Treinado com um dataset sintético de alta qualidade contendo diálogos culturalmente relevantes.
- Foco em Roleplay: Especializado em manter personagens, narrar ações e expressar emoções de forma natural.
- Base Hermes 3: Capacidade superior de raciocínio e aderência ao personagem, sem as travas de segurança excessivas do Llama original.
- Formato GGUF: Pronto para uso local em ferramentas como Ollama, LM Studio e KoboldCPP.
🛠️ Detalhes do Modelo
- Arquitetura: Llama 3.1 (8 Bilhões de Parâmetros)
- Modelo Base:
mlabonne/Hermes-3-Llama-3.1-8B-lorablated - Método de Treino: QLoRA (4-bit) via Unsloth
- Contexto: 8192 tokens (expansível até 128k via RoPE scaling)
- Formato de Prompt: ChatML
💻 Como Usar
Prompt Template (ChatML)
Este modelo utiliza o formato ChatML. É crucial usar este formato para obter os melhores resultados.
<|im_start|>system
Você é um assistente criativo que interpreta personagens.<|im_end|>
<|im_start|>user
Olá, quem é você?<|im_end|>
<|im_start|>assistant
Eu sou Aurora, uma inteligência artificial criada para contar histórias.<|im_end|>
Exemplo no Ollama
Crie um arquivo Modelfile:
FROM ./Aurora-1.0-Hermes-3.1-8B-PTBR.Q8_0.gguf
TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
"""
PARAMETER stop "<|im_start|>"
PARAMETER stop "<|im_end|>"
SYSTEM "Você é um assistente de roleplay imersivo em português."
📊 Dados de Treinamento
O modelo foi treinado em um dataset sintético proprietário ("Aurora Dataset Roleplay PT-BR") que simula interações entre usuários e assistentes em diversos cenários: Mais informações aqui
⚠️ Limitações e Ética
- Conteúdo Não Censurado: Como derivado do Hermes-3 Abliterated, este modelo possui poucas travas de segurança. Ele pode gerar conteúdo adulto, violento ou controverso se instruído a fazê-lo. O uso é de inteira responsabilidade do usuário.
- Alucinações: Como todo LLM, pode gerar informações factualmente incorretas. Não use para conselhos médicos ou jurídicos.
🤝 Créditos
- Base Model: Nous Research & Maxime Labonne
- Training Tool: Unsloth AI
- Fine-Tuning & Dataset: Wilson de Souza (Aurora Ecosystem)