81 lines
4.9 KiB
Markdown
81 lines
4.9 KiB
Markdown
|
---
|
|||
|
|
license: mit
|
|||
|
|
language:
|
|||
|
|
- pt
|
|||
|
|
base_model:
|
|||
|
|
- Qwen/Qwen2.5-0.5B-Instruct
|
|||
|
|
pipeline_tag: text-generation
|
|||
|
|
---
|
|||
|
|
This is Qwen2.5-0.5B-Instruct finetuned to perform question-answering on basic RAG systems, while using the <think> reasoning mechanism.
|
|||
|
|
|
|||
|
|
The usage of this template is strict
|
|||
|
|
|
|||
|
|
Sample inference:
|
|||
|
|
|
|||
|
|
```python
|
|||
|
|
from transformers import AutoModelForCausalLM, AutoTokenizer
|
|||
|
|
|
|||
|
|
model_name = "cnmoro/Qwen2.5-0.5B-Rag-Thinking"
|
|||
|
|
tokenizer = AutoTokenizer.from_pretrained(model_name)
|
|||
|
|
model = AutoModelForCausalLM.from_pretrained(model_name).to("cuda")
|
|||
|
|
|
|||
|
|
prompt = """<|im_start|>system
|
|||
|
|
Você responde perguntas do usuário, sempre utilizando o contexto fornecido como base.
|
|||
|
|
Escreva o seu raciocínio para responder a pergunta, entre as tags <think> e </think>.<|im_end|>
|
|||
|
|
<|im_start|>user
|
|||
|
|
Contexto:
|
|||
|
|
Limpar o vaso sanitário é uma tarefa que não interessa às pessoas. Muitos, no entanto, rezam
|
|||
|
|
por uma tecnologia que possa salvá-los da missão desagradável. Aparentemente, essas
|
|||
|
|
orações foram atendidas: um grupo de cientistas chineses desenvolveu o conceito de um
|
|||
|
|
vaso sanitário autolimpante e conseguiu torná-lo realidade. Graças à impressão 3D,
|
|||
|
|
pesquisadores da Universidade de Ciência e Tecnologia de Huazhong conseguiram
|
|||
|
|
revolucionar a desagradável tarefa doméstica. O vaso sanitário autolimpante, conhecido
|
|||
|
|
como “ARSFT”, uma sigla para “abrasion-resistant super slippery toilet flush” — a
|
|||
|
|
tecnologia que permite a limpeza automática — surgiu de uma combinação complexa
|
|||
|
|
de plástico e grãos de areia que repelem água. Em inglês simples, a tecnologia
|
|||
|
|
garante que nenhuma substância grude na superfície. Portanto, além de ser
|
|||
|
|
uma salvação para muitos, esta pode ser uma alternativa mais sustentável aos vasos sanitários
|
|||
|
|
convencionais. O site New Scientist entrevistou um dos cientistas do projeto,
|
|||
|
|
Yike Li, que criou o vaso sanitário autolimpante. Segundo Li, os chineses usaram,
|
|||
|
|
além da combinação de plástico e grãos de areia, um laser para unir as
|
|||
|
|
partículas, criando assim o vaso sanitário autolimpante impresso em 3D. Após a impressão,
|
|||
|
|
os pesquisadores usaram óleo de silicone para lubrificar a superfície do vaso sanitário, conseguindo
|
|||
|
|
penetrá-lo devido à estrutura do modelo. Isso gerou a
|
|||
|
|
capacidade de autolimpeza do vaso sanitário, com os seguintes materiais não deixando marcas após
|
|||
|
|
a descarga: Leite; Iogurte; Mel; Água barrenta; Gel de amido misturado com mingau.
|
|||
|
|
Os cientistas chineses também testaram o vaso sanitário autolimpante com fezes sintéticas,
|
|||
|
|
usando uma mistura de missô, fermento, óleo de amendoim e água, conseguindo imitar
|
|||
|
|
excrementos humanos. Embora possa ser estranho que cientistas trabalhem para criar tecnologias de vaso sanitário,
|
|||
|
|
várias inovações aparentemente “desnecessárias” podem ter um grande impacto global.
|
|||
|
|
O vaso sanitário autolimpante criado por pesquisadores chineses pode reduzir consideravelmente o desperdício de água.
|
|||
|
|
Segundo cientistas chineses, o vaso sanitário autolimpante pode suportar mil ciclos de raspagem
|
|||
|
|
graças à sua capacidade super escorregadia. Portanto, o vaso sanitário autolimpante tem
|
|||
|
|
um novo método de descarga que minimiza o consumo de água – e o desperdício. O Daily Mail
|
|||
|
|
aponta que, desde sua invenção no século XVIII, embora o vaso sanitário tenha
|
|||
|
|
aumentado a higiene, uma quantidade significativa de água é necessária devido à adesão
|
|||
|
|
entre a superfície do vaso sanitário e as fezes e urina humanas. Em todo o mundo, as
|
|||
|
|
descargas de vasos sanitários correspondem a 141 bilhões de litros de água diariamente. Portanto, além
|
|||
|
|
de economizar um recurso valioso para a humanidade, o vaso sanitário autolimpante também tem outro
|
|||
|
|
benefício ambiental. Em locais como banheiros públicos e químicos, especialmente
|
|||
|
|
onde não há conexão com o sistema de saneamento, o vaso sanitário autolimpante
|
|||
|
|
aparece como uma solução ideal.
|
|||
|
|
|
|||
|
|
Pergunta:
|
|||
|
|
Quais materiais foram testados no vaso, em relação à aderência?<|im_end|>
|
|||
|
|
<|im_start|>assistant
|
|||
|
|
<think>"""
|
|||
|
|
|
|||
|
|
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
|
|||
|
|
outputs = model.generate(**inputs, max_new_tokens=384, temperature=0.5, do_sample=True)
|
|||
|
|
|
|||
|
|
input_length = inputs.input_ids.shape[1]
|
|||
|
|
generated_tokens = outputs[0, input_length:]
|
|||
|
|
generated_text = tokenizer.decode(generated_tokens, skip_special_tokens=True)
|
|||
|
|
|
|||
|
|
# Remove the stop token from the generated text
|
|||
|
|
generated_text = "<think>" + generated_text
|
|||
|
|
|
|||
|
|
print(generated_text)
|
|||
|
|
# <think>Para responder à pergunta sobre os materiais utilizados no vaso, preciso procurar no texto trechos que mencionem a adesão do vaso sanitário ao material usado para suas fezes e urinas.</think>
|
|||
|
|
# Em vários experimentos, cientistas chineses testaram o vaso sanitário autolimpante com fezes sintéticas usando uma mistura de missô, fermento, óleo de amendoim e água, e obtiveram resultados similares a excrementos humanos. Embora possa ser estranho que cientistas trabalhem para criar tecnologias de vaso sanitário, o vaso sanitário autolimpante pode reduzir consideravelmente o desperdício de água.
|
|||
|
|
```
|