Update README.md

This commit is contained in:
AvitoTech
2025-10-20 17:29:44 +00:00
committed by system
parent 04e3728824
commit c52a27b6cc

View File

@@ -1,3 +1,100 @@
---
license: apache-2.0
---
# Quickstart
Ниже представлен фрагмент кода, демонстрирующий, как загрузить токенизатор и модель, а также как сгенерировать ответ.
```python
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "AvitoTech/avibe"
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype="auto",
device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
prompt = "Привет, подскажи рецепт борща"
messages = [
{"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
messages,
tokenize=False,
add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(
**model_inputs,
max_new_tokens=1024
)
generated_ids = [
output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)
```
<details>
<summary> **Output:**</summary>
Вот классический рецепт борща с пошаговыми инструкциями:
---
### **Ингредиенты (на 4 порции):**
- **Мясо** (говядина, свинина или курица) — 300400 г
- **Свекла** — 2 шт. (средние)
- **Капуста белокочанная** — 300 г
- **Морковь** — 1 шт.
- **Лук репчатый** — 1 шт.
- **Картофель** — 34 шт.
- **Помидоры свежие** (или томатная паста) — 2 шт. (или 2 ст. ложки)
- **Чеснок** — 23 зубчика
- **Лавровый лист** — 12 шт.
- **Перец горошком** — 35 шт.
- **Соль, сахар** — по вкусу
- **Растительное масло** — 23 ст. ложки
- **Уксус или лимонный сок** — 1 ст. ложка (для сохранения цвета свеклы)
- **Зелень** (укроп, петрушка) — для подачи
- **Сметана** — по желанию
---
### **Пошаговое приготовление:**
1. **Подготовка бульона:**
- Мясо промойте, нарежьте на куски и залейте 2,53 литрами холодной воды.
- Доведите до кипения, снимите пену.
- Добавьте лавровый лист, перец горошком и варите 1,52 часа на медленном огне. За 30 минут до готовности посолите.
2. **Овощи:**
- **Свеклу** натрите на крупной терке. Обжарьте на растительном масле 57 минут, добавьте уксус (или лимонный сок) и 2 ст. ложки воды. Тушите 10 минут.
- **Капусту** нашинкуйте тонкой соломкой.
- **Картофель** нарежьте кубиками.
- **Морковь** натрите, лук — мелко нарежьте.
- **Помидоры** натрите на терке или используйте томатную пасту.
3. **Сборка борща:**
- В кипящий бульон сначала добавьте картофель, варите 10 минут.
- Затем введите капусту, морковь и лук. Варите еще 10 минут.
- Добавьте обжаренную свеклу и помидоры (или томатную пасту). Перемешайте.
- За 5 минут до готовности влейте измельченный чеснок (через пресс или мелко нарезанный).
4. **Финальные штрихи:**
- Проверьте вкус, добавьте сахар (если нужно) и зелень.
- Снимите с огня, накройте крышкой и дайте настояться 1520 минут.
5. **Подача:**
- Разлейте борщ по тарелкам, добавьте сметану и свежую зелень.
---
### **Советы:**
- Для более насыщенного вкуса можно обжарить мясо перед варкой.
- Если любите кислинку, добавьте 1 ст. ложку уксуса или лимонного сока в самом конце.
- Вегетарианский вариант: замените мясо на грибы или варите на овощном бульоне.
Приятного аппетита! 🍲 </details>