Unichat-llama3.1-Chinese-8B

介绍

中国联通AI创新中心发布llama3.1中文指令微调模型（全参数微调）
使用llama3官方对话模板
中文环境下安全和价值观改造
模型中文问题回答风格优化
基础模型 Meta-Llama-3.1-8B-Instruct

📊 数据

高质量指令数据，覆盖多个领域和行业，为模型训练提供充足的数据支持
微调指令数据经过严格的人工筛查，保证优质的指令数据用于模型微调

问答示例

问：曼谷的大皇宫与卧佛寺，哪个玩起来更有意思？
答：在探讨曼谷的大皇宫与卧佛寺哪个更有趣时，我们可以从多个维度进行分析。

首先，大皇宫（Grand Palace）是曼谷最著名的景点之一，以其宏伟的建筑和丰富的历史文化价值而闻名。游客可以在这里参观到许多珍贵的艺术品和文物，同时了解泰国的历史和传统。此外，大皇宫还举办了许多重要的活动，如王室婚礼等，这为游客提供了独特的视觉体验。

另一方面，卧佛寺（Wat Pho）则以其庞大的金色佛像而受到游客的喜爱。这座寺庙不仅是一个宗教场所，也是一个休闲娱乐的地方。游客可以在这里欣赏美丽的佛像、享受按摩服务，还可以购买一些特色纪念品。同时，卧佛寺周边还有许多小吃摊位，供游客品尝当地美食。

总的来说，大皇宫和卧佛寺各有千秋。大皇宫更注重历史文化的展示和教育，而卧佛寺则更侧重于宗教信仰和休闲娱乐。如果你对泰国的历史和文化感兴趣，那么大皇宫可能会让你更加满意；如果你希望在旅行中放松身心，并体验一下当地的宗教氛围，那么卧佛寺可能会是你的首选。

因此，选择哪个更有意思取决于个人兴趣和偏好。如果时间允许，建议两者都去一趟，以便全面领略曼谷的魅力。

运行代码

import transformers
import torch

model_id = "UnicomAI/Unichat-llama3.1-Chinese-8B"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "You are a helpful assistant"},
    {"role": "user", "content": "你是谁?"},
]

outputs = pipeline(
    messages,
    max_new_tokens=1024,
    do_sample=False,
    repetition_penalty=1.1,
)
print(outputs[0]["generated_text"][-1])

资源

更多模型,数据集和训练相关细节请参考:

Github：Unichat-llama3-Chinese

3.2 KiB Raw Blame History Unescape Escape

Unichat-llama3.1-Chinese-8B

介绍

📊 数据

问答示例

运行代码

资源

3.2 KiB

Raw Blame History