This commit is contained in:
itpossible
2024-04-06 08:01:24 +00:00
parent ebd7ca4e69
commit f58503fd74

View File

@@ -83,10 +83,10 @@ model_path = "itpossible/Chinese-Mistral-7B-v0.1"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path, torch_dtype=torch.bfloat16, device_map=device)
text = "是一个人工智能助手,写一段自我介绍"
text = "是一个人工智能助手,我能够帮助你做如下这些事情"
inputs = tokenizer(text, return_tensors="pt").to(device)
outputs = model.generate(**inputs, max_new_tokens=300)
outputs = model.generate(**inputs, max_new_tokens=120, do_sample=True)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
```
@@ -105,16 +105,16 @@ text = "请为我推荐中国三座比较著名的山"
messages = [{"role": "user", "content": text}]
inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to(device)
outputs_id = model.generate(inputs, max_new_tokens=300, do_sample=True)
outputs = tokenizer.batch_decode(outputs_id, skip_special_tokens=True)[0]
outputs = model.generate(inputs, max_new_tokens=300, do_sample=True)
outputs = tokenizer.batch_decode(outputs, skip_special_tokens=True)[0]
print(outputs)
```
Chinese-Mistral-7B 与Chinese-Mistral-7B-Instruct-v0.1生成效果示例如下:
| 模型名称 | Chinese-Mistral-7B | Chinese-Mistral-7B-Instruct-v0.1 |
| 模型名称 | Chinese-Mistral-7B | Chinese-Mistral-7B-Instruct |
|--- |--- |--- |
| 用户输入 | <div style="width: 200pt">你是一个人工智能助手,写一段自我介绍: | <div style="width: 310pt">请为我推荐中国三座比较著名的山 |
| 模型输出 | <div style="width: 200pt">好的作为一个AI助手我必须很智能、很专业、很友好。所以自我介绍如下我是一个拥有海量知识的人工智能助手能够提供高效的信息和服务。我拥有强大的自然语言处理能力可以理解人类的语言并提供准确的信息反馈。我专注于帮助用户解决问题提高他们的工作和生活效率。我热爱学习能够不断自我升级以适应时代的发展。总之我是一个值得信赖的助手期待与您合作。谢谢 | <div style="width: 310pt">我国有三座极其著名的山峰,它们分别为:<br><br>1. 珠穆朗玛峰它是世界上最高的山峰地理高度达到8,848米。珠穆朗玛峰不仅拥有壮丽的景色而且它代表着人类对未知和极限的挑战。<br><br>2. 黄山:位于安徽省,是一座具有极高文化价值的山峰。这座山峰以其雄奇的山峰、壮观的云雾、壮丽的红叶而闻名于世。黄山还拥有许多历史遗迹和丰富的神话传说。<br><br>3. 泰山:它位于山东省,拥有"五岳之首,天下名山"的称号。泰山以其巍峨的气势、奇特的山和丰富的历史文化而赢得世人的敬仰。<br><br>这三座山峰不仅具有非凡的自然景观,而且它们都拥有着丰富的人文内涵,它们不仅代表着中国的山岳文化,也代表了中国人民对大自然和历史文化的爱戴和敬畏。 |
| 用户输入 | <div style="width: 270pt">你是一个人工智能助手,写一段自我介绍: | <div style="width: 270pt">请为我推荐中国三座比较著名的山 |
| 模型输出 | <div style="width: 270pt">1、搜索资料我可以帮你搜索任何你需要的资料。比如搜索某本书的内容搜索某某地的地图搜索某部电影的播放地址等。<br>2、计算我可以帮你计算各种数学题比如加法减法乘积除法等等。计算各种不同科目的公式比如化学方程式的计算物理公式的计算等。<br>3、做笔记你可以把你的想法记录在我的字典里面或者记录日程安排。<br>4、翻译你可以把的设置为你的即时翻译器将你要翻译的内容放到信息框里面然后点击发送就可以。 | <div style="width: 270pt">中国的山川风景十分美丽,以下三座山是国内比较著名的景点:<br>1.泰山泰山位于山东省泰安市北部历史悠久是我国五大名山之一海拔约1545米其雄伟的地势和壮丽的风光吸引了不少游客前来游览。<br>2.黄山:黄山位于安徽省东南部,因独特的山水风光和丰富的文化和历史积淀而闻名于世,这里悬崖峭壁,奇峰怪石,云海雾海,景色奇特秀丽,被誉为“天下第一奇山”。<br>3.峨眉山:峨眉山位于四川省峨眉山市东北部,是中国四大佛教名山之一,因雄伟壮观的山和丰富多彩的森林资源而闻名于世。这里气候湿润,植被覆盖率极高,景色秀丽,被赞誉为“峨眉天下秀”。 |
## 📝 训练数据