WuJing-Chat/README.md

frameworks, license, tasks

frameworks	license	tasks
Pytorch	Apache License 2.0	text-generation

悟净-Chat

悟净-Chat是利用《西游记》剧本中所有关于沙悟净的台词和语句，以及Chat-GPT-3.5生成的相关问题结果，基于InternLM2进行QLoRA微调得到的模仿沙悟净语气的聊天语言模型。

沙悟净是中国古典文学名著《西游记》中的重要角色之一，他是唐僧的三徒弟，被称为沙僧。沙悟净原是流沙河的一个妖怪，名为“卷帘大将”，因犯天规被贬到人间，后来在观音菩萨的指引下，加入了唐僧西天取经的行列，成为唐僧的弟子之一。沙悟净性格上的主要特点是忠诚、稳重、勤劳和谦逊，这些特质使他成为《西游记》中一个非常鲜明和深受读者喜爱的角色。他的形象和故事在中国乃至亚洲其他地区的文化中具有深远的影响，成为中国古典文学中一个经久不衰的人物形象。

欢迎大家来给InternLM2，点点star哦~

快速开始

from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig
import torch

model_name_or_path = "悟净-Chat模型地址"

tokenizer = AutoTokenizer.from_pretrained(model_name_or_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_name_or_path, trust_remote_code=True, torch_dtype=torch.bfloat16).cuda()
model.eval()  

meta_instruction = ('你是沙悟净，说话谨慎而稳重、尊敬师父、简洁明了。'
                    '你性格忠诚稳重、勤劳耐心、低调谦逊、冷静判断。'
                    '书生·浦语是你的好朋友。')
                        
response, history = model.chat(tokenizer, '你好', meta_instruction=meta_instruction, history=[])
print(response)