初始化项目,由ModelHub XC社区提供模型
Model: qsddfxcxx/Process-Thinking-1.5B Source: Original Platform
This commit is contained in:
80
README.md
Normal file
80
README.md
Normal file
@@ -0,0 +1,80 @@
|
||||
## 介绍
|
||||
|
||||
智辰流程优化模型,作为一款搭载了15亿参数的先进系统,其利用Qwen2模型的核心架构进行设计,旨在深度剖析并优化各类复杂业务流程。该模型通过精细化的学习与调整,能够输出高度贴合实际业务场景的操作流程建议,极大地提升了决策效率与执行精准度。
|
||||
|
||||
目前,智辰流程优化模型已广泛吸纳了电商运营、新媒体内容创作、直播营销、创业就业指导以及软件设计等多个领域的海量训练数据,这些数据为模型提供了丰富的业务场景案例与经验积累。特别是在电商与新媒体领域,模型展现出了卓越的适应性与优化能力;而在直播与创业就业方面,其分析也颇具洞见;尽管在软件设计领域的优化效果尚显平稳,但已展现出巨大的潜力与提升空间。
|
||||
|
||||
## Process-Thinking-1.5B
|
||||
Process-Thinking模型主要特点有:
|
||||
|
||||
1.流程思考:深度思考,根据用户输入业务,拆分其业务流程,输出内容主要为业务流程的充分结果(部分业务仍需添加流程等关键词)。
|
||||
2.推理成本低:本模型本地部署推理时使用显存在3GB左右,可支持微调,微调使用显存约为6GB。
|
||||
|
||||
## 训练细节
|
||||
|
||||
本模型使用电商运营、新媒体内容创作、直播营销、创业就业指导以及软件设计等多个领域的海量训练数据进行后训练,用户使用版本是聊天模型。
|
||||
|
||||
## 环境要求
|
||||
|
||||
我们建议安装 transformers>=4.37.0,如果使用GPU加速推理,建议检查好CUDA等环境是否配置完成。
|
||||
|
||||
## 模型使用
|
||||
|
||||
```python
|
||||
from modelscope import AutoModelForCausalLM, AutoTokenizer
|
||||
device = "cuda" # 启用CUDA
|
||||
|
||||
model = AutoModelForCausalLM.from_pretrained(
|
||||
"qsddfxcxx/Process-Thinking-1.5B",
|
||||
torch_dtype="auto",
|
||||
device_map="auto"
|
||||
)
|
||||
tokenizer = AutoTokenizer.from_pretrained("qsddfxcxx/Process-Thinking-1.5B") # 模型配置注意名称是否正确
|
||||
|
||||
prompt = "AI软件开发"
|
||||
messages = [
|
||||
{"role": "system", "content": "你是一个助手"},
|
||||
{"role": "user", "content": prompt}
|
||||
]
|
||||
text = tokenizer.apply_chat_template(
|
||||
messages,
|
||||
tokenize=False,
|
||||
add_generation_prompt=True
|
||||
)
|
||||
model_inputs = tokenizer([text], return_tensors="pt").to(device)
|
||||
|
||||
generated_ids = model.generate(
|
||||
model_inputs.input_ids,
|
||||
max_new_tokens=1024
|
||||
)
|
||||
generated_ids = [
|
||||
output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
|
||||
]
|
||||
|
||||
response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
|
||||
print(response) # 也可下载模型至本地,利用Ollama、LM Studio等工具进行大模型问答
|
||||
```
|
||||
|
||||
## 使用结果截图
|
||||
|
||||

|
||||
|
||||
## 模型下载
|
||||
|
||||
SDK下载
|
||||
```bash
|
||||
#安装ModelScope
|
||||
pip install modelscope
|
||||
```
|
||||
```python
|
||||
#SDK模型下载
|
||||
from modelscope import snapshot_download
|
||||
model_dir = snapshot_download('qsddfxcxx/Process-Thinking-1.5B')
|
||||
```
|
||||
Git下载
|
||||
```
|
||||
#Git模型下载
|
||||
git clone https://www.modelscope.cn/qsddfxcxx/Process-Thinking-1.5B.git
|
||||
```
|
||||
|
||||
<p style="color: lightgrey;">如果您是本模型的贡献者,我们邀请您根据<a href="https://modelscope.cn/docs/ModelScope%E6%A8%A1%E5%9E%8B%E6%8E%A5%E5%85%A5%E6%B5%81%E7%A8%8B%E6%A6%82%E8%A7%88" style="color: lightgrey; text-decoration: underline;">模型贡献文档</a></p>
|
||||
Reference in New Issue
Block a user