124 lines
3.6 KiB
Markdown
124 lines
3.6 KiB
Markdown
# Qwen3-4B Medical Finetuned（医疗微调版）
|
||
|
||
> 🩺 基于 Qwen3-4B 在中文医疗语料上微调的语言模型，适用于医疗问答、病历摘要、医学知识咨询等场景。
|
||
|
||
## 🔍 模型简介
|
||
|
||
本模型在 [Qwen3-4B](https://modelscope.cn/models/qwen/Qwen3-4B) 基础上，使用高质量中文医疗对话、医学教材、临床指南等语料进行指令微调（SFT），显著提升在医疗垂直领域的问答准确性、专业性和安全性。
|
||
|
||
## 🚀 使用方法
|
||
|
||
### 安装依赖
|
||
|
||
```python
|
||
pip install modelscope transformers torch
|
||
```
|
||
|
||
|
||
### Python 加载与推理
|
||
|
||
```python
|
||
from modelscope import AutoModelForCausalLM, AutoTokenizer
|
||
|
||
model_id = "shiyilin123/qwen3-4b-medical-finetuned"
|
||
|
||
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
|
||
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", trust_remote_code=True)
|
||
|
||
# 输入医疗问题
|
||
prompt = "患者主诉头痛、发热三天，可能是什么疾病？"
|
||
|
||
messages = [
|
||
{"role": "user", "content": prompt}
|
||
]
|
||
|
||
input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
|
||
|
||
outputs = model.generate(
|
||
input_ids,
|
||
max_new_tokens=512,
|
||
do_sample=True,
|
||
temperature=0.7,
|
||
top_p=0.9,
|
||
)
|
||
|
||
response = tokenizer.decode(outputs[0][input_ids.shape[1]:], skip_special_tokens=True)
|
||
print("模型回答：\n", response)
|
||
```
|
||
|
||
## 📚 训练数据
|
||
|
||
- 中文医疗对话数据集（脱敏）
|
||
- 《内科学》《外科学》等医学教材节选
|
||
- 临床诊疗指南（如高血压、糖尿病等）
|
||
- 医学科普问答对
|
||
|
||
> 所有数据均已清洗、去隐私、合规处理。
|
||
|
||
## ⚙️ 模型配置
|
||
|
||
- 基座模型：Qwen3-4B
|
||
- 微调方式：全参数微调（Full Fine-tuning）
|
||
- 训练框架：ModelScope + Transformers
|
||
- 硬件：NVIDIA A100 × 4
|
||
- 序列长度：4096
|
||
|
||
## 📈 性能表现（示例）
|
||
|
||
| 问题 | 模型输出（节选） |
|
||
| -------------------------- | ------------------------------------------------------------ |
|
||
| “糖尿病患者饮食注意事项？” | 糖尿病患者应控制总热量摄入，选择低GI食物，如糙米、燕麦、绿叶蔬菜…… |
|
||
| “阿司匹林的适应症？” | 阿司匹林常用于解热镇痛、抗血小板聚集，预防心脑血管事件…… |
|
||
|
||
> 实际效果请以推理结果为准。建议在专业医生指导下使用模型输出。
|
||
|
||
## ⚠️ 使用声明
|
||
|
||
- 本模型**不构成医疗建议**，仅供科研、学习、辅助参考。
|
||
- 请勿用于临床诊断或替代专业医生判断。
|
||
- 模型可能存在幻觉或错误，使用前请人工复核关键信息。
|
||
|
||
## 📜 许可证
|
||
|
||
Apache 2.0 —— 允许商用、修改、分发，请保留原作者信息。
|
||
|
||
## 🙏 致谢
|
||
|
||
- 感谢 [通义千问团队](https://qwenlm.github.io/) 开源 Qwen 系列模型
|
||
- 感谢魔搭社区提供模型托管与算力支持
|
||
|
||
## 📬 联系作者
|
||
|
||
- 用户名：shiyilin123
|
||
- 魔搭主页：https://modelscope.cn/profile/shiyilin123
|
||
- 问题反馈：欢迎在模型页面“讨论”区留言
|
||
## ✅ 使用说明
|
||
|
||
1. 将上述内容 **复制粘贴** 到你的模型目录中，保存为 `README.md`
|
||
2. 编码格式建议使用 **UTF-8 无 BOM**（记事本 → 另存为 → 编码选“UTF-8”）
|
||
3. 上传后，魔搭会自动渲染为美观的模型主页！
|
||
|
||
|
||
|
||
---
|
||
|
||
## 💡 可选增强（进阶）
|
||
|
||
如果你想支持 **在线体验**，可在 `README.md` 最后添加：
|
||
|
||
## 🧪 在线体验
|
||
|
||
|
||
点击页面上方 “**在Notebook中打开**” 按钮，可直接在线运行推理代码。
|
||
|
||
或者添加 **模型卡片图**（上传 `thumbnail.png` 到模型目录）：
|
||
|
||
|
||
|
||
---
|
||
|
||
|
||
|
||
---
|
||
|