3.6 KiB
3.6 KiB
Qwen3-4B Medical Finetuned(医疗微调版)
🩺 基于 Qwen3-4B 在中文医疗语料上微调的语言模型,适用于医疗问答、病历摘要、医学知识咨询等场景。
🔍 模型简介
本模型在 Qwen3-4B 基础上,使用高质量中文医疗对话、医学教材、临床指南等语料进行指令微调(SFT),显著提升在医疗垂直领域的问答准确性、专业性和安全性。
🚀 使用方法
安装依赖
pip install modelscope transformers torch
Python 加载与推理
from modelscope import AutoModelForCausalLM, AutoTokenizer
model_id = "shiyilin123/qwen3-4b-medical-finetuned"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", trust_remote_code=True)
# 输入医疗问题
prompt = "患者主诉头痛、发热三天,可能是什么疾病?"
messages = [
{"role": "user", "content": prompt}
]
input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
outputs = model.generate(
input_ids,
max_new_tokens=512,
do_sample=True,
temperature=0.7,
top_p=0.9,
)
response = tokenizer.decode(outputs[0][input_ids.shape[1]:], skip_special_tokens=True)
print("模型回答:\n", response)
📚 训练数据
- 中文医疗对话数据集(脱敏)
- 《内科学》《外科学》等医学教材节选
- 临床诊疗指南(如高血压、糖尿病等)
- 医学科普问答对
所有数据均已清洗、去隐私、合规处理。
⚙️ 模型配置
- 基座模型:Qwen3-4B
- 微调方式:全参数微调(Full Fine-tuning)
- 训练框架:ModelScope + Transformers
- 硬件:NVIDIA A100 × 4
- 序列长度:4096
📈 性能表现(示例)
| 问题 | 模型输出(节选) |
|---|---|
| “糖尿病患者饮食注意事项?” | 糖尿病患者应控制总热量摄入,选择低GI食物,如糙米、燕麦、绿叶蔬菜…… |
| “阿司匹林的适应症?” | 阿司匹林常用于解热镇痛、抗血小板聚集,预防心脑血管事件…… |
实际效果请以推理结果为准。建议在专业医生指导下使用模型输出。
⚠️ 使用声明
- 本模型不构成医疗建议,仅供科研、学习、辅助参考。
- 请勿用于临床诊断或替代专业医生判断。
- 模型可能存在幻觉或错误,使用前请人工复核关键信息。
📜 许可证
Apache 2.0 —— 允许商用、修改、分发,请保留原作者信息。
🙏 致谢
- 感谢 通义千问团队 开源 Qwen 系列模型
- 感谢魔搭社区提供模型托管与算力支持
📬 联系作者
- 用户名:shiyilin123
- 魔搭主页:https://modelscope.cn/profile/shiyilin123
- 问题反馈:欢迎在模型页面“讨论”区留言
✅ 使用说明
- 将上述内容 复制粘贴 到你的模型目录中,保存为
README.md - 编码格式建议使用 UTF-8 无 BOM(记事本 → 另存为 → 编码选“UTF-8”)
- 上传后,魔搭会自动渲染为美观的模型主页!
💡 可选增强(进阶)
如果你想支持 在线体验,可在 README.md 最后添加:
🧪 在线体验
点击页面上方 “在Notebook中打开” 按钮,可直接在线运行推理代码。
或者添加 模型卡片图(上传 thumbnail.png 到模型目录):