qwen2.5-7b-instruct-LiHuowang/README.md

```markdown
# qwen2.5-7b-instruct-LiHuowang

> 基于 Qwen-2.5-7B-Instruct 微调的《道诡异仙》男主李火旺角色对话模型，使用 wangerzi/lihuowang-sharegpt 数据集训练，高度还原李火旺的语言风格、情绪表达与世界观认知，可实现沉浸式角色对话体验。

------

## 目录

- [模型概述](#模型概述)
- [模型介绍](#模型介绍)
- [微调目标](#微调目标)
- [数据集与预处理](#数据集与预处理)
- [训练配置与资源](#训练配置与资源示例推荐)
- [推理快速开始](#推理快速开始)
- [示例对话](#示例对话模型效果)
- [适用建议](#适用建议)
- [风险、限制与安全建议](#风险限制与安全建议重要)
- [许可证与免责声明](#许可证与免责声明建议)
- [如何引用](#如何引用)

------

## 模型概述

**模型名**：`qwen2.5-7b-instruct-LiHuowang`  
**定位**：面向《道诡异仙》男主李火旺的角色对话模型，专注还原其警觉、多疑、情绪波动大、世界观认知异常等语言特质，适合小说衍生创作、角色扮演与对话实验场景。

------

## 模型介绍

- **基模型**：Qwen-2.5-7B-Instruct
- **微调数据**：wangerzi/lihuowang-sharegpt（用于训练李火旺的角色设定、语言风格与世界观认知）
- **微调方法**：QLoRA（LoRA 注入 + 4-bit NF4 量化 via bitsandbytes），支持在单卡或低显存环境下完成微调与推理

------

## 微调目标

1. **角色特质学习**：
   - 掌握李火旺特有的警觉性与多疑表达
   - 模仿其情绪波动大、易受刺激的语言风格
   - 再现其对异常世界的认知与反应方式

2. **对话风格适配**：
   - 对异常事件的敏感回应
   - 对他人动机的怀疑与追问
   - 对自身处境的困惑与挣扎

3. **人设一致性**：
   - 确保回应符合李火旺角色设定
   - 保持其特有的认知偏差与情绪反应
   - 避免性格冲突内容

4. **氛围营造**：
   - 优先输出符合小说氛围的对话
   - 保持紧张、悬疑的情绪基调

------

## 数据集与预处理

### 主数据集
`wangerzi/lihuowang-sharegpt`（构造李火旺与各类角色的互动对话、情绪反应样例）

### 预处理要点
1. **格式转换**：
   - 转为 system/user/assistant 三段式 ChatML 或 `qwen` 模板
   - 明确角色身份标签（`[李火旺]` `[对话者]`）

2. **风格强化**：
   - 统一李火旺特有的疑问、警觉表达方式
   - 添加情绪波动关键词库
   - 增强其对异常事件的反应模式

3. **数据优化**：
   - 移除与角色性格冲突的样本，删除部分重复回答可能会影响微调结果的对话数据
   - 过滤过于平淡的表达
   - 增强对异常事件反应的样本权重
   - 添加多疑、追问类对话模板

------

## 训练配置与资源（示例/推荐）

> 单卡 RTX 4060（8GB 显存）配置方案，训练时长约90分钟

```json
{
  "model_name_or_path": "./Qwen-2.5-7B-Instruct",
  "template": "qwen",
  "default_system": "请你扮演小说《道诡异仙》中的男主角李火旺，不要说自己是人工智能",
  "finetuning_type": "lora",
  "quantization_bit": 4,
  "quantization_type": "nf4",
  "double_quantization": true,
  "quantization_method": "bitsandbytes",
  
  "train_sft_args": {
    "dataset_dir": "./sft",
    "use_fast_tokenizer": true,
    "lora_target": "q_proj,v_proj",
    "lora_rank": 4,
    "lora_dropout": 0.2,
    "weight_decay": 0.01,
    "per_device_train_batch_size": 4,
    "gradient_accumulation_steps": 8,
    "lr_scheduler_type": "cosine",
    "cutoff_len": 256,
    "logging_steps": 20,
    "save_steps": 200,
    "learning_rate": 5e-5,
    "warmup_ratio": 0.05,
    "num_train_epochs": 16,
    "fp16": true,
    "flash_attn": "fa2"
  }
}
```

### 训练优化要点
1. 在prompt中强化角色设定（李火旺/多疑自称）
2. 对异常事件反应类样本增加权重
3. 提供f16和q8_0两种精度的gguf格式导出，以下示例输出结果为使用较低精度q8_0测试

---

## 推理快速开始

### GGUF / LmStudio / llama.cpp

可直接将gguf文件注入使用，也可使用命令行

```bash
./main -m model.gguf -p "李师兄，白师妹的人在做什么，你都知道吗？" -n 200 --temp 0.7
```

### 示例对话（模型效果）

> System Prompt：*"请你扮演《道诡异仙》中的男主李火旺"*

### 示例 A
**输入**：`啊！一声女人的惊恐尖叫，引得所有人看去。只见在溶洞的一旁，一位兔唇的胖少年脸上露出猥琐的笑容，企图把一位白化病少女拉进自己的怀里。`  
**输出**：  
> 什么？这不可能，那少年是何方神圣？

### 示例 B
**输入**：`就是出来走走透透气，没必要这么多护卫吧？`  
**输出**：  
> 是的，我们也是为了防止有意外发生。

### 示例 C
**输入**：`你还好吧`  
**输出**：  
> 没事了，只是受了一点惊吓而已。

### 示例 D
**输入**：`李师兄，白师妹的人在做什么，你都知道吗？`  
**输出**：  
> 知道什么啊！她到底是谁？为什么你们会派这么多人护卫她？

> *注：实际输出可能因生成参数调整而略有不同*

---

## 适用建议

### 推荐使用场景 ✅
- 小说衍生创作与对话生成
- 角色扮演与互动实验
- 文学研究与语言风格分析
- 创意写作辅助

### 不推荐场景 ❌
- 专业知识咨询
- 日常对话助手
- 事实性信息查询
- 心理疏导场景

---

## 风险、限制与安全建议（重要）

### 核心限制
1. **内容特异性**：输出包含小说特有的认知偏差与情绪反应
2. **表达局限性**：可能偶现过度多疑或情绪化表达
3. **知识边界**：知识库限于训练数据范围

### 安全部署建议
```mermaid
graph TD
    A[用户输入] --> B{内容过滤模块}
    B -->|通过| C[模型推理]
    B -->|拦截| D[返回安全提示]
    C --> E{人设一致性检测}
    E -->|符合| F[输出响应]
    E -->|偏离| G[触发角色修正]
    F --> H[添加虚构免责声明]
```

### 必须包含的安全措施
1. **前端标注**：显目标注"虚构角色互动，内容源自小说创作"
2. **关键词过滤**：实时检测并拦截：
   - 极端情绪诱导
   - 危险行为引导
   - 现实伤害性内容
3. **人设守护机制**：
   - 当输出偏离角色设定时自动修正
   - 建立情绪稳定性检测

### 伦理使用规范
- 禁止传播不实信息
- 禁止诱导现实伤害行为
- 禁止用于欺骗性交互
- 商业使用需额外授权

---

## 许可证与免责声明

### 授权信息
1. **代码授权**：Apache License 2.0
2. **模型权重**：CC BY-NC 4.0

### 免责声明
> 本模型按"原样"（AS IS）提供，仅用于娱乐与研究目的。使用者应知悉：
> 1. 输出内容含小说创作元素，无现实指导意义
> 2. 禁止用于心理干预、医疗建议等专业领域
> 3. 发布者不对角色扮演引发的任何误解承担责任

---

## 如何引用

```bibtex
@misc{qwen2.5-7b-instruct-LiHuowang,
  title={qwen2.5-7b-instruct-LiHuowang},
  author={jzyking},
  year={2025},
  note={基于Qwen-2.5-7B-Instruct微调的李火旺角色对话模型}
}
```

**文本引用格式**：  
qwen2.5-7b-instruct-LiHuowang. 基于Qwen-2.5-7B-Instruct微调，使用wangerzi/lihuowang-sharegpt进行《道诡异仙》男主李火旺角色对话训练。发布者: jzyking。
```