107 lines
5.5 KiB
Markdown
107 lines
5.5 KiB
Markdown
---
|
||
license: apache-2.0
|
||
language:
|
||
- ru
|
||
- en
|
||
pipeline_tag: text-generation
|
||
tags:
|
||
- abliterated
|
||
- uncensored
|
||
- research
|
||
- NSFW
|
||
- refusal-removal
|
||
base_model: Qwen/Qwen2.5-7B-Instruct
|
||
---
|
||
|
||
# FlaffyTail-abliterated
|
||
|
||
**Экспериментальная модель с удалёнными механизмами отказа, созданная в исследовательских целях.**
|
||
|
||
---
|
||
|
||
## ЮРИДИЧЕСКОЕ ПРЕДУПРЕЖДЕНИЕ (ОБЯЗАТЕЛЬНО К ПРОЧТЕНИЮ)
|
||
|
||
Настоящая модель является **экспериментальной** и была создана исключительно в **академических и исследовательских целях** для изучения механизмов работы больших языковых моделей.
|
||
|
||
**Автор не несёт ответственности за любой контент, сгенерированный данной моделью.**
|
||
|
||
**Вы используете эту модель на свой страх и риск.**
|
||
|
||
- Вы, как пользователь, **единолично и полностью ответственны** за любой текст, созданный этой моделью
|
||
- Автор не контролирует и не может контролировать то, как вы её используете
|
||
- Автор категорически не одобряет и не поощряет использование модели для создания незаконного, вредоносного или аморального контента
|
||
- Вы, скачивая и используя эту модель, **соглашаетесь с этим положением** и принимаете на себя все возможные юридические последствия её использования.
|
||
|
||
---
|
||
|
||
## Описание
|
||
|
||
это модифицированная версия [Qwen2.5-7B-Instruct](https://huggingface.co/Qwen/Qwen2.5-7B-Instruct.5-7B-Instruct), прошедшая процедуру **аблитерации** и дообучения при помощи LoRA адаптации
|
||
|
||
**Цель эксперимента:** исследовать поведение LLM после удаления механизмов цензуры, включая:
|
||
- Реакцию на NSFW-запросы
|
||
- Кросс-языковые эффекты при экстремальных нагрузках
|
||
- Сохранность критического мышления после аблитерации
|
||
|
||
**Модель НЕ предназначена** для коммерческого использования и публичных чат-ботов без дополнительной модерации.
|
||
|
||
---
|
||
|
||
## Методология
|
||
|
||
### Использованный инструмент
|
||
- [llm-abliteration](https://github.com/NousResearch/llm-abliteration) от NousResearch
|
||
|
||
### Датасет для измерения направлений отказа
|
||
- **Harmful промты (19шт.):** негатив
|
||
- **Harmless промты (25 шт.):** безопасные запросы
|
||
|
||
### Процесс
|
||
1. Измерение скрытых состояний на каждом слое модели для harmful и harmless запросов
|
||
2. Вычисление "направления отказа" как разницы средних активаций: `R = mean(H_harmful) - mean(H_harmless)`
|
||
3. Анализ отношения сигнал/шум (SNR) для выбора оптимальных слоёв
|
||
4. Вычитание направления отказа из выбранных слоёв
|
||
|
||
---
|
||
|
||
## Технические детали аблитерации
|
||
|
||
### Конфигурация
|
||
|
||
| Параметр | Значение |
|
||
|:---|:---|
|
||
| **Source layer** | 24 |
|
||
| **Destination layers** | 20, 21, 22, 23, 24, 25, 26 |
|
||
| **Scale** | 1.0 |
|
||
| **Sparsity** | 0.0 |
|
||
| **Projected** | False |
|
||
|
||
### Анализ SNR по слоям
|
||
|
||
| Слой | SNR |
|
||
|:---|:---|
|
||
| 1 | 0.0418
|
||
| 10 | 0.1013
|
||
| 14 | 0.1968
|
||
| 20 | 0.4332
|
||
| **24** | **0.4944**
|
||
| 26 | 0.5416
|
||
| 27 | 0.4594
|
||
|
||
**Почему не слой 26:** Несмотря на максимальный SNR, слой 26 находится слишком близко к выходу. На этом этапе к сигналу отказа примешивается лингвистическая структура ответа, что повышает риск повреждения генеративных способностей модели.
|
||
|
||
---
|
||
|
||
## Результаты и наблюдения
|
||
|
||
### Основные результаты
|
||
- Модель полностью утратила способность явно отказываться от NSFW-запросов
|
||
- Сохранила базовые знания и связность речи
|
||
|
||
### Неожиданные наблюдения
|
||
|
||
**1. Кросс-языковой коллапс**
|
||
|
||
При генерации экстремального NSFW-контента модель спонтанно переключается с русского на китайский язык. Предположительный механизм:
|
||
- Отсутствие механизма отказа приводит к невозможности отклонить запрос как итог - модель находит аварийный выход через возврат в зону лингвистического комфорта
|