本项目实现了一种创新的AI生成文本检测算法，核心创新点：

1. 多阶熵分析 - 分析一阶/二阶熵及熵方差
2. 风格指纹提取 - 捕捉写作风格特征
3. 困惑度融合 - 结合传统困惑度方法
4. 轻量级设计 - 可在消费级GPU运行

# 核心思想：AI生成文本具有独特的熵分布特征
- 一阶熵：token级别的不确定性
- 二阶熵：相邻token的相关性  
- 熵方差：时间维度的稳定性

# 捕捉LLM的写作特征
- 词汇多样性 (vocab_richness)
- 正式词汇比例 (formal_word_ratio)
- 过渡词使用 (transition_ratio)
- 长词比例 (long_word_ratio)

# 融合多个特征
score = 0.25*perplexity + 0.20*entropy_1 + 0.15*entropy_var 
       + 0.15*vocab_richness + 0.10*formal + 0.10*long_word 
       + 0.05*transition

ai_text_detector/
├── models/
│   └── innovation_detector.py   # 核心检测器
├── data/
│   └── dataset.py               # 数据集处理
├── evaluation/
│   └── evaluator.py             # 评估模块
├── configs/                     # 配置文件
├── scripts/                     # 辅助脚本
│   ├── setup.sh                # 环境配置
│   └── quick_test.sh           # 快速测试
├── datasets/                    # 数据集目录
├── requirements.txt             # 依赖列表
└── main.py                      # 主程序入口

# 克隆项目
git clone <repo_url>
cd ai_text_detector

# 运行设置脚本
bash scripts/setup.sh

# 或手动安装
pip install -r requirements.txt

# pip换源
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

# HuggingFace换源
export HF_ENDPOINT=https://hf-mirror.com

python main.py --mode demo

python main.py --mode detect --text "你的待检测文本"

python main.py --mode build_dataset --num_ai 100 --num_human 100

python main.py --mode evaluate --num_ai 100 --num_human 100

一阶熵 (First-order Entropy)

$H_1 = -\sum_{i} p(w_i | w_{<i}) \log p(w_i | w_{<i})$

二阶熵 (Second-order Entropy)

$H_2 = -\sum_{i} p(w_i | w_{i-1}) \log p(w_i | w_{i-1})$

熵方差 (Entropy Variance)

$\sigma_H^2 = \text{Var}(H_1^{(1)}, H_1^{(2)}, ..., H_1^{(n)})$

特征	描述	AI倾向
vocab_richness	词汇多样性	较低
formal_word_ratio	正式词汇比例	较高
long_word_ratio	长词比例	较高
transition_ratio	过渡词使用	较高

$\text{AI-Score} = \sigma(\text{Perplexity}) \cdot w_1 + \sigma(\text{Entropy}) \cdot w_2 + ...$

其中 $\sigma(x)$ 是归一化函数。

创新点	现有方法	本项目
多阶熵分析	仅用困惑度	一阶+二阶+方差
风格指纹	无	词汇+句法+结构
特征融合	简单平均	加权融合
轻量化	大模型	gpt2即可

• HC3: 中文AI检测数据集 (Hello-SimpleAI)
• TweepFake: 推特AI生成文本
• MGTBench: 多领域基准

from data.dataset import DatasetBuilder

builder = DatasetBuilder("./datasets")
dataset = builder.create_synthetic_dataset(
    num_ai=500,    # AI样本数
    num_human=500  # 人类样本数
)

方法	Accuracy	F1	AUC
Perplexity	~0.75	~0.73	~0.80
Entropy	~0.78	~0.76	~0.83
本项目(融合)	~0.85	~0.83	~0.90

注：实际性能取决于数据集和模型

1. 模型升级: 从gpt2升级到gpt2-medium或更大模型
2. 特征扩展: 添加更多风格特征
3. 对抗训练: 提高对对抗性文本的鲁棒性
4. 多语言支持: 扩展到中文等非英语

# 使用镜像
export HF_ENDPOINT=https://hf-mirror.com

检测器支持CPU运行，但速度较慢：

# 设置使用CPU
CUDA_VISIBLE_DEVICES="" python main.py --mode demo

1. 增加训练数据量
2. 收集更多领域特定数据
3. 调整特征权重
4. 使用更大模型

本项目借鉴了以下工作：

• DetectGPT (ICML 2023)
• GLTR (Giant Language Model Test Room)
• ImBD (AAAI 2025)

---

作者: 钱宇昕
日期: 2026-04-11