甄嬛传角色对话系统 (Ollama Baseline)

ollama_baseline/
├── application/          # Web应用界面
│   └── huanhuan_web.py  # Streamlit对话界面
├── dataScripts/         # 数据处理脚本
│   ├── huanhuan_data_prepare.py  # 训练数据预处理
│   └── download_data.py          # 数据集下载
├── deployment/          # 模型部署
│   ├── FAST_DEPLOYMENT_GUIDE.md  # 快速部署指南
│   ├── Modelfile.huanhuan        # Ollama模型文件
│   └── huanhuan_fast_lora.gguf   # LoRA权重文件
├── mcp_server/          # MCP服务器
│   ├── __init__.py      # 服务器入口
│   └── server.py        # MCP服务器核心逻辑
├── training/            # 模型训练
│   ├── huanhuan_train.py        # 训练脚本
│   ├── huanhuan_config.yaml     # 训练配置
│   ├── huanhuan_config_fast.yaml # 快速训练配置
│   └── logs/                    # 训练日志
├── data/               # 数据目录
├── requirements.txt    # 项目依赖
└── README.md          # 项目说明

pip install -r requirements.txt

# 1. 创建conda环境（指定Python版本）
conda create -n huanhuan python=3.13

# 2. 激活环境
conda activate huanhuan

# 3. 安装依赖
pip install -r requirements.txt
# 或者优先使用conda安装
conda install pytorch transformers -c pytorch -c huggingface
pip install -r requirements.txt

# 4. 退出环境
conda deactivate

# 1. 安装uv（如果未安装）
pip install uv

# 2. 创建虚拟环境
uv venv huanhuan_env

# 3. 激活环境
source huanhuan_env/bin/activate  # macOS/Linux

# 4. 使用uv安装依赖（比pip快10-100倍）
uv pip install -r requirements.txt

# 安装Ollama（如果尚未安装）
# Linux
curl -fsSL https://ollama.com/install.sh | sh

# 启动Ollama服务
ollama serve

# 进入项目目录
cd /path/to/ollama_baseline

# 使用Modelfile创建甄嬛模型
ollama create huanhuan-qwen -f deployment/Modelfile.huanhuan

# 验证模型是否成功加载
ollama list

# 进入项目目录
cd /path/to/ollama_baseline

# 方式一：直接运行MCP服务器脚本
python mcp_server/server.py stdio

# 方式二：使用Python模块方式运行
python -m ollama_baseline.mcp_server stdio

{
  "mcpServers": {
    "huanhuan-chat": {
      "command": "python",
      "args": [
        "/path/to/ollama_baseline/mcp_server/server.py",
        "stdio"
      ],
      "env": {
        "OLLAMA_HOST": "http://localhost:11434",
        "HUANHUAN_MODEL": "huanhuan-qwen:latest"
      }
    }
  }
}

# 使用curl发送请求（如果使用HTTP传输）
curl -X POST http://localhost:8000/v1/chat -H "Content-Type: application/json" -d '{"message": "你好，甄嬛"}'

# 或者通过支持MCP的应用程序（如Craft）与甄嬛进行对话