lora-scripts-next

SD-Trainer — LoRA 一键训练 GUI，支持 SD / SDXL / Flux / Anima
_{基于 kohya-ss/sd-scripts 后端，秋叶系界面体验。}

下载整合包  ·  English  ·  致谢 & 许可

从 Releases 下载 SD-Trainer-v2.3.0.7z（~55 MB，含嵌入式 Python），解压后双击 run_gui.bat 即可启动。

首次启动会自动安装 PyTorch + CUDA + 所有依赖（~3 GB 下载），国内用户自动走阿里云/清华镜像加速。

系统要求： Windows 10/11 64 位，NVIDIA 显卡（RTX 20 系列以上），~7 GB 硬盘空间。

当前 Windows 整合包（SD-Trainer-v*.7z）不会安装 Flash Attention 2，训练使用 xformers 或 PyTorch SDPA。 这与「装不上」无关，而是便携包运行方式下的刻意取舍。

需要 Flash Attention 2 时： 请使用下方「从源码安装」并按 Flash Attention 2（源码 / venv 用户） 配置；整合包在 embed Python 支持成熟前暂不承诺 flash-attn 加速。

git clone https://github.com/wochenlong/lora-scripts-next.git
cd lora-scripts-next

启动后浏览器自动打开 **http://127.0.0.1:28000**。

Python 版本： 推荐 3.10（所有依赖完美兼容）。3.11–3.12 基本可用，3.13+ 不支持。

这是 Windows PowerShell 执行策略 限制，不是程序坏了。默认策略会拒绝运行未签名的 .ps1 脚本。

解压后若路径出现 ...\lora-scripts-next-2.3.0\lora-scripts-next-2.3.0\，说明多解压了一层，请进入内层含 run_gui.bat 的目录再启动。

默认使用系统浏览器。可通过 --browser 参数指定：

python gui.py --browser chrome
python gui.py --browser edge

整合包用户请看上节，不要对 python_embeded 手动安装 flash-attn。

本节适用于：git clone 后使用 venv（或 python\ 目录下的完整 Python），且已安装 PyTorch 2.7.0 + CUDA 12.8 的源码用户。

后端优先级（Anima）：flash → xformers → torch（PyTorch SDPA）。

• Python 3.10（推荐；3.11–3.12 若存在对应预编译 wheel 也可尝试）
• 64 位 自建 venv，不要使用整合包内的 python_embeded
• PyTorch / CUDA 须与 wheel 匹配：torch==2.7.0+cu128、torchvision==0.22.0+cu128
• Windows 须同时安装 triton-windows 与 flash-attn（flash-attn 运行时依赖 Triton kernel）

1. 克隆仓库并进入目录，首次运行 run_gui.bat（会执行 install-cn.ps1 或 install.ps1 创建 venv、安装依赖，并尝试安装 flash-attn wheel）。
2. 之后每次启动时，run_gui.ps1 会检测 triton + flash_attn 是否可用；若缺失，会先装 triton-windows，再装预编译 wheel（失败则回退到 xformers / SDPA，不影响训练）。

国内用户首次安装依赖可用：

powershell -ExecutionPolicy Bypass -File .\install-cn.ps1

国际用户：

powershell -ExecutionPolicy Bypass -File .\install.ps1

在已激活的 venv 中执行（版本须与项目一致）：

.\venv\Scripts\activate

# 1. PyTorch（若尚未安装）
pip install torch==2.7.0+cu128 torchvision==0.22.0+cu128 --index-url https://download.pytorch.org/whl/cu128

# 2. Triton（Windows 必装，且须先于 flash-attn）
pip install "triton-windows<3.4"

# 3. Flash Attention 2 预编译 wheel（Python 3.10 示例）
pip install https://huggingface.co/lldacing/flash-attention-windows-wheel/resolve/main/flash_attn-2.7.4.post1%2Bcu128torch2.7.0cxx11abiFALSE-cp310-cp310-win_amd64.whl
# 国内镜像（将 cp310 改为 cp311 / cp312 若你使用对应 Python 版本）
pip install https://hf-mirror.com/lldacing/flash-attention-windows-wheel/resolve/main/flash_attn-2.7.4.post1%2Bcu128torch2.7.0cxx11abiFALSE-cp310-cp310-win_amd64.whl

bash install.bash    # 创建 venv、安装 torch/xformers/requirements，并尝试 pip install flash-attn --no-build-isolation
bash run_gui.sh

从源码编译 flash-attn 需要 CUDA 工具链与 C++ 编译器；失败时仍会使用 xformers / SDPA。

在同一 venv 中运行：

python -c "import triton; import flash_attn; from flash_attn.ops.triton.rotary import apply_rotary; print('Flash Attention 2 OK')"

无报错即表示栈完整。然后启动 python gui.py，训练 Anima LoRA 时在控制台或日志中应看到 attn_mode 为 flash。

• 多模型支持 — SD 1.5 / SDXL / Flux / Anima 全部开箱即用
• Anima LoRA 训练 — 侧边栏一键进入，支持 LoRA / LoKr（LyCORIS）/ T-LoRA
• Attention 加速 — 自动选择后端：源码/venv 环境优先 Flash Attention 2（Windows 预编译 wheel）；整合包使用 xformers / PyTorch SDPA（暂不支持 flash-attn）
• T-LoRA — 基于扩散时间步的动态 Rank LoRA，正交初始化，防止过拟合（论文）
• 训练监控页 — 随 GUI 自动启动，展示 TensorBoard 同源 Loss / LR 曲线、关键训练参数速查、实时进度、终端日志同步和预览图
• TensorBoard 内置 — 侧边栏直接查看，无需额外操作
• 显卡检测 — 首次安装自动检测 NVIDIA / AMD 显卡，AMD 用户会收到友好提示及 ROCm 方案指引
• AutoDL 适配 — 提供专用启动脚本 start_autodl.sh

_{6008 训练监控页中的 TensorBoard 同源 Loss / LR 四宫格曲线}

_{训练预览图会直接同步到监控页}

_{训练日志同时显示在 CMD 终端与监控页}

详见 CONTRIBUTORS.md。

_{维护者：@wochenlong}