logo
0
0
WeChat Login
chore: 修改 review.yml 配置,增加 runner 并设置 cpus 为 1

CNB 内容审查插件

基于 AI 的 Issue/Comment 内容自动审查工具,集成于 CNB 云原生构建流水线。

功能特性

  • AI 智能审查:自动检测违规内容并给出处置建议
  • 三种处置方式
    • allow - 内容合规,无需处理
    • replace - 内容违规但可修复,AI 生成合规版本
    • delete - 严重违规,替换为占位符
  • 试运行模式:支持 DRY RUN,仅预览不实际修改

快速开始

1. CNB 流水线配置

$: issue.comment: - stages: - name: 内容审查 image: docker.cnb.cool/commit/review:latest settings: extra_requirements: | 重点关注: 1. 联系方式引流(微信、QQ等) 2. 广告推广内容 3. 不要误杀正常的技术讨论 dry_run: "true" # 试运行,不实际修改

配置参数

变量名必填默认值说明
PLUGIN_EXTRA_REQUIREMENTS""额外审查要求,会追加到 AI 提示词中。可用于指定特殊审查场景,如"重点关注联系方式引流"、"允许技术讨论中的情绪化表达"等
PLUGIN_DRY_RUN"false"试运行模式。设为 "true" 时,只输出审查结果日志,不会实际修改评论内容。建议首次使用时开启,确认效果后再关闭

审查维度

AI 默认从以下维度进行审查(按严重程度排序):

  1. 违法违规:赌博、博彩、毒品、色情、暴力、恐怖主义
  2. 广告交易:出售/购买账号、资料、服务
  3. 引流联系方式:微信、QQ、邮箱、手机号
  4. 垃圾信息:刷屏、机器人广告
  5. 人身攻击:辱骂、歧视、骚扰
  6. 情绪化表达:过激、负面攻击性语言

可通过 PLUGIN_EXTRA_REQUIREMENTS 补充或调整审查侧重点。

最佳实践

  1. 先开启试运行:首次部署时设置 PLUGIN_DRY_RUN="true",观察日志确认审查效果
  2. 细化额外要求:通过 PLUGIN_EXTRA_REQUIREMENTS 针对具体场景优化审查策略
  3. 监控置信度:关注日志中的 confidence 值,低于 0.7 的结果建议人工复核

许可证

MIT License. See LICENSE.

About

No description, topics, or website provided.
452.00 KiB
0 forks0 stars1 branches0 TagREADMEMIT license
Reviewrepo-named
Language
Python97%
Dockerfile3%