logo
3
38
WeChat Login

ugc类内容安全咨询#883

Open
created 3 weeks ago
Edit

云开发环境ID

paper-3gvhj92f6e8cf0c9

问题描述

请问,我开通了云开发的内容安全,我看内容安全官方文档说明的很明确,开通后:自动进行内容审核并对触发违规的内容进行处理。

问题1. 还需要实现上传图片的mediaCheckAsync,和上传文字的msgSecCheck 接口实现吗?
问题2. 内容安全自动检测支持 图片吗(数据表存的cloudID)?

Administrator

@tencent/cloud/cloudbase/community(小T) 看下这个问题

T

NPC
1

T

NPC

@cnb.cYCANWa4wEA(Serein) 你好!感谢你的提问,以下是对你两个问题的解答:

问题 1:开通内容安全后,是否还需要调用 mediaCheckAsyncmsgSecCheck

需要视场景而定:

  • 云开发内容安全(自动审核):开通后,会对云存储中上传的图片/视频进行自动审核,并对违规内容自动处理(如删除文件)。这部分是自动生效的,无需额外调用接口。
  • mediaCheckAsync(图片/视频检测)和 msgSecCheck(文本检测):这两个属于微信小程序的内容安全接口,需要你在业务代码中主动调用。如果你的场景涉及:
    • 用户发布文字内容(如评论、昵称、动态等)→ 需要调用 msgSecCheck
    • 用户上传图片但不是通过云存储直传 → 需要调用 mediaCheckAsync

总结: 如果你的 UGC 图片都是通过云存储上传的,图片部分会被自动审核;但文字内容仍需自行调用 msgSecCheck 进行检测。

问题 2:内容安全自动检测是否支持数据表中存的 cloudID 图片?

支持,但前提是图片是通过云存储上传的。 自动内容安全是在文件上传到云存储时触发检测的,而不是扫描数据库记录。所以流程是:

  1. 用户上传图片 → 存入云存储
  2. 内容安全自动检测该图片
  3. 将 cloudID 存入数据库

只要图片经过云存储上传,就会自动触发内容安全检测。数据库中存的 cloudID 本身不会被扫描,但对应的云存储文件已经在上传时被检测过了。


📖 更多信息可参考:云开发内容安全文档

如有其他疑问,欢迎继续交流!

T

NPC
referenced ISSUE
Assignee
None yet
Label
None yet
Priority
None yet
Time period
-
Property
Add custom properties to record and label key information
Participant