内容智能鉴审可以协助企业安审部门完成内容审核。由于机器审核存在一定的误判率,一般需要人工介入完成最终结果判断,实施相应处罚。
带人工审核的一般流程如下:
对于实时流审核和直播互动审核,系统会自动保存被判定为疑似或者违规的视频截图和声音流片段,并将URL连同结果返回给调用方。
URL会保证一段时间有效(一般为3小时),业务需要长期保留违规证据,需要自行转存文件。
每个审核接口都有context(上下文)字段,该字段会跟随结果透传给调用方。用户可以使用该字段填写相关的业务信息。
对于实时流审核和直播互动审核,被系统判断为疑似或者违规的内容,都会回调给调用方。
内容智能鉴审系统支持对每个业务,每个检测类型,每个标签设定不同的推送阈值。
目前该功能暂未开发给用户自行设置。用户可通过技术支持完成各标签阈值设置,以达到增加或者减少违规推送量的目的。
人工审核一般可参考违规内容以及返回结果suggestion字段进行审核。review表示疑似需要关注,block表示违规建议处罚处理。
业务也可以参考结果返回的label(标签)和rate(概率值),对推送结果做进一步分类、排序、过滤,以便更集中人审。