← 返回项目总览
11MULTIMODAL CONTENT SAFETY

内容风控审核平台

对用户上传的文本、音频、图片和视频进行违规检测并保存可查询、可留存的审核记录。

工程档案2023.02 - 2023.03
Spring BootMySQLMyBatis-PlusRedisMinIO
PROJECT BUSINESS

项目业务与应用场景

不同内容类型的检测接口、文件生命周期和结果格式不一致,需要统一业务流程,确保每次检测都有对应文件、结论和记录。

01

四类内容进入同一审核流程

文本、音频、图片与视频统一建立检测任务,不同内容类型通过一致的业务入口处理。

02

文件、状态与结论一一对应

审核记录关联原始内容、检测状态与结果,支持运营查询、留存和问题追踪。

03

检测失败不等于内容通过

明确区分审核结论与检测异常,避免把供应商超时或处理失败误判为安全内容。

BUSINESS FLOW

核心业务链路

从用户进入系统开始,查看业务数据如何经过各环节并形成最终结果。

SYSTEM NODE 01

内容接收

统一接收文本与多媒体文件并建立审核任务。

ENGINEERING DECISIONS

难题如何变成系统能力

从业务约束出发,说明机制为什么成立、边界在哪里。

01

多模态审核任务模型

难题
不同内容类型的检测接口和结果格式不一致。
机制
以统一审核任务封装文本、音频、图片和视频的检测过程,通过类型路由适配具体检测接口。
结果
业务方使用一致的任务状态与结果模型。
02

对象文件与业务元数据分离

难题
多媒体内容需要留存,但不适合直接进入业务数据表。
机制
MinIO 保存原始审核文件,业务表记录元数据、检测状态与结果引用。
结果
审核文件与结论保持关联,并可以按记录检索。
03

可诊断的失败状态

难题
接口错误和检测结论混在一起会导致业务误判。
机制
显式区分待检测、处理中、通过、违规与检测失败,失败保留可诊断记录。
结果
审核异常能够进入排查流程,而不是被默认当作通过。
展开补充设计与约束
  • 以统一审核任务封装四类内容差异,业务状态与厂商响应解耦。
  • 原始文件进入对象存储,业务表保存元数据、检测状态和结果引用。
  • 失败任务保留可诊断状态,避免将检测异常误判为内容安全。
PROJECT RECORD

原项目记录与量化结果

以下为原简历中已确认的项目指标;与本站演示样例数据分别展示。

01文本、音频、图片、视频四类检测
02注册登录、审核处理与记录查询一体化
03审核文件与结果统一留存