← 返回项目总览 11MULTIMODAL CONTENT SAFETY
内容风控审核平台
对用户上传的文本、音频、图片和视频进行违规检测并保存可查询、可留存的审核记录。
工程档案2023.02 - 2023.03
Spring BootMySQLMyBatis-PlusRedisMinIO
PROJECT BUSINESS项目业务与应用场景
不同内容类型的检测接口、文件生命周期和结果格式不一致,需要统一业务流程,确保每次检测都有对应文件、结论和记录。
01四类内容进入同一审核流程
文本、音频、图片与视频统一建立检测任务,不同内容类型通过一致的业务入口处理。
02文件、状态与结论一一对应
审核记录关联原始内容、检测状态与结果,支持运营查询、留存和问题追踪。
03检测失败不等于内容通过
明确区分审核结论与检测异常,避免把供应商超时或处理失败误判为安全内容。
BUSINESS FLOW
核心业务链路
从用户进入系统开始,查看业务数据如何经过各环节并形成最终结果。
SYSTEM NODE 01内容接收
统一接收文本与多媒体文件并建立审核任务。
ENGINEERING DECISIONS
难题如何变成系统能力
从业务约束出发,说明机制为什么成立、边界在哪里。
- 难题
- 不同内容类型的检测接口和结果格式不一致。
- 机制
- 以统一审核任务封装文本、音频、图片和视频的检测过程,通过类型路由适配具体检测接口。
- 结果
- 业务方使用一致的任务状态与结果模型。
- 难题
- 多媒体内容需要留存,但不适合直接进入业务数据表。
- 机制
- MinIO 保存原始审核文件,业务表记录元数据、检测状态与结果引用。
- 结果
- 审核文件与结论保持关联,并可以按记录检索。
- 难题
- 接口错误和检测结论混在一起会导致业务误判。
- 机制
- 显式区分待检测、处理中、通过、违规与检测失败,失败保留可诊断记录。
- 结果
- 审核异常能够进入排查流程,而不是被默认当作通过。
展开补充设计与约束
- 以统一审核任务封装四类内容差异,业务状态与厂商响应解耦。
- 原始文件进入对象存储,业务表保存元数据、检测状态和结果引用。
- 失败任务保留可诊断状态,避免将检测异常误判为内容安全。
PROJECT RECORD原项目记录与量化结果
以下为原简历中已确认的项目指标;与本站演示样例数据分别展示。
01文本、音频、图片、视频四类检测
02注册登录、审核处理与记录查询一体化
03审核文件与结果统一留存