视频内容安全评价发展探讨

摘要

随着信息技术的快速发展,以视频为主的新媒体极大改变了信息传播方式。但是视频中不安全内容的传播容易带来潜在风险,可能产生不良社会影响,并造成一定损失。因此,视频内容的安全性研究具有重要的理论价值和重大应用需求,受到了研究人员的广泛关注。视频内容安全评价是描述视频内容安全性的重要方法,能够有效管理视频中不良信息的传播风险,降低影响和损失。本文从建立技术理论体系角度,围绕4个方面的内容监管,梳理了视频内容安全评价体系。围绕5个评价原则,总结了视频内容安全评价方法,阐述了基于PDCA(plando-check-act)原理的视频内容安全评价流程;综合考虑不良内容的特点,从5个方面提炼形成了视频内容安全评价指标,包括内容干扰度、内容恶意度、内容敏感度、内容暴露度和内容倾向度。给出视频内容安全风险计算的过程,阐述了基于层次分析的量化方法,从而得到视频内容风险程度,即视频内容安全风险值,结果考虑了决策的主客观特征;从高、中、低3个等级评价视频内容风险严重性的总体水平,更便于优化视频内容风险处理顺序。等级排序不仅提高了检测发现安全风险的效率,也为视频内容分级提供数据支撑。最后分析了视频内容评价面临的挑战机遇,详尽总结了十大待解决问题,展望了未来研究方向与发展趋势。