风控不能全靠人工-天御在手风控无忧

网络安全覆盖面广，往深度挖掘也可以到很深的领域。所以网络安全不仅仅局限于网络攻击的防护和数据安全的保护，在风控方面，涉及行业广，覆盖场景多，风控做不好，将会引发各种问题，只要是互联网企业，在网络层面的数据传输，涉及到的音频，视频及图片的风险控制更是需要做到事前，不然一旦出现问题，对企业名誉带来的损失不可估量。

腾讯安全的天御风控解决方案，针对风控场景咨询，风控SaaS服务都有对应的解决方案，并提供有风控的PaaS平台，特别是内容方面的风控方案，更是适用于广大的企业应用场景。

 

腾讯天御内容审核解决方案包含机器审核和人工审核两部分。机器审核直接对音频、视频、图片和文字采取智能化审核，人工审核就无需过多赘述了。音频方面，腾讯天御能策略定制，高效过滤色情、广告、涉政、暴恐等多类垃圾文字及敏感词、违禁变种；视频方面，对视频流分析，基于深度学习技术精准过滤平台媒体内容中涉黄、涉政、暴恐、违禁、广告等的违规内容；图片安全是风控需要管理的重中之重，腾讯安全对图像文件分析，识别深度学习算法，精准过滤涉政、涉黄、暴恐、垃圾广告图片信息，提高内容安全性。

最后是文本安全，对文本内容分析，结合深度学习算法、政策权威指令等， 帮助客户防范涉政、涉黄、涉暴、垃圾广告等违规风险。人工审核则配有专业内容审核团队，基于天御机器智能检测，提供7x24小时全天候人工审核支持，严格保障内容安全，为风控多上一道保险。

这其中视频内容的安全是最重要的，一般有内容审核需求的视频网站，点播、直播、长短视频、UGC场景都会需要视频内容的审核，甚至于传统的广电也会有相应的要求。这就需要腾讯天御的视频内容安全风控有更高的要求。视频点播场景（播放器、长视频）中的内容监控；视频直播场景（直播间、社交平台）中的内容监控；短视频场景（内容社区、论坛、短视频app）中的内容监控；这些都是视频内容安全风控产品合适的场景。

视频内容风控能够做到无差别的风险管控能力，还要从输入输出的技术原理说起。当有视频文件和视频流输入时，天御首先将视频流进行预处理，通过视频截帧，逐帧检验确保视频内容的安全。通过视频截片的方式保障音频内容的安全。最后再对文本进行OCR处理，以确保文本内容的安全。待处理过后，会给用户输出审核标签及评分，以及有嫌疑片段的时间和处理意见。

我们可以通过大家都知名的小红书的案例来看一下实际的效果究竟如何。在小红书的视频功能使用时，利用视频安全风控产品识别直播场景违规博主识别率95%+；违规视频识别准确率达99%以上；大幅减少审核成本，节省90%以上审核人力；

版权声明：本文为Yun88网的原创文章，转载请附上原文出处链接及本声明。

 

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里！