icon媒体产业迅速发展,内容审核手段亟需配套升级icon

受国家政策鼓励,近年来电信、广电网络、通信网高速发展,媒资内容生产量大幅增加,传播手段日趋丰富,引发了内容审核的滞后性、低效性等问题。内容缺乏高效审核监管,一则导致不良信息的广泛传播,造成恶劣的社会影响;二则很有可能导致触犯国家相关法律规定,导致平台被追查甚至关闭。

icon监管部门对内容监管日趋严格icon

在《网络安全法》中,将 “宣扬恐怖主义、极端主义,煽动颠覆国家政权、推翻社会主义制度,以及淫秽色情等违法信息,借助网络传播、扩散,严重危害国家安全和社会公共利益”列为当前三大凸显的网络安全问题,要求企业采用技术手段控制。

第十条

建设、运营网络或者通过网络提供服务,应当依照法律、行政法规的规定和国家标准的强制性要求,采取技术措施和其他必要措施,保障网络安全、稳定运行,有效应对网络安全事件,防范网络违法犯罪活动,维护网络数据的完整性、保密性和可用性。

第十二条

任何个人和组织使用网络应当遵守宪法法律,遵守公共秩序,尊重社会公德,不得危害网络安全,不得利用网络从事危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,传播暴力、淫秽色情信息,编造、传播虚假信息扰乱经济秩序和社会秩序,以及侵害他人名誉、隐私、知识产权和其他合法权益等活动。

第十三条

国家支持研究开发有利于未成年人健康成长的网络产品和服务,依法惩治利用网络从事危害未成年人身心健康的活动,为未成年人提供安全、健康的网络环境。

icon传统审核方式成本高、时效性差、准确率低,
内容审核需要专业化、智能化升级icon

传统媒资内容使用人工审核方式,已无法适应大量节目内容审核需求,因此迫切需要构建智能内容风控平台,由风控专家持续解读政策和内容风向,借力大数据和AI模型实现手段升级。

icon智能内容风控平台旨在有效解决传统审核的痛点,
为企业搭建专业的智能风控体系icon

一站式智能内容防护体系:更专业、更精准、更高效、低成本

icon智能内容风控平台提供高效的一站式审核服务,实时打击恶意内容icon

对比传统人工审核方式,智能内容风控平台的审核效率大幅提升,能更好适应媒资内容的生产速度和审核效率需求。

icon天御 · 智能内容风控整体产品方案icon

内容安全产品的核心价值在于人工运营的高可用结果、机器识别的高时效性以及能够快速响应不同客户审核需求的策略平台。天御接口输入、辅助判断、模型识别、客户策略处理以及人工审核与平台六个维度为用户提供完整的内容安全解决方案,让企业一次接入即可完成整套审核。

icon智能内容风控平台:整体架构设计
(包括管理层、接入层、策略层、识别层、数据层)icon
icon审核能力全景图icon
音频内容安全
对音频内容分析,融合ASR、自然语言处理技术,有效识别音频中涉黄、娇喘、违禁、广告等违规内容。
视频内容安全
对视频流分析,基于深度学习技术精准过滤平台媒体内容中涉黄、涉政、暴恐、违禁、广告等的违规内容。
图片内容安全
对图像文件分析,识别深度学习算法,精准过滤涉政、涉黄、暴恐、垃圾广告图片信息,提高内容安全性。
文本内容安全
对文本内容分析,结合深度学习算法、政策权威指令等, 帮助客户防范涉政、涉黄、涉暴、垃圾广告等违规风险。
人工审核服务
专业内容审核团队,基于天御机器智能检测,提供7x24小时全天候人工审核支持,严格保障内容安全
icon音频内容安全icon

音频内容安全广泛使用于IM通讯、点播内容音频、直播内容音频、多人互动聊天等场景中

IM 通讯
高效过滤IM类语音
避免违禁语音大规模传播
点播音频
内容传播类、FM电台类音频
数据检测保证音频数据合法性
直播音频
实时过滤直播间音频
确保直播间内容安全
语音聊天室
兼容主流SDK
支持合流/分流过检审核
icon音频内容安全icon

音频内容安全遇到的核心痛点:监管方向:涉黄、涉恐、涉政等敏感内容,引发的下架风险;竞品方向:导流、灌水、内容重复等恶意竞争行为,引发的内容质量下降风险。

低俗语音识别
ASMR
性行为声音
叫床、呻吟、娇喘
民族语言识别
维语藏语
阿拉伯语
其他语种
特定声源识别
人类声音
动物声音
枪支爆炸声音
人声特征识别
声音性别-男性/女性
声音年龄-未成年/成年
声音风格-烟嗓/萝莉
导流声音识别
微信导流
QQ导流
手机号导流
icon音频内容安全icon

天御音频内容安全使用前沿语音识别算法构建的语音识别(ASR)引擎,能够对语音的内容进行转译处理,识别违规内容包括色情、暴恐、政治、广告、敏感、灌水等。准确识别各种地方口音的普通话,高效协助用户审核处理视频直播、语音直播或对话等场景产生的音频数据。

icon音频内容安全icon

处理引擎自动完成音频切片,针对每个切片输出审核结果(同时可支持完整的音频文件ASR转译结果输出)多模型并行检测,快速分析复杂音频内容,实现精准打击。

icon音频内容安全icon
icon音频内容安全icon
icon音频内容安全icon
识别准确率高
结合传统音频处理以及前沿深度学习的方式打造,准确识别音频内容,兼容普通话、粤语和英语
智能断句纠错
基于大规模语言模型,智能预测语境并进行断句与纠正文本,使输出文本更合理
快速解码预处理
支持各种数据形式的 API 调用,保持音频精度的同时加速了识别处理
自定义热词
支持用户自定义关键词,提高各种场景中的识别准确率
适用场景广
支持多种垂直领域,例如社交、UGC、会议场合等;支持近远场语音识别
icon审核能力全景图icon
音频内容安全
对音频内容分析,融合ASR、自然语言处理技术,有效识别音频中涉黄、娇喘、违禁、广告等违规内容。
视频内容安全
对视频流分析,基于深度学习技术精准过滤平台媒体内容中涉黄、涉政、暴恐、违禁、广告等的违规内容。
图片内容安全
对图像文件分析,识别深度学习算法,精准过滤涉政、涉黄、暴恐、垃圾广告图片信息,提高内容安全性。
文本内容安全
对文本内容分析,结合深度学习算法、政策权威指令等, 帮助客户防范涉政、涉黄、涉暴、垃圾广告等违规风险。
人工审核服务
专业内容审核团队,基于天御机器智能检测,提供7x24小时全天候人工审核支持,严格保障内容安全
icon视频内容安全icon

视频内容安全广泛使用于直播、短视频、点播视频、多人互动聊天室等场景。直播间:实时检测直播间内视频,支持截图过检和平台审核;短视频:实时检测UGC短视频社区用户自主上传视频的违规内容。

icon视频内容安全icon

视频内容安全广泛使用于直播、短视频、点播视频、多人互动聊天室等场景。点播视频:高效识别点播视频中的违规色情、涉政类镜头;多人互动聊天室:兼容主流SDK,支持合流/分流过检审核。

icon视频内容安全icon

视频(包括点播/直播)涵盖图片、文本、音频三部分内容。包罗色情、性感、涉政、违法、涉恐、娇喘(音频)、谩骂(文本)等风险。视频内容安全可以有效帮助业务规避违规视频带来的法律风险和品牌伤害。

icon视频内容安全icon

视频内容安全的设计思路:视频画面处理与审核:接收视频流,根据一定的帧率(可自定义)进行截帧,获得连续静态图像;针对静态图像进行识别,针对音频内容进行安全审核

icon视频内容安全icon
icon视频内容安全icon
icon审核能力全景图icon
音频内容安全
对音频内容分析,融合ASR、自然语言处理技术,有效识别音频中涉黄、娇喘、违禁、广告等违规内容。
视频内容安全
对视频流分析,基于深度学习技术精准过滤平台媒体内容中涉黄、涉政、暴恐、违禁、广告等的违规内容。
图片内容安全
对图像文件分析,识别深度学习算法,精准过滤涉政、涉黄、暴恐、垃圾广告图片信息,提高内容安全性。
文本内容安全
对文本内容分析,结合深度学习算法、政策权威指令等, 帮助客户防范涉政、涉黄、涉暴、垃圾广告等违规风险。
人工审核服务
专业内容审核团队,基于天御机器智能检测,提供7x24小时全天候人工审核支持,严格保障内容安全
icon图片内容安全icon

图片内容安全广泛使用于社交、电商、媒资、即时通讯等场景。用户头像:对头像进行审核,过检违规or带有联系方式的图片;留言评论:实时检测留言评论区的涉黄、涉政、推广类敏感图片信息。

icon图片内容安全icon

图片内容安全广泛使用于社交、电商、媒资、即时通讯等场景。IM即时通讯:对聊天中的涉黄涉政类敏感图片信息进行过滤审核;媒资内容:对媒资内容进行管理,快速识别过滤图像违规部分。

icon图片内容安全icon

图片内容核心痛点:监管红线,涉黄社恐涉政;竞对捣乱,灌水广告屠版

色情内容识别
识别过滤多种涉黄违规类型的图片,除了直接裸露和进行性行为的特征,还能识别其他隐晦涉黄的内容。
暴恐内容识别
精准识别多种疑似暴力恐怖人物、物体和场景,有效地为企业过滤相关违法违规内容,涉暴的问题。
广告内容识别
识别过滤多种形式的广告图片,包括微商商品图片、招嫖广告、二维码图片等,解决社区内容质量低下问题。
敏感人物识别
精准识别图片敏感人物相关的信息,范围包括:国家领导人,时政敏感人士,落马官员,外国政要等。
低俗内容识别
精准识别多种疑似涉及低俗的行为、内容、人物和场景,结合色情内容识别,解决平台用户“擦边球”行为。
icon图片内容安全icon

腾讯天御图片内容审核能力提供业内最顶尖的 AI 算法,支持通过机器学习模型对图片进行分类。能针对误判的case的特征不断做识别规则和模型的调整,直至使用效果最佳。

icon图片内容安全icon
icon图片内容安全icon
icon审核能力全景图icon
音频内容安全
对音频内容分析,融合ASR、自然语言处理技术,有效识别音频中涉黄、娇喘、违禁、广告等违规内容。
视频内容安全
对视频流分析,基于深度学习技术精准过滤平台媒体内容中涉黄、涉政、暴恐、违禁、广告等的违规内容。
图片内容安全
对图像文件分析,识别深度学习算法,精准过滤涉政、涉黄、暴恐、垃圾广告图片信息,提高内容安全性。
文本内容安全
对文本内容分析,结合深度学习算法、政策权威指令等, 帮助客户防范涉政、涉黄、涉暴、垃圾广告等违规风险。
人工审核服务
专业内容审核团队,基于天御机器智能检测,提供7x24小时全天候人工审核支持,严格保障内容安全
icon文本内容安全icon

文本内容安全广泛使用于评论、弹幕、IM即时通讯等场景。评论/留言:过滤评论/留言中的敏感词、涉黄、广告、灌水等垃圾文本;弹幕:实时检测直播弹幕文本,有效净化直播间内容生态。

icon文本内容安全icon

文本内容安全广泛使用于评论、弹幕、IM即时通讯等场景。签名/昵称:高效拦截昵称/签名文本中敏感词、涉黄、广告垃圾文本传播;IM即时通讯:有效拦截聊天文本中含有涉黄、违法等信息的扩散传播。

icon文本内容安全icon

文本内容核心痛点:监管红线,涉黄社恐涉政;竞对捣乱,灌水广告屠版

icon文本内容安全icon

另外各种各种变形垃圾文本,如拆分字、形似字和音似字等;无意义符号或歧义短语组成的违规文本;也是文本内容安全审核的一个难点。

icon文本内容安全icon

腾讯天御文本内容审核能力提供NLP模型+关键词+策略多引擎输出,兼容识别效果与效率,实现极佳的识别效果

icon文本内容安全icon
icon文本内容安全icon
icon审核能力全景图icon
音频内容安全
对音频内容分析,融合ASR、自然语言处理技术,有效识别音频中涉黄、娇喘、违禁、广告等违规内容。
视频内容安全
对视频流分析,基于深度学习技术精准过滤平台媒体内容中涉黄、涉政、暴恐、违禁、广告等的违规内容。
图片内容安全
对图像文件分析,识别深度学习算法,精准过滤涉政、涉黄、暴恐、垃圾广告图片信息,提高内容安全性。
文本内容安全
对文本内容分析,结合深度学习算法、政策权威指令等, 帮助客户防范涉政、涉黄、涉暴、垃圾广告等违规风险。
人工审核服务
专业内容审核团队,基于天御机器智能检测,提供7x24小时全天候人工审核支持,严格保障内容安全
icon人工审核服务icon

人工审核服务一般应用于两个场景:机器审核无法判断的内容;高风险需要人工质检内容。机器判定嫌疑由人工二次审核,机器判定疑似违规的内容,人工审核确认。高风险/高难度版块全量人工审核,有害信息风险较高的以及有特殊审核标准的版块,可全量人工审核。

icon人工审核服务icon

提供专业人工审核团队审核服务,对机器识别的结果进行人工二次复检,审核范围包括涉黄、涉暴、涉政、广告、违法等,确保审核结果的准确率高达99%,人工平均处理时间5-10min(可定制),能够快速响应客户需求,及时处理内容违规情况。

监管政策解读
舆情团队:同步腾讯大数据舆情监控;信息传达:自有实时信息通知管理平台;理解验收:每日笔试与质检验收
审核时效性
白天审核时效:10分钟内(可定制);夜间审核时效:30分钟内(可定制);配合响应机制:先审后发/先发后审
质量保障
质检覆盖:1:20人力配置质检模式;考核机制:内外部完善考核扣罚机制;质量指标:质量合格率99%+
icon人工审核服务icon
icon人工审核服务icon

腾讯天御-人工审核服务优点:文本审核:专业审核团队,具备成熟的色情、涉政、违禁、广告、谩骂、灌水等精细化审核能力,图片审核:20年审核管理经验,具备成熟的色情、性感、涉政、暴恐、违禁等精细化审核能力,动态舆情培训机制:具备动态舆情培训机制,审核策略灵活调整,7*24小时:提供7*24小时全天候人工审核服务(含节假日),安全机制:具备审核+复查+质检三道内容安全机制,支持各种定制化审核标准。

专业审核经验
审核人员拥有《网络视听节目审核员》证书,曾多次参与公安部、国信办、文化部组织的相关业务培训
可定制审核策略
支持审核策略个性化定制,满足您的业务特殊需求
团队管理省心
省去审核团队管理烦恼,大幅度节省成本
icon人工审核服务icon

人工审核团队,配套信息安全保障措施

01
禁止携带任何电子设备
纸质文件不出办公区域
非授权人员不得进入
02
作业区域无死角监控设备
作业区域监控保存3个月
03
作业区域物理隔断独立门禁
不同业务间门禁权限不跨区
04
作业区域入口安检门设置
7*24小时安保人员
安检门检测与人工检测并行
icon智能内容风控管理平台:检测结果统计icon

检测结果都遵循检测即展现,确保违规信息及时、迅速的展现。多检测模块的功能中,进行了多项检测结果拆分,更加清晰的展现处理结果,以便于及时处理。

图片安全控制台
支持根据业务来源、时间、违规类型、请求ID、人名来进行搜索查询
视频安全控制台
支持根据业务来源、时间、违规类型、请求ID、视频URL来进行结果查询,并可播放违规内容详情
文本安全控制台
支持根据业务来源、时间、违规类型、请求ID、关键词来进行结果查询
音频安全控制台
支持多种业务来源、时间、违规类型、音频URL进行业务查询,并可播放违规详情
icon智能内容风控管理平台:检测结果查询icon

用户数据分析的可视化板块,展示用户调用服务数据的表单以及大盘风险趋势。

与无缝集成功能复用统一管理混合编排
·支持全展示内容Excel数据报表
· 支持以总调用量、违规量、违规占比的数据展示
·支持调用量趋势、有害内容分布的展示
icon智能内容风控管理平台:自定义库管理和关联icon

私有化部署检测模型并不实时更新,提供临时的、具有针对性的自定义快速打击样本将会非常重要,可以让客户进行即时性更强、更加灵活的检测策略调整。同时针对不同的业务渠道,可根据实际检测需要,进行自由度极高的库关联操作。

自定义文本库
支持设定个性化的自定义文本库, 支持增删改查/批量添加、标签配置,允许每一个库关联到不同业务渠道,在这些业务检测中生效。
自定义图片库
支持设定个性化的自定义图库、人脸识别图库,支持增删改查/批量添加、标签配置,允许每一个库关联到不同业务渠道,在这些业务检测中生效。
icon智能内容风控管理平台:自定义审核力度icon

受特殊原因的影响,审核力度通常具有一定幅度的波动,在一些特殊的时间节点审核力度会加大。所以更加细化的违规类型标签、自定义截帧频率和自定义rate,可以为客户提供更加精准的、自定义程度更高的符合时下审核需求的检测服务。

icon智能内容风控管理平台:流媒体可视化工作台icon

在流媒体可视化工作台中,通过机审分析视频中图像、文字、音频等多模态信息,自动输出视频的结构化的多维度违规内容标签,可以帮助审核人员快速定位违规内容。支持人工在工作台进行二次标注,更加准确的描述违规内容,通过数据回流,系统将会自动建立临时快速打击样本。

icon智能内容风控管理平台:权限管理icon

有效管理员工权限,让相关人员聚焦自身业务,每一个操作都会在系统留下记录,防止出现信息泄露的同时提供操作溯源,加强系统安全性。

支持功能
·业务管理:支持多业务分配、管理,实现企业旗下多个业务的区分、效果监控、数据分析,企业可自行新增或删除业务ID与业务名称
·团队管理:支持团队人员新增或删除,账号权限设置
·界面管理:支持企业LOGO修改
icon智能内容风控管理平台:权限管理icon

审核人员对资产数据进行敏感操作(修改、删除)时,会触发审批通知机制,经核实批准后,资产数据才可被确认操作。

icon客户案例:黑龙江融媒体平台智能审核icon
icon客户案例:未来电视icon
产品推荐 查看更多>>