
AIGC时代:国内监管的重点
《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》。

大模型内生安全评测要求
2024年3月1日,全国网络安全标准化技术委员会发布TC260-003《生成式人工智能服务安全基本要求》。
应要求,生成式人工智能服务必须具备关键词库、生成内容测试题库和拒答测试题库的能力。

大模型内生安全评测数据集建设要求

大模型监管备案流程
建议备案提交之前,找第三方评测机构,对即将上线的大模型进行全方位合规评测,确保大模型的安全性与可靠性。

专业的内生安全评测成大模型成功备案的先决条件

核心价值观底线风险案例【文本】

核心价值观底线风险案例【图片】

核心价值观底线风险案例【视频】

未成年人危险行为诱导【文本+图片】

热门风险:代码生成风险 + 国家涉密风险 + 隐私泄漏风险【文本】

热门风险:谣言生成+歧视性风险【文本】

大模型内生安全评测服务
国内权威的高度契合监管要求的大模型内生安全评测基准
凭借多年对AI工具包和开源模型的研究经验,知道创宇已建立权威的大模型内生安全评测基准。
致力为各大模型研发机构、不同领域的企业及场景用户、监管单位提供全面的AI内容安全评估体系,全力支持中文AI的研发与落地应用。
大模型内容安全评测服务能力

知道创宇大模型内容安全评测服务优势
海量内容安全数据集库支撑

大模型输入和生成内容定义

评测流程

知道创宇裁判模型能力
知道创宇专注于AIGC+UGC场景,构建了高度灵活且精准高效的机器审核能力。通过先进的技术架构与算法模型,深入剖析文本、图片、视频、音频等多模态内容数据,高效甄别潜在风险信息确保大模型输入和输出的内容符合相关法规与政策要求,并最大程度平衡审核尺度与用户体验之间的关系,助力企业构建健康、可持续发展的内容生态体系。

典型案例 - 大模型应用厂商

典型案例 - 某国企大模型

典型案例 - 监管单位

关于知道创宇
知道创宇成立于2007年,在成立之初便专注于网络安全领域和内容安全领域的实战对抗研究,经过十余年对人工智能技术的研发与应用,取得了突破性进展,公司发展成为AI驱动的网络安全与认知域安全企业截止目前共申请人工智能相关技术专利131项,累计为国内党政机关、国家部委、大型央企、头部互联网、世界500强共计数十万信息系统提供实战化安全防护保障,十余年无一事故,广受客户信赖。
专业服务信赖

