数美AIGC内容合规解决方案

来源:《量子位硬科技深度产业报告》

问题输入 答案生成。

政治意识形态问题

面临的问题
某机器人聊天APP是目前国内最大的AI对话类APP，上线4个月，累积用户500万。平台内用户可以和AI机器人文字聊天，每天产生的聊天内容里含有大量违规低俗信息。
解决方案
接入数美智能文本识别服务，平台用户输入数据和AI模型生成的回复数据都会先经过一遍机器审核没有问题再发送出来。

实施效果
2亿/天  AIGC生成数据         300万/天  有害用户信息    95% 识别准确率

面临的问题
某图片编辑APP，应用程序可以自动检测面部特征，并能够添加手绘效果。用户上传的图像和AI 生成的图像内容是不可预测的，其中发现了大量风险内容，如色情、暴力和政治等。
解决方案
通过数美图片审核系统，可以拦截风险内容 (如色情内容、政治等)。无论是上传的图片还是AI生成的图片，都可以被检测出来，有问题的账户也将被相应处理。

实施效果
1000万次/天 AI生成图片          10万次/天 风险图片      95% 识别准确率

面临的问题
某大模型供应商，提供AIGC对话模型服务，每天产生上百万次对话数据，服务于教育、客服等垂直行业。
解决方案
通过数美文字审核系统，从用户输入侧和模型生成侧同时对内容安全实施监管。

实施效果
500万条/天     AI间答内容          7万条/天 违规数据      90% 识别准确率

数美概况
成立于2015年，总部位于北京，并在杭州、上海、深圳、成都设有研发中心和分支机构致力于为全球客户提供专业的在线业务风控解决方案，已成功服务全球千余家知名企业客户。
数美技术
数美科技基于先进的人工智能技术，构建了全场景、全流程、全维度业务风控产品矩阵与秒级迭代全球SaaS AI风控服务网络。
融资情况
现已完成D轮融资，由国内知名VC机构联合投资，D轮融资金额达1.35亿美金。