大模型私有化落地的必备四要素
总结:一款新模型(如“DeepSeek”),可在平台上快速部署、管理、调用API并进行知识库构建和AI应用开发。
>功能列表
多源模型:支持9种大语言模型(包括DeepSeek不同参数)及1种文生图模型,大模型同步下载及导入,降低客户大模型选择难度;
模型全生命周期管理及版本管理,使模型实例管理更清晰;
极简模型部署,选择模型,可按需选择资源需求即可完成模型部署;
模型干预设置,支持客户按需配置模型的系统提示词及基于关键词的话术干预。
> 价值
降低大模型选择范围及选择难度高,验证过的大模型保障AI业务效果。
产品核心价值
定义企业内部搜索引擎:跨系统的全域私有知识一键检索。
激活企业沉睡的数据价值:挖掘企业沉睡的非结构化数据价值动态化、知识化,帮助组织持续AI创新。
为大模型应用提供知识赋能:自动化、场景化知识加工,快速满足大模型调用及训练数据要求。
工作流应用将组合使用大模型、API、工具插件和脚本等节点,可有效降低编码成本,帮助用户通过托拉拽的方式快速构建可视化AI 工作流。
场景及价值:旅行规划、报告分析、客服支持、内容创作、教育培训、医疗问诊等
价值:减少了对提示词技术和模型推理能力的依赖,提高了 LLM 应用面向复杂任务的性能,提升了系统的可解释性、稳定性和容错性。
功能列表:
多种类型的节点:支持分支节点、大模型节点、API节点、工具节点、脚本节点和文本节点的配置编排;
节点可视化编排:支持各种类型节点的可试化配置,节点之间实现输入输出的传递;
预览与调试:支持编排后的工作流的预览与运行,调试过程中每个节点的详细信息等。
为用户提供AI应用全生命周期管理,上线一个AI应用仅需要
1、低代码开发平台拖拉拽开发应用;
2、发布应用/上传应用包
3、部署应用。通过我的应用列表中点击进行访问;默认内置数字化AI应用,实现一键点击使用。
虚机应用、云原生应用、AI智算应用一体全融合部署;
提供vCPU、vGPU两大算力虚拟化能力,容器和VM双栈资源的统一管理;
底层分布式存储、K8S全面拉通;
内置大模型管理、知识库、AIGC推理框架、参智能体,满足AIGC推理场景应用。
项目介绍
在数字化快速发展的当下,中铁智慧院面临着业务流程优化和效率提升的迫切需求。为了紧跟行业发展趋势,提升自身竞争力,中铁六院外采商用版大模型平台,全力投入建设私域的大模型服务平台。同时,引入 Agent 智能体技术与六院内部业务系统对接,是实现业务处理流程自动化的关键一步。
武清区AI 社会治理项目是基于大数据技术、大语言模型、人工智能等技术实现对武清区企业扶持政策及企业合规执业相关要求进行智能解析,方便企业可以通过平台快速掌握。