擎创科技擎智运维大模型
立即咨询
首页
AIGC 大模型成为超级热点2022年末以来，大语言模型纷纷问世
国外，OpenAl、Meta、Google等分别推出了ChatGPT、Llama、Gemini产品
国内以百度、清华、阿里、华为等为代表相继发布了文心一言、ChatGLM、通义千问、盘古等模型。
大模型的应用
大模型vs智能运维大模型具备基本的运维知识，针对告警数据能够给出较为合理的分析
大语言模型与运维相关的能力
自然语言处理能力
大语言模型具备强大的自然语言处理能力，可以理解和分析文本数据。日志和告警通常以自然语言的形式呈现，大语言模型能够有效地识别和理解其中的实体和语义
运维领域知识
大语言模型具备基础的运维领域知识，能正确理解运维对象、故障机理等概念
持续学习和改进能力
大语言模型可通过提示词工程、参数微调、外挂运维知识库/知识图谱实现持续学习和改进
推理能力
大语言模型能够理解语法、语义和语境，并基于运维领域知识和上下文依赖完成逻辑推理和推断
自然语言生成能力
大语言模型可以生成高质量的自然语言文本，支持多轮对话，优化运维人机交互模式
代码生成能力
大语言模型可以生成自动化任务和脚本的代码，以执行各种运维任务，如配置管理、日志分析、性能监控等
大语言模型具备强大的自然语言处理能力，可以理解和分析文本数据。日志和告警通常以自然语言的形式呈现，大语言模型能够有效地识别和理解其中的实体和语义
运维领域知识
大语言模型具备基础的运维领域知识，能正确理解运维对象、故障机理等概念
持续学习和改进能力
大语言模型可通过提示词工程、参数微调、外挂运维知识库/知识图谱实现持续学习和改进
推理能力
大语言模型能够理解语法、语义和语境，并基于运维领域知识和上下文依赖完成逻辑推理和推断
自然语言生成能力
大语言模型可以生成高质量的自然语言文本，支持多轮对话，优化运维人机交互模式
代码生成能力
大语言模型可以生成自动化任务和脚本的代码，以执行各种运维任务，如配置管理、日志分析、性能监控等
运维领域的特殊性
具备基本的运维知识，针对大部分告警能够给出合理的分析
具有多轮对话能力
缺乏特定的告警知识(尤其是私域知识)
分析的结果有时较为表面，无法挖掘告警之间深入的关联性
问答过程有长度限制
模型的回答不稳定
无法在企业内网部署
具有多轮对话能力
缺乏特定的告警知识(尤其是私域知识)
分析的结果有时较为表面，无法挖掘告警之间深入的关联性
问答过程有长度限制
模型的回答不稳定
无法在企业内网部署
开源大模型的问题基于开源大模型，通过训练/微调、检索增强、提示词等方式，构建运维大模型
运维大模型的若干原则
大模型应用方式1：修改大模型的参数
大模型应用方式2：不修改大模型的参数
运维大模型的探索
运维大模型的探索日志/告警分析
痛点：需人工干预、新日志无法处理
目标：无需设置参数、解析单条日
目标：无需设置参数、解析单条日
故障报告自动生成
痛点：编辑过程冗长、综合能力弱
目标：过程自动化、智能化
目标：过程自动化、智能化
告警理解
痛点：告警内容难以理解
目标：利用检索增强及时，提升日志/告警的可读性，自动生成处理方案，
目标：利用检索增强及时，提升日志/告警的可读性，自动生成处理方案，
日志/告警/事件探查
痛点：查询手段固化，探索能力弱
目的：提供灵活的多类型数据探查能力
目的：提供灵活的多类型数据探查能力
告警分析
痛点：告警风暴，根因定位难
目标：实现告警数据探查和根因定位。
目标：实现告警数据探查和根因定位。
场景一：基于知识增强的告警理解
场景一：基于知识增强的告警理解
运维知识库
包含服务器、存储、数据库、中间件、操作系统、虚拟化与容器、应用等公域知识
支持字符串和向量检索的融合
支持长文档的内容理解和关联
支持字符串和向量检索的融合
支持长文档的内容理解和关联
构建过程
收集各类运维数据
将运维数据清洗、整理成文档形式
将数据文档以向量的形式进行存储并构建索引
将运维数据清洗、整理成文档形式
将数据文档以向量的形式进行存储并构建索引
场景二：日志/告警解析优点
大模型解析
强大自然语言理解能力，能更加准确地理解文本结构（正确分词，并抽取命名实体信息）
基于运维常识，从语义层面判断变量和常量，对少量告警也可正确解析
通过提示词工程或参数微调可以能够应对更多场景，具有高度可扩展性
需要较少的人工干预和参数设置
基于运维常识，从语义层面判断变量和常量，对少量告警也可正确解析
通过提示词工程或参数微调可以能够应对更多场景，具有高度可扩展性
需要较少的人工干预和参数设置
传统解析算法（Drain、Spell,IPLOM）
基于统计特征，解释性强，效果有保障
多种成熟方案，支持离线、在线、混合多种模式
传统计算资源(无需GPU)，性能有保障
多种成熟方案，支持离线、在线、混合多种模式
传统计算资源(无需GPU)，性能有保障
缺点
大模型解析
对计算资源和硬件有要求（需GPU实现推理、参数微调）
实时聚类性能不足风险
实时聚类性能不足风险
传统解析算法（Drain、Spell,IPLOM）
需手工引入运维领域知识。如:定义正则识别实体
仅基于统计特征，数据量不足时，无法正确识别变量和常量，模版不稳定
较多人工干预和参数设置。如:设置相似度阈值
仅基于统计特征，数据量不足时，无法正确识别变量和常量，模版不稳定
较多人工干预和参数设置。如:设置相似度阈值
场景二：日志/告警解析通过微调技术。让大模型能够快速、准确的
对日志/告警提取模板排
对日志/告警提取模板排
能够处理单条日志（新日志的解析）
通过索引结构，提升大模型的解析效率
只需使用大模型解析新出现的日志
重复日志基于索引自动进行解析
重复日志基于索引自动进行解析
场景三：运维数据探查
全参数微调得到查询大模型
目前支持的查询语言:
.SQL
Elasticsearch
.Cypher
仍在不断的添加新的查询语言
目前支持的查询语言:
.SQL
Elasticsearch
.Cypher
仍在不断的添加新的查询语言
查询大模型的全参数微调核心是高质量的大规模训练数据
融合领域和业务相关的查询
融合中文+英文查询描述
融合中文+英文查询描述
一些有趣的发现
大模型具有中文描述的泛化能力
业务相关训练数据的必要性
大模型具有良好的自然语言到数据库Schema的映射能力
业务相关训练数据的必要性
大模型具有良好的自然语言到数据库Schema的映射能力
场景四：告警分析及根因定位
场景四：告警分析及根因定位
场景四：告警分析及根因定位
场景四：告警分析与根因定位
自然语言转Neo4j查询
基于自然语言进行告警源的关联分析
基于大模型的根因定
CMDB的告警关联能力
融合排障思路的思维链（COT）
融合排障思路的思维链（COT）
运维大模型未来展望运维大模型仍然需要高质量的数据:告警、CMDB
基于大模型能力，认真思考如何利用大模型提升运维效率
Q1：哪些任务适合大模型，哪些任务适合现有算法和工具（效果、效率、性价比）
Q2:：大模型带来哪些新的运维场景
Q3：动态的思维方法来思考这些问题（大模型的演进方向）
新一代的运维体系架构。
产品推荐
腾讯云专用宿主机 CDH，作为独享物理服务器，融合专用宿主机云服务器特性与物理隔离服务器优势。可提供整台物理机资源独享，实现租户间彻底物理隔离，适配金融、政企等对安全合规要求高的场景，助力稳定承载核心业务、保障数据安全。
网星软件惠检LIMS检测管理系统针对检验检测机构整体业务而设计，集流程管理、样品管理、资源管理、体系管理、质量控制、数据管理(采集、传输、处理、输出、发布)、报表管理、设备互联、移动应用、客户关系管理、大数据分析等诸多系统为一体，是一套完整的检验检测机构综合管理和质量监控体系，既能满足使用机构的日常管理要求，又保证实验室分析数据的严格管理和控制。
派拉软件一体化零信任平台，以“身份”为核心构建企业数字化安全解决方案，重点围绕企业数字化转型三大核心要素，即以“用户”为中心的建设宗旨，以“数据”为基础，以创新“服务”为价值关键；通过派拉以“身份优先”的零信任架构保障数字化转型的整体安全管控，采用派拉ESB服务治理集成企业管理应用与数据资产。
领驭科技瀚鹏 AI-PLM 智能运维解决方案，融合 PLM 产品研发管理平台核心能力，配套 PLM 软件选型推荐支持。可赋能产品研发全流程智能运维，优化研发管理效率，同时为企业 PLM 软件选型提供专业参考，助力降本增效。
数字化社区
视频
文章
