立即咨询

电话咨询

微信咨询

立即试用
商务合作

擎创科技擎智运维大模型

擎创科技擎智运维大模型,构建大模型智能运维管理平台与智能运维分析告警系统。融合AIGC与运维场景,智能解析日志、预测风险,自动生成告警处置方案,助力企业实现运维故障快速定位与效率提升。
立即咨询
iconAIGC 大模型成为超级热点icon

2022年末以来,大语言模型纷纷问世
国外,OpenAl、Meta、Google等分别推出了ChatGPT、Llama、Gemini产品
国内以百度、清华、阿里、华为等为代表相继发布了文心一言、ChatGLM、通义千问、盘古等模型。

 

 

icon大模型的应用icon

 

 

 

icon大模型vs智能运维icon

大模型具备基本的运维知识,针对告警数据能够给出较为合理的分析

大语言模型与运维相关的能力
自然语言处理能力
大语言模型具备强大的自然语言处理能力,可以理解和分析文本数据。日志和告警通常以自然语言的形式呈现,大语言模型能够有效地识别和理解其中的实体和语义
运维领域知识
大语言模型具备基础的运维领域知识,能正确理解运维对象、故障机理等概念
持续学习和改进能力
大语言模型可通过提示词工程、参数微调、外挂运维知识库/知识图谱实现持续学习和改进
推理能力
大语言模型能够理解语法、语义和语境,并基于运维领域知识和上下文依赖完成逻辑推理和推断
自然语言生成能力
大语言模型可以生成高质量的自然语言文本,支持多轮对话,优化运维人机交互模式
代码生成能力
大语言模型可以生成自动化任务和脚本的代码,以执行各种运维任务,如配置管理、日志分析、性能监控等

 

 

icon运维领域的特殊性icon

 

具备基本的运维知识,针对大部分告警能够给出合理的分析
具有多轮对话能力
缺乏特定的告警知识(尤其是私域知识)
分析的结果有时较为表面,无法挖掘告警之间深入的关联性
问答过程有长度限制
模型的回答不稳定
无法在企业内网部署

 

 

icon开源大模型的问题icon

基于开源大模型,通过训练/微调、检索增强、提示词等方式,构建运维大模型

运维知识缺乏
工具交互能力弱通
推理能力弱

 

icon运维大模型的若干原则icon
本地化部署
私域数据的安全
开源大模型+训练或微调
不能为了LLM而LLM
提升运维效率
弥补现有运维方法的不足
解决现有运维过程中的痛点
集成现有工具
LLM+现有的算法/工具/知识库

充分发挥LLM的长处
语言生成能力
对话能力
一定的推理能力

 

 

icon大模型应用方式1:修改大模型的参数icon

 

 

 

icon大模型应用方式2:不修改大模型的参数icon

 

 

 

icon运维大模型的探索icon
模型微调
针对自然语言转查询、告警根因分析等任务,采用全参数微调、部分参数微调等方式,训练面向特定任务的大模型
运维知识
基于公域和私域运维知识库,通过检索增强等方式,丰富大模型的运维知识,结合大模型的语言生成能力,使得大模型理解日志/告警/事件
推理能力
通过提示词工程、思维链、微调等方式,增强大模型在运维领域的推理能力,从而赋予大模型告警根因分析等能力
运维工具
通过模型训练/微调、Agent.提示词等方式,使得大模型能够和智能运维算法、数据库、Python代码等进行自动结合,从而提升大模型的能力

 

 

 

icon运维大模型的探索icon
日志/告警分析
痛点:需人工干预、新日志无法处理
目标:无需设置参数、解析单条日
故障报告自动生成
痛点:编辑过程冗长、综合能力弱
目标:过程自动化、智能化
告警理解
 痛点:告警内容难以理解
目标:利用检索增强及时,提升日志/告警的可读性,自动生成处理方案,
日志/告警/事件探查
痛点:查询手段固化,探索能力弱
目的:提供灵活的多类型数据探查能力
告警分析
痛点:告警风暴,根因定位难
目标:实现告警数据探查和根因定位。

 

 

icon场景一:基于知识增强的告警理解icon

 

 

 

icon场景一:基于知识增强的告警理解icon

 

运维知识库
包含服务器、存储、数据库、中间件、操作系统、虚拟化与容器、应用等公域知识
支持字符串和向量检索的融合
支持长文档的内容理解和关联
构建过程
收集各类运维数据
将运维数据清洗、整理成文档形式
将数据文档以向量的形式进行存储并构建索引

 

 

icon场景二:日志/告警解析icon
优点
大模型解析
强大自然语言理解能力,能更加准确地理解文本结构(正确分词,并抽取命名实体信息)
基于运维常识,从语义层面判断变量和常量,对少量告警也可正确解析
通过提示词工程或参数微调可以能够应对更多场景,具有高度可扩展性
需要较少的人工干预和参数设置
传统解析算法(Drain、Spell,IPLOM
基于统计特征,解释性强,效果有保障
多种成熟方案,支持离线、在线、混合多种模式
传统计算资源(无需GPU),性能有保障
缺点
大模型解析
对计算资源和硬件有要求(需GPU实现推理、参数微调)
实时聚类性能不足风险
传统解析算法(Drain、Spell,IPLOM
需手工引入运维领域知识。如:定义正则识别实体
仅基于统计特征,数据量不足时,无法正确识别变量和常量,模版不稳定
较多人工干预和参数设置。如:设置相似度阈值

 

 

icon场景二:日志/告警解析icon
通过微调技术。让大模型能够快速、准确的
对日志/告警提取模板排
能够处理单条日志(新日志的解析)
通过索引结构,提升大模型的解析效率
只需使用大模型解析新出现的日志
重复日志基于索引自动进行解析

 

 

icon场景三:运维数据探查icon

 

 
 
 
全参数微调得到查询大模型
目前支持的查询语言:
.SQL
Elasticsearch
.Cypher
仍在不断的添加新的查询语言

 

 

icon查询大模型的全参数微调icon
核心是高质量的大规模训练数据
融合领域和业务相关的查询
融合中文+英文查询描述
一些有趣的发现
大模型具有中文描述的泛化能力
业务相关训练数据的必要性
大模型具有良好的自然语言到数据库Schema的映射能力

 

 

icon场景四:告警分析及根因定位icon

 

 

 

icon场景四:告警分析及根因定位icon

 

 

 

icon场景四:告警分析及根因定位icon

 

 

 

icon场景四:告警分析与根因定位icon

 

自然语言转Neo4j查询
基于自然语言进行告警源的关联分析
基于大模型的根因定
CMDB的告警关联能力
融合排障思路的思维链(COT)

 

 

icon运维大模型未来展望icon

运维大模型仍然需要高质量的数据:告警、CMDB
基于大模型能力,认真思考如何利用大模型提升运维效率
Q1:哪些任务适合大模型,哪些任务适合现有算法和工具(效果、效率、性价比)
Q2::大模型带来哪些新的运维场景
Q3:动态的思维方法来思考这些问题(大模型的演进方向)
新一代的运维体系架构。

 
 

 

 

产品推荐

职行力Epower企业学习平台
职行力Epower企业学习平台新员工快速胜任、专项能力提升师徒带训、岗位胜任鉴定。五重游戏化激励体系、积分商城、 赛事化活动运营、同事圈、学习认证.....以及节日运营、企业文化运营、生日祝福、虚拟礼品等。
免费试用
查看详情
天河软件PCCAD锅炉行业版
天河锅炉行业解决方案是在天河软件自主研发的企业版天河CAD产品基础上,专为锅炉行业提供的专业化应用CAD解决方案。该行业方案可满足锅炉行业用户从绘图、标注,到BOM数据编辑、汇总、报表处理、数据集成,以及快速打印出图等全方位使用需求。
免费试用
查看详情
博致云生产制造小工单系统
博致云小工单SaaS应用聚焦生产工单执行全流程,涵盖工单、报工、绩效看板等管理功能,实现手机端便捷报工、实时监控生产、精准核算绩效,生产进度一目了然,快速实现车间数字化。帮助企业落地精益管理,减少浪费,提升生产效率,降低制造成本,助力数字化转型。
免费试用
查看详情
数族科技连锁零售门店电子发票平台
数族科技连锁零售门店电子发票平台提供连锁总部对服务器中托管税盘发票余额的监控和报警能力,发票余额低于预设值,系统会向管理员报警,管理员及时完成税盘领票和写票。
免费试用
查看详情