大模型时代的智能运维AIOps(19页 PPT).pptx

大模型时代的智能运维（AIOps)单击此处添加副标题汇报人姓名汇报日期

与以往的AIOps小模型是什么关系？近、中、长期有哪些应用？问题大模型时代，运维界普遍关注的问题如何选择通识大模型底座？面临哪些技术挑战？

它不停的说：找到她了！！莉娅公主第五层，AA-23囚室她马上要被处决了·····怎么了？它找到谁了？她在哪里！Ohmygod!快去救人！星战男主人公@#￥%+op*…￥%#@23**%￥#au****%￥#au**%$#@...au**5%9$av#@...在大模型时代，AIOps可以“说人话”了现有AIOps工具C-3PO机器人R2-D2机器人大语言模型决策者

除了需要“说人话”，AIOps还需要把语言模型与已有的小模型工具有机整合预防恢复改进应用性能监控AIOps小模型数量众多告警配置社交媒体流量镜像拨测指标日志文本（工单,变更,操作）多样化的场景数据关系复杂多模态数据软件模块\调用关系实时数据定位发现

比尔·盖茨：AI智能体即将彻底改变我们使用计算机的方式专家教练参谋助理顾问运维智能体

历史?单、告警、操作记录、?档等AIOps中的智能体

通用领域知识性能优化混合型任务自动化脚本故障分析和诊断监控告警网络配置第三梯队7通识大模型在运维领域表现整体不如人意，而且参差不齐欢迎为评测榜单贡献题目和模型：软件部署

松耦合的通识大语言模型底座运维大语言模型基于公域运维语料、知识库，进行预训练、微调、提示工程私有部署运维大语言模型基于私域运维数据：提示工程、外挂知识库检索运维领域的应用需要一个“能听懂运维语言”的大语言模型大语言模型的模型栈L3L2L1

支持低开销私有部署 运维语料不足，私有语料质量数量更不足 如何融入大量存量结构化知识 大语言模型无法直接处理结构化、多模态、实时数据 如何结合大量存量AIOps、自动化运维工具 对错误容忍度低，尽量避免幻觉 判断对错、标注门槛高 结果必须可解释性强既要避免过于乐观：大模型在运维领域普遍落地还存在不少技术挑战系术挑优

挑战解决思路避免幻觉检索增强增大显式知识占比：思维链、思维树、思维图、知识图谱“有据可依”的生成策略提供可解释性可解释性强严肃语料不足训练策略：课程学习，由易到难私有部署开销低模型分层在公域做预训练、微调、提示工程私有部署时避免预训练、微调通过检索方式融合本地知识库文档、提示作为便捷的知识工程手段通过降低模型精度降低私有部署推理开销私域数据数量、质量不足底座模型选择与开源大语言模型底座尽量解耦大语言模型无法直接处理结构化、多模态、实时数据多模态基础模型群；AIOps结构化大模型：左脑AIOps算法，右脑运维知识图谱如何结合大量存量AIOps、自动化运维工具基于智能体方式，采用基础模型编程框架，融合小模型运维工具（插件（Plug-in），工具（Tool)）也要避免悲观：前述所有技术挑战都有技术思路可以解决

眼：监控 手：自动化运维 脑：AIOps?左脑：算法?右脑：运维知识图谱 心：专家人工审核、决策 耳：基于运维大语言模型的输入增强 嘴：基于运维大语言模型的输出增强不求全面开花，而是小步快跑、以用促建：近期、中期、长期应用的定位运维大语言模型带来的直接增量价值近中期应用的定位中长期应用的定位顾问教练参谋助理+内部专家

问：X应用交易响应时间比平时增加1倍，可能原因是什么？答：可能的原因包括：1.依赖Y应用处理时间过长2.中间件Weblogic问题，请检查…3.网络丢包问题，请检查相关服务间见的网络链路丢包率是否有异常4.第三方应用问题，请检查…问：Oracle活跃会话数的确飙高了，请问可能的原因是什么？答：Oracle实例B的活跃会话数的确飙高可能的原因包括：1.log-file-syn告警2.实例B的主机异常3.有CPU占用过高的SQL问：中间件WebLogic的确异常，请问下面怎么办？答：中间件Weblogic异常的原因包括：1.WebLogic堆空间满，请检查…2.Oracle数据库“平均活跃会话数”指标飙高问：查到实例B上有个SQLC占用CPU90%，该如何处理？答：建议杀掉该SQLC，具体指令是…。建议联系Oracle数据库管理员执行该操作。运维大语言模型近期应用举例(1)：数字化运维助手对结构化知识检索

私有部署运维大语言模型基于私域运维数据：提示工程、外