AI驱动的事件智能分析系统的实际建设应用


一、背景

随着虚拟化、云计算等新技术广泛应用,企业数据中心内部的IT基础设施规模急剧增长。这导致计算机硬件和软件规模扩大,同时也频繁发生计算机故障。因此,一线运维人员迫切需要更专业、更强大的运维工具来应对挑战。

在数据中心的日常运维工作中,通常会使用基础监控系统和应用监控系统来构建故障发现的机制。通过设定预设的阈值,当各种软硬件发生异常时,指标项会超过这些阈值,从而触发告警。运维专家会立即收到通知并进行故障排障工作,以确保数据中心的稳定运行。这样的监控机制可以及时发现并解决潜在的问题,提高数据中心的可靠性和可用性。

事件智能分析系统即是为解决告警转故障并分析处置而生的系统。

二、总体架构

1、事件智能分析系统架构

事件智能分析系统打造“故障识别-故障分析-故障处置”全流程的故障处理体系,将运维专家的经验沉淀为数字化模型,当故障发生时,可以自动的对故障进行“识别-分析-处置”,进而缩短MTTR(平均故障修复时间,Mean Time To Repair)。

事件智能分析系统引入AI技术为系统各模块赋能,当运维专家没有手动建立故障模型时,AI会自动的为告警建立故障,并自动进行分析,进而给出分析方案,辅助运维专家对故障进行分析。AI赋能减轻了运维专家建模的工作量压力,同时也弥补了运维专家的经验盲区。

以下是事件智能分析系统的总体架构图:

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

基于AI的事件智能分析系统建设实践图片

其中蓝色部分是事件智能分析系统的功能模块,橙色部分是周边系统,提供相应的数据或接口。

2、和周边系统的关系

统一事件平台:Alert系统收集各监控系统(基础监控、应用监控、日志监控的)的告警,统一汇聚后,转化为统一的格式,发送到kafka;事件智能分析系统会从kafka系统中读取所有告警数据。

自动化平台:运维专家事前在自动化平台新建一些编排和脚本,作为处理故障的方法,当故障分析找到根因后,可以通过调用自动化平台接口实现处置任务编排和下发执行,最终实现自动处置的目的。

CMDB:在故障分析时,可使用CMDB中存储的对象实例属性和关系,将告警实例和处置实例进行逻辑关联;同时在展示告警对象周边对象的一些信息时,也需要关联对应的CMDB对象实例数据。

ITSM:提供变更单和事件单等工单数据,当发生故障时,需要使用这些工单数据进行分析。

运维大数据平台:大数据平台提供数据清洗工具,帮助事件智能分析平台对所需的数据进行清洗,同时提供海量数据存储的技术支持;大数据平台是事件智能分析所需数据的坚实基础,同时也为后续的AI分析提供了分析数据,包含了CMDB的对象数据、ITSM的工单数据、监控系统的指标数据和告警数据等。

三、功能详解

1、故障识别

故障识别的主要功能就是建立故障模型,其能够定义告警转化为故障的规则,同时对故障模型的定义,也是对故障的一次简单分类,比如会有CPU使用率高故障、内存使用率高故障、磁盘使用率高故障、网络延迟故障等,简单的说就是哪几个告警可以变成一个故障,告警和故障的数量关系既可以是1:1的,也可以是n:1的关系;只有形成了具体故障,才能方便后续的分析和处置。

告警格式化:

将从统一事件平台收到的告警,进行标准化处理,处理称为事件智能处置系统所需要的格式,部分字段需要查找配置管理的对象实例数据进行补充。

故障模型定义:

故障场景模型的定义主要包括基本信息、故障规则和分析决策等功能,具体描述如下:

1)基本信息包括故障名称、所属对象、故障类型和故障描述等信息;

2)故障规则可分为以下几类:

  • 对告警匹配的关键字规则设定:告警的json字段中的摘要summary、级别level等字段都可以作为条件进行设定,而且可以将多个规则进行逻辑设定运算(规则的与或非计算);
  • 时间规则:包括立刻执行(收到告警立刻生成故障实例)、等待固定时间窗口(初始告警开始后一段时间内的告警强制聚合故障实例)、等待滑动时间窗口(最后告警开始后一段时间内的告警强制聚合故障实例);
  • 位置规则:包括同机器、同部署单元、同物理子系统,在指定范围内的满足条件的告警都聚合成一个故障实例。

3)关联指定的分析决策树,确定分析方案。

2、故障分析 

故障分析是从关联数据展示、拓扑数据展示、分析决策树和知识库检索等多个方面对故障进行分析展示,为运维专家提供数据支撑,帮助其快速寻找故障根因并处置故障。其中分析决策树可以关联处置。

关联信息展示:

1)告警分析:告警对象所对应物理子系统和部署单元所关联的其他软硬件对象在最近48小时内的告警数据;

2)指标分析:告警对象所对应物理子系统和部署单元所关联的其他软硬件对象在故障前2小时内的指标数据;

3)变更分析:告警对象所对应系统在最近48小时内的变更工单记录,进行变革分析;

4)日志分析:对告警对象及周边对象的指定路径的应用日志和系统日志进行分析,并进行展示;

5)链路分析:以交易码为核心,将告警对象所涉及的交易码上下游链路数据进行分析,并进行展示;

拓扑结构展示:

以物理子系统为维度,将全系统所涉及的运维对象以树状的拓扑结构进行展示,同时对其中有告警的节点进行标红处理,以提示运维专家。

具体的例子如下:

基于AI的事件智能分析系统建设实践图片

分析决策树:

以CMDB对象及关系、告警、指标、变更、日志和链路等数据为基础,融合到可自定义编辑的分析决策树中。

运维专家可以预设分析数据的顺序和判断标准,将运维经验以数字化模型的方式,沉淀到分析决策树中,当发生故障时,平台会根据预先设定的分析决策树对相关数据进行分析和判断,最终给出结果。

分析决策树最终的叶子节点可以关联处置,确保故障的“识别-分析-处置”全生命周期的自动化运行。

具体的样例如下:

基于AI的事件智能分析系统建设实践图片

知识库检索:

数据中心以运维大数据平台上的数据为基础,构建知识库系统,主要收集应急预案、事件单处理全流程记录、运维专家经验总结等文本数据。

当发生故障时,会用故障的关键字去知识库进行检索(字符串匹配),返回对应的文本知识,作为专家经验返回。在AI赋能的章节会讲述使用文本分析的方式进行关联搜索,而不仅仅只是简单的字符串匹配。

3、故障处置

故障处置主要按事前定义好的处置模型进行处置,主要包括处置决策编排和处置操作,需依托于自动化平台实现处置任务的编排和执行。

1)处置编排:处置编排是一些列处置操作的有机结合,因为有些处置需要对运维对象进行先隔离再重启;将处置操作的脚本进行流程编辑,使得若干个操作脚本按照既定的顺序下发到具体实例机器并执行;

2)处置操作:对脚本(shell、python)进行封装,使其可以在实例机器上执行,也可以被处置编排调用;处置操作是处置的最小动作,比如tomcat的重启、隔离、熔断等脚本;

SCISPACE SCISPACE

AI论文研究助手,探索和解释论文的平台

SCISPACE 65 查看详情 SCISPACE

故障处置大都依据运维专家经验或应急预案文档,将其进行数字化沉淀为模型。

故障处置结束后,会根据流程记录处置相关记录,供后续回顾分析使用。

四、AI赋能

AI赋能是为了在故障的“识别-分析-处置”全流程中,尽量减少人工配置工作量,减轻运维专家工作压力,同时也可以弥补运维专家经验无法覆盖的部分,且可以在初始化阶段就覆盖历史上出现过的100%告警类型;总体原则是通过AI计算,在故障识别和分析的领域,通过自动建模、自动聚合、自动分析等方式,建设出故障模型和分析方案,给运维专家提供参考,但是确保最后的处置由运维专家做最后的判断和控制,保证算法做99%的工作,人工审核确保最后1%的工作。

1、自动建模

回顾三-1章节关于故障模型的定义,我们发现只要确定告警规则、时间规则和空间规则,同时确定分析决策树就可以建立一个故障模型,而时间规则和空间规则可以默认为最常见的立刻执行和同机器,分析决策树可以使用最常规健康检查。

因此建立故障模型,为同一类的故障建立模型,最核心的问题就是通过告警内容对故障进行分类,而我们使用告警内容的关键字来进行确定分类,进而建立某类型的故障模型。那么自动建模的问题,就退化为寻找告警的关键字并以此建立故障模型。

总体逻辑图如下:

基于AI的事件智能分析系统建设实践图片

将历史告警和实时告警逐条输入到故障模型中,如果已经可以匹配现有的故障模型,则结束此条告警的处理;如果没有可以匹配的故障模型,则通过算法计算此条告警内容的关键字,并以此关键字构建故障模型,随后将新建成的故障模型加入到故障模型列表中。

运维专家可以通过人工确认的方式,将故障模型泛化上线。

此种自动建模的方式,有以下几个优点:

1)可以实时处理告警,实时进行故障建模,更新模型的速度非常快;

2)建模不依赖于运维专家经验,可以直接通过告警内容进行建模;

3)可以覆盖历史全部告警,且可以实时应对新型告警;

4)无需运维专家进行大量模型设置的工作,节省了人力;运维专家仅需做最后的人工确认,保证结果的前提下提升了效率;

总体来说,在待计算文档中频繁出现,但是在海量文档中出现概率不高的词汇,成为关键字的概率越大,拿部分告警内存进行处理的结果如下:

基于AI的事件智能分析系统建设实践图片

使用以上算法,使用部分告警内容进行计算后,得到的数据效果如下:

基于AI的事件智能分析系统建设实践图片

基于AI的事件智能分析系统建设实践图片

2、自动聚类故障

自谷歌发布BERT(Bidirectional Encoder Representations from Transformers)之后,在各文本任务中刷榜,取得了非常好的效果,因此使用其来计算文本相似性,主要是计算告警内容和故障描述之间的相似性。

现在构建我们的聚类算法,具体流程示意图如下:

基于AI的事件智能分析系统建设实践图片

具体步骤如下:

1)如果有需要可以人工设置故障描述,作为故障聚类的锚定方向;本步骤并非必须的,如果没有,则直接跳过;

2)将告警信息进行清洗,去除一些无用的字符;

3)使用BERT模型,对告警摘要的文本内容和所有故障聚类的信息进行文本相似性计算,得到是否相似的结果(通过判断是否超过阈值来判断是否相似);

4)如果是相似的,则将此告警归属于此故障聚类;

5)如果距离值未超过阈值,则将此告警设为一个新的故障聚类;

6)第4,5步的结果更新到故障聚类信息列表中;

7)从第2步再处理下一个告警数据。

本算法可以将告警归属到不同类型的故障中,如果没有现成类型的故障,则自建一个类型,针对此不同故障类型的分类,可以有不同的分析方法。

本算法的优点如下:

1)通过历史和实时告警数据,无监督的自动做了故障分类,也无需建立故障模型,节省了人力;

2)针对实时告警,故障聚类的过程保证了可以做到实时在线更新,无需定期计算和更新模型;

3)告警自动生成或关联故障,可以进一步关联对应的应急预案,得到故障的分析方案和处置方法。

3、自动生成分析方案

回顾三-2章节故障分析,对故障的分析,主要集中在对故障节点及周边节点的信息进行展示,在分析决策树的设定上也需要较多的人工设置。

在AI赋能后,考虑以应急预案、告警详情和故障分析中的展示信息为提示词(prompt),利用现有效果极佳的大语言模型,自动的给出故障分析方案。

考虑到私有化部署问题,大语言模型可以考虑ChatGLM2、llama2等,具体实施阶段可以根据需要和硬件水平选择不同的大语言模型,在本文的方案描述中,统一使用LLM表示大语言模型,请读者注意区分。

主要流程示意图如下:

基于AI的事件智能分析系统建设实践图片

故障识别后,获得了对应的实时告警和展示的相关数据,结合应急预案数据,组成prompt组合,prompt提示词是为了在LLM大语言模型提问时,获得更好的输出效果。

同时将应急预案和历史告警数据,分批存入到faiss向量数据库,每批的文本量不超过LLM的token限制数量;当prompt组合提示词超过了LLM大语言模型时,会将prompt组合提示词向faiss向量数据库进行查询,获得向量最相似的文本;以这些不超过token长度限制的文本,向LLM查询,获得的返回即为故障分析方案(文本形式)。

具体效果参考下图:

基于AI的事件智能分析系统建设实践图片

4、应急预案检索

应急预案作为行业内的必备手册,完善的记录了所有系统和所有运维对象对应故障的分析和处置步骤,是非常好的文本数据依靠,在本系统中会有很多地方都会使用到应急预案的内容。因此提供应急预案的检索能力十分必要,可以利用知识库系统作为应急预案的检索基数基础。

可以提供字符串匹配的文本检索,也可以提供文本分析后的关键字检索,同时也可以语义级的向量相似性检索,无论哪种方式都是为了获取系统所需要对应的应急预案文本。

以上若干种检索方式都可以利用前文中提到的技术手段进行处理,在此不再赘述。

五、结语

事件智能分析系统是为了帮助运维专家对各系统进行运维,因此提供了一系列可以建模的方法,让运维专家可以将运维经验沉淀为数字化的模型;当数据量(故障样本数据和运维相关数据)越来越大时,使用一些AI算法,可以减轻运维专家的工作量,辅助运维专家做分析决策;最终希望达到无需运维专家介入,也能够自动运维的境界,即对故障的“自发现,免维护”。

以上就是AI驱动的事件智能分析系统的实际建设应用的详细内容,更多请关注其它相关文章!


# 几个  # seo h标签优化  # 武隆网站推广建设  # 工厂营销推广报价明细  # 文登网站建设品牌  # 极速推营销推广花絮  # 普陀区网站建设维护  # 珠海网站推广专家  # 阿里巴巴营销推广培训  # 杭州策划营销推广招聘网  # 科技型网站推广方案设计  # 率高  # ai  # 如果没有  # 文档  # 开源  # 决策树  # 进行分析  # 故障分析  # 应急预案  # llama  # 监控系统  # 系统 


相关栏目: 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】


相关推荐: 埃森哲俞毅:AI时代我们需要新的“摩尔定律”  Midjourney 5.2震撼发布!原画生成3D场景,无限缩放无垠宇宙  普渡机器人与变形金刚品牌合作,特别活动爆火,商品售罄!  人脸识别+全景双摄+AI算法 萤石推动智能锁行业革新  一文读懂自动驾驶的激光雷达与视觉融合感知  新华社联合北大发布AI大模型评测:安全可靠成重点,360智脑表现优异  美妆行业在AI时代蓬勃发展  人工智能创作的“婴儿版超级英雄”,你觉得哪个最可爱  中兴通讯无人机高空基站助力北京门头沟受灾乡镇保障应急通信  提升工作效率的智能工具:Zapier 让工作变得更简单!  猿力科技入选北京市通用人工智能产业创新伙伴计划  对话式论文阅读工具PaperMate上线,综述细节AI告诉你  【搞事】时隔4年 谷歌更新安卓logo 机器人头更饱满了  江永:精准施训提升通信无人机应急救援能力  当一个网站的内容被 AI 完全接管  微盟宣布联合腾讯云共建行业大模型:加快激活AI大模型智能应用  专家解读国家网信办深度合成服务算法备案信息公告:不等于百度、阿里、腾讯等生成式AI产品获批  丰田汽车研究院推出生成式人工智能汽车设计工具  【首发】首款“消化内镜手术机器人”进入临床尾声,ROBO医疗获数千万元A轮融资  AI大模型,将为智慧城市带来哪些新变化?  人才智能平台转型中的人工智能的关键角色  鉴智机器人发布基于地平线征程5的标准视觉感知产品  360发布AI数字人广场,可同孙悟空、爱因斯坦等古今中外角色对话  “上海市民营企业人工智能赋能创新中心”揭牌成立  人工智能:解决劳动力短缺的关键策略  世界人工智能大会上,科大讯飞宣布与华为联手  无人机巡检方案是什么,该如何选择适合的巡检方案  GPT-4是如何工作的?哈佛教授亲自讲授  日入400万,第一批AI骗子已上岗  视觉中国宣布推出AI灵感绘图、画面扩展功能  华为4G5G通信物联网收费标准公布,多年研发成果,十年花费近万亿  面向AI大模型,腾讯云首次完整披露自研星脉高性能计算网络  华为云盘古大模型3.0发布 AI云服务同时上线:200亿亿次性能  人工智能如何与智能家居集成  AYANEO AIR 1S 掌机发布:R7 7840U,预订价 4699 元起  标贝科技亮相国际顶会ICASSP2025 加速布局海外AI数据市场  国内通用人形机器人将发布、产业加速突破  中国最强AI研究院的大模型为何迟到了  WHEE使用教程  首部国内AI辅助动画片《魔游纪:人工智能辅助篇》预告发布  在心理治疗中用VR技术,治疗成效显著提高  AI技术改变*,新骗局来袭,*成功率接近100%  人工智能如何改变未来语言?  AI行业盛会大咖云集!Sam Altam、“AI教父”......一文看懂最新观点  数字文明尼山对话 | 在东方圣城与AI潮流梦幻联动,看“智慧大脑”让数字山东更美好  多家欧洲企业签署公开信,批评欧盟 AI 法案草案限制产业发展  灯塔AI大模型票房预测上线:开源算法不断提升精准度  2025VR&AR显示技术峰会视频解析: 歌尔光学展示最新一代VR/AR光学模组  轻量级的深度学习框架Tinygrad  「社交达人」GPT-4!解读表情、揣测心理全都会 

 2024-01-16

了解您产品搜索量及市场趋势,制定营销计划

同行竞争及网站分析保障您的广告效果

点击免费数据支持

提交您的需求,1小时内享受我们的专业解答。

运城市盐湖区信雨科技有限公司


运城市盐湖区信雨科技有限公司

运城市盐湖区信雨科技有限公司是一家深耕海外推广领域十年的专业服务商,作为谷歌推广与Facebook广告全球合作伙伴,聚焦外贸企业出海痛点,以数字化营销为核心,提供一站式海外营销解决方案。公司凭借十年行业沉淀与平台官方资源加持,打破传统外贸获客壁垒,助力企业高效开拓全球市场,成为中小企业出海的可靠合作伙伴。

 8156699

 13765294890

 8156699@qq.com

Notice

We and selected third parties use cookies or similar technologies for technical purposes and, with your consent, for other purposes as specified in the cookie policy.
You can consent to the use of such technologies by closing this notice, by interacting with any link or button outside of this notice or by continuing to browse otherwise.