百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 博客教程 > 正文

一文读懂Prometheus架构监控

connygpt 2024-12-16 11:37 10 浏览

介绍

Prometheus 是一个系统监控和警报工具包。它是用 Go 编写的,由 Soundcloud 构建,并于 2016 年作为继 Kubernetes 之后的第二个托管项目加入云原生计算基金会(CNCF)。这意味着它目前是一个开源项目,独立于任何公司维护。它是监控本地解决方案和云工作负载的理想工具。

在 Prometheus 中,我们谈论维度数据- 时间序列由度量名称和一组键/值对标识:

Metric name: Speed 
Label: direction=forward 
Sample: 80 

Prometheus 包含灵活的查询语言。指标可视化可以使用内置的表达式浏览器或 Grafana 等集成显示

Prometheus是如何工作的?

Prometheus 通过抓取指标 HTTP 端点从受监控的目标收集指标。
这与大多数其他监控和警报系统不同,后者将指标推送到工具,或者使用自定义脚本对特定服务和系统执行检查。

刮擦也是最有效的机制之一。单个 Prometheus 服务器每秒能够以数百万个时间序列摄取多达一百万个样本。

Prometheus基本概念

所有数据都存储为一个时间序列,可以通过度量名称和一组称为标签的键值对来识别。

go_memstat_alloc_bytes{instance="localhost", job="prometheus"} 20 


上面的指标有两个标签:instancejob,值 20.0,称为Sample。它可以是 float64 值或毫秒精度的时间戳。

Prometheus配置

yaml配置以格式存储在 Prometheus 配置文件中。无需重新启动 Prometheus 即可更改和应用该文件,这对于某些场景很有用。可以在执行时重新加载kill-SIGHUP <pid>

也可以在启动时将参数(标志)传递给./prometheus,但这些参数不能即时更改,因此需要重新启动服务才能在此处应用更改。

--config.file配置文件在开始时使用标志传递。默认配置如下所示:

# my global config
global:
    scrape_interval:    15s # Set the scrape interval to every 15s. Default:60s
    evaluation_interval:15s # Evaluate rules every 15s. Default:60s
    # scrape_timeout is set to the global default (10s).

# Alertmanager configuration
alerting:
    alertmanagers:
    - static_configs:
        - targets:
        # - alertmanager:9093

# Load rules once and periodically evaluate them according to the global `evaluation_interval`.
rule_files:
    # - "first_rules.yml"
    # - "second_rules.yml"


Prometheus target

要抓取指标,我们需要向 Prometheus 配置文件添加配置。例如,为了从 Prometheus 本身抓取指标,默认添加以下代码块(它是默认配置文件的一部分):

# A scrape configuration containing exactly one endpoint to scrape:
# Here it's Prometheus itself.

scrape_configs:
    # The job name is added as a label `job=<job_name>` to any time-series scraped from this config.
    - job_name = 'prometheus'

        # metrics_path defaults to `/metrics`
        # scheme defaults to `http`.

        static_configs:
        - targets: ['localhost:9090']


Prometheus监控节点

要监控节点,我们需要安装node-exported,安装了Exporters的节点将公开机器指标,例如 Linux/*Nix 机器的 CPU 和内存使用情况。它可以用来监控机器,然后我们可以根据这些摄取的指标创建警报。

对于 Windows,我们可以使用VMI-Exporter

Prometheus架构

监控

实际上,在监控代码之前,我们应该对其进行检测。Prometheus 有很多官方和非官方的库。但是即使我们使用的语言没有库,它们也可以以简单的基于文本的格式定义。

好的,但回到监控,我们有 4 种类型的指标:

  • 计数器- 只会上升的值(例如访问网站)\
  • Gauge - 可以上下浮动的单个数值(例如 CPU 负载、温度)
  • 直方图- 样本观察(例如请求持续时间或响应大小),这些观察被计入存储桶。包括 ( _count, 和_sum)。主要目的是计算分位数。
  • Summary- 类似于直方图,摘要抽样观察(例如请求持续时间或响应大小)。摘要还提供了观察总数和所有观察值的总和,它计算了滑动时间窗口上的可配置分位数。

Prometheus推送指标

正如我之前所说,默认情况下 Prometheus 更喜欢提取指标,但有时我们会遇到需要推送指标的情况——因为它们的寿命不够长,无法每 x 秒被刮一次。在这种情况下,我们可以将指标推送到Push Gateway

Push Gateway 用作允许你推送指标的中介服务。

陷阱:

  • 大多数时候这是一个单一的实例,所以这会导致 SPOF
  • Prometheus 的自动实例健康监控是不可能的
  • 推送网关永远不会忘记指标,除非它们通过 API 删除

推送网关功能:

  • push_to_gateway- 用相同的分组键替换指标
  • pushadd_to_gateway- 仅替换具有相同名称和分组键的指标
  • delete_from_gateway- 删除具有给定作业和分组键的指标

Prometheus查询

对于查询指标,Prometheus 提供了一种称为PromQL的表达式语言。它是一种只读语言,因此我们无法使用它插入任何数据。

Prometheus 中有 4 种可用的值类型,我们可以针对它们执行查询:

  • 即时向量- 一组时间序列,每个时间序列包含一个样本,所有样本都共享相同的时间戳。例子:node_cpu_seconds_total
  • 范围向量- 一组时间序列,其中包含每个时间序列随时间变化的数据点范围。示例:node_cpu_seconds_total[5m]
  • 标量- 一个简单的数字浮点值。例子:-3.14
  • String - 一个简单的字符串值;目前未使用。例子:foobar

Prometheus操作符

为了处理指标,Prometheus还有一些操作符,它们可以帮助我们了解被监控的应用程序发生了什么,并允许我们将指标聚合和修改为更复杂的数据:

* Arithmetic binary operators
    - `-` (substraction)
    - `*` (multiplication)
    - `/` (division)
    - `%` (modulo)
    - `^` (power/exponentiation)
* Comparision binary operators
    - `==`,`!=`
    - `<`, `<=`, `>=`, `>`
* Logical/set binary operators
    - `and` (intersection)
    - `or` (union)
    - `unless` (complement)
* Aggregation operators
    - `sum` (calculate sum over dimensions)
    - `min` (select minimum over dimensions)
    - `max` (select maximum over dimensions)
    - `avg` (calculate average over dimensions)
    - `stddev` (calculate population standard deviation over dimensions)
    - `stdvar` (calculate population standard variance over dimensions)
    - `count` (count number of elements in the vector)
    - `count_values` (count number of elements with the same value)
    - `bottomk` (smallest k elements by sample value)
    - `topk`(largest k elements by sample value)
    - `quantile` (calculate fi-quantile (0 <= fi <= 1) over dimensions)

例子

以下是一些有用的查询示例,它们使用了一些运算符。我个人觉得它们很有用,并且在我的工作中有机会使用非常相似的。

  • up{job="prometheus"} 返回up带有标签的时间序列job=prometheus
  • http_requests_total{job=~=".*etheus"} 返回http_requests_total标签job匹配正则表达式的时间序列.*etheus(所有以“etheus”结尾的值)
  • http_requests_total{job="prometheus}[5m] 返回 5m 时间范围内的所有值。无法在 Prometheus 仪表板中绘制
  • http_requests_total{code!="2.."} 返回代码标签不匹配的时间序列2..。在这种情况下,我们过滤掉所有 HTTP 2XX 状态代码。
  • rate(http_requests_total[5m])http_requests_total 在过去 5 分钟内测量的具有名称的所有时间序列的每秒速率
  • sum(rate(http_requests_total[5m])) by (job) 根据标签job分组查看5分钟速率的http请求总和

Prometheus Exporters

在 Prometheus 中,我们还有一个名为 Prometheus Exporters 的概念。他们负责收集所有系统统计信息,如内存使用情况、CPU 等。主要目的是从现有的第三方指标中收集 Prometheus 指标。当 Prometheus 无法直接提取指标时(例如 haproxy 或 linux 系统统计信息),也会使用Exporters。

我们已经有很多可用的Exporters,例如 MySQL 服务器Exporters、Redis Exporters等。

所有可用的Exporters都可以在官方文档中找到。

要使用Exporters,我们需要将其定义添加到prometheus.yml文件中。

Prometheus Alertmanager

Prometheus 中的警报分为两部分:

  • Prometheus 服务器中的警报规则
  • Alertmanager,它是一个单独的组件。

警报规则定义 Prometheus 服务器何时应向 AlertManager 发出警报。在 AlertManager 中,我们定义了路由器和接收器。路由负责触发接收器(例如电子邮件、松弛、团队等)

警报规则

规则存在于 Prometheus 服务器配置中。它们基本上定义了我们何时想要使用其他一些设置(如严重性和描述)发出警报。他们将被触发的警报发送到外部服务。最佳实践是将警报与 Prometheus 配置分开。它们可以包含在prometheus.yml文件中,例如:

rule_files:
- "/etc/prometheus/alert.rules"

告警规则格式如下:

ALERT <alert name>
    IF <expression>
    [ FOR <duration> ]
    [ LABELS <label set> ]
    [ ANNOTATIONS <label set> ]

例如,我们为 CPU 使用率定义了一个警报。当机器处于超过 90% 的重负载 1 分钟时,此定义会触发严重警报:

groups:
- name: example
  rules:
  - alert: cpuUsage
    expr: cpu_percentage > 90
    for: 1m
    labels:
      severity: critical
    annotations:
      summary: Machine under heavy load

警报管理器

Alertmanager 处理 Prometheus 服务器发出的警报。它处理警报的重复数据删除、分组和路由。它还将警报路由到 MS Teams、电子邮件、Slack 等接收器,因此我们可以在出现任何问题时收到通知(当警报被触发时)。

Alertmanager 配置在/etc/alertmanager/alertmanager.yml文件中定义。这是一个例子:

# The root route with all parameters, which are inherited by the child
# routes if they are not overwritten.
route:
  receiver: 'default-receiver'
  group_wait: 30s
  group_interval: 5m
  repeat_interval: 4h
  group_by: [cluster, alertname]
  # All alerts that do not match the following child routes
  # will remain at the root node and be dispatched to 'default-receiver'.
  routes:
  # All alerts with service=mysql or service=cassandra
  # are dispatched to the database pager.
  - receiver: 'database-pager'
    group_wait: 10s
    matchers:
    - service=~"mysql|cassandra"
  # All alerts with the team=frontend label match this sub-route.
  # They are grouped by product and environment rather than cluster
  # and alertname.
  - receiver: 'frontend-pager'
    group_by: [product, environment]
    matchers:
    - team="frontend"

默认情况下没有安装 Alertmanager,我们应该让 Prometheus 实例知道 Alertmanager 的存在。为此,我们需要prometheus.yml通过添加以下行来更改文件:

# Alertmanager configuration
alerting:
  alertmanagers:
  - static_configs:
    - targets:
      - localhost:9093

Alertmanager 支持将类似警报分组为 1 个通知的概念。因此,如果我们的应用程序在一段时间内 10 次触发有关未处理实体的警报,我们将只收到一个警报,说明应用程序失败 10 次。它确实有助于频繁发出警报 - 如果没有分组机制,通知系统将被大量类似的消息发送到垃圾邮件中。

如果一个指定的警报已经被触发,我们也可以禁止其他警报。如果我们的数据库出现故障,我们不需要每分钟都通知它!此外,如果我们知道我们计划了一些维护窗口,我们可以在此期间使警报静音。

警报可以处于以下三种状态之一:

  • 非活动 - 不满足任何规则
  • 待定 - 满足规则但可以抑制
  • 触发 - 警报发送到配置的通道

希望阅读完这篇文章后,你对 Prometheus 有更多的了解。你知道它可用于监控任何应用程序,并在出现任何问题时发出警报。你也知道它的基本配置是什么样子的。

如果你发现我的任何文章有帮助或有用,麻烦点赞或者转发。 谢谢!

相关推荐

3分钟让你的项目支持AI问答模块,完全开源!

hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...

干货|程序员的副业挂,12个平台分享

1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...

Github标星超200K,这10个可视化面板你知道几个

在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...

开箱即用的炫酷中后台前端开源框架第二篇

#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...

搭建React+AntDeign的开发环境和框架

搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...

基于.NET 5实现的开源通用权限管理平台

??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...

StreamPark - 大数据流计算引擎

使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...

教你使用UmiJS框架开发React

1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...

简单在线流程图工具在用例设计中的运用

敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...

【开源分享】神奇的大数据实时平台框架,让Flink&amp;Spark开发更简单

这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...

聊聊规则引擎的调研及实现全过程

摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...

【开源推荐】Diboot 2.0.5 发布,自动化开发助理

一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...

微软推出Copilot Actions,使用人工智能自动执行重复性任务

IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...

Electron 使用Selenium和WebDriver

本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...

Quick &#39;n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具

一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...