百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 博客教程 > 正文

Kubernetes 日志传输中的四大挑战

connygpt 2024-09-10 13:35 11 浏览

收集日志,并将数据发送到日志服务器,这一动作看起来简单,但其实并不是一件容易的事。比如:容器日志收集,就存在诸多挑战。

日志传输,通常包含两大类:一个是主动方式;一个是被动方式。

主动方式,是指整个进程主动向远程syslog服务器发送日志消息。通常,数据编码的格式是rfc5424。

被动方式,是指部署每个进程的日志路径或文件模式。 LogAgent会定期扫描,并将捕获的日志消息发送到日志服务器。

但是在容器日志收集中,上述方法并不适用。首先,日志收集过程更快。其次,流程部署更加分布式。

具体而言,容器日志收集面临着四大挑战:

一、未能收集所有关键日志

当出现问题时,pods 可能会被删除或重新创建。因此,与pod/container相关联的日志文件将被快速删除/创建。

借助LogAgent(如Fluentd或Logstash),我们可以定期扫描文件夹,或利用内置模式定义自动检测日志,并且默认扫描间隔为60秒(见下图)。扫描间隔太慢,将无法及时捕捉pod。假如:我们把间隔设得短一些,比如1秒,性能提升要高得多,但是会出现日志丢失现象。

此前,在VM环境下,就不用担心会出现类似问题。当进程以某种方式重新启动时,日志文件可能会被改变,但不会被删除。最多只是感觉到日志收集速度变慢,但不会丢失关键日志。

如何解决这一问题?我们可以通过Kubernetes云控制器功能来监控pod。每当启动pod创建事件时,立即通知LogAgent。honeycomb- kubernetts -agent是一个有机统一体。

值得一提的是,不是所有日志都被重定向到stdout/stderr。如果pod内的进程将日志写入本地文件,而不是stdout/stderr,LogAgent将无法获得日志,系统只监视与pod关联的日志文件,如下所示。该日志文件将只捕获容器的stdout/stderr。

这种日志记录行为是Kubernetes环境下的模式。尽管,云原生移动确实需要时间,但并不是每个应用都是最前沿应用,对于DB服务尤其如此。

与VM环境相比,容器日志收集更灵活,Pod可以经常在不同的工作节点上移动。但是,谁都不希望每当K8s集群有一个pod更改时,就要重新加载或重新启动LogAgent,这绝对是一个新的挑战。

二、Namespaces的多租户问题

Kubernetes工作负载通常运行在vm共享工作站中。由Namespaces来区分来自不同项目的工作负载分。不同的项目可能对日志记录有不同的偏好。日志到哪里,由什么工具管理,都需要提供一种简单的配置方式,而不需要安装其他应用。

在笔者看来,Kubernetes CRD (CustomResourceDefinition自定义资源定义)非常好用。你需要学习的只是标准的kubectl命令。RBAC可以借此应用定制资源。所以,Kubernetes CRD安全并且简单,更容易执行。在PKS中,我们将这个特性称为sink资源。

三、如何在不同的Namespaces下支持SLA

为了让操作更简单,人们通常只部署一个LogAgent作为Kubernetes daemonset。这代表每个Kubernetes工作节点有一个pod。如果这个pod需要重新加载或重新调度,它将影响这个工作节点中的所有pod。

从K8s v1.12开始,每个节点可以运行100个pod。你需要确保LogAgent足够快,可以从所有pod中收集日志。像任何共享环境一样,你可能会遇到错综复杂的关联问题。一个pod的错误行为会损伤同一工作节点中的所有其他pod。

可能每个人都会想到,让有问题的Namespaces禁用禁用日志记录,这样我们可以很容易避免发出日志,不会影响日志收集。但是,缓慢的磁盘处理可能会对日志传输造成明显的延迟。

四、如何处理来自不同层面的日志记录

如下图所示,我们有pod日志、K8s日志和平台日志。即使对于“pod日志”,我们也有来自标准工作负载或K8s附加组件的日志。

而不同类型的日志具有不同的特征。他们可能会有不同优先级别事项。不仅是层对层,而且是同一层的不同SLA。

在K8s解决方案中,我们如何解决这一问题?如何协助项目经理/开发人员迅速找出问题的根源?如何减少安装与部署环节?PKS可能是最佳选择!

相关推荐

3分钟让你的项目支持AI问答模块,完全开源!

hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...

干货|程序员的副业挂,12个平台分享

1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...

Github标星超200K,这10个可视化面板你知道几个

在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...

开箱即用的炫酷中后台前端开源框架第二篇

#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...

搭建React+AntDeign的开发环境和框架

搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...

基于.NET 5实现的开源通用权限管理平台

??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...

StreamPark - 大数据流计算引擎

使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...

教你使用UmiJS框架开发React

1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...

简单在线流程图工具在用例设计中的运用

敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...

【开源分享】神奇的大数据实时平台框架,让Flink&Spark开发更简单

这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...

聊聊规则引擎的调研及实现全过程

摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...

【开源推荐】Diboot 2.0.5 发布,自动化开发助理

一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...

微软推出Copilot Actions,使用人工智能自动执行重复性任务

IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...

Electron 使用Selenium和WebDriver

本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...

Quick 'n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具

一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...