谈及linux内存，很多时候，我们会关注free，top等基础命令。当系统遇到异常情况时，内存问题的根因追溯，现场诊断时，缺乏深层次的debug能力。本篇幅不做深层讨论，能把当前系统的问题描述清楚，是每个SRE应该具备的最基础能力。free========2.1 free命令原理free是通过查看 /proc/meminfo 来获取内存的使用情况。但是 /proc/meminfo 这个文件又是怎么来的？我们先了解下 /proc 目录：/proc 是一个虚拟文件系统，该目录下的所有文件都是伪文件，该类文件只存在于内存中，并不占用空间——使用 du -sh 即可验证，该模具路下的磁盘占用都是0。/proc 下的所有文件都是内核调用proc_create() 接口来创建的虚拟条目。/proc 中...阅读全文
prometheus切过去就可以了，这比配置sidecar的方式感受起来要好很多，也是腾讯TKE团队选择的大规模集群方案。 我发布了2个YAML，不需要任何改动，直接生效到集群中可以马上体验到效果：https://github.com/owenliang/thanos-prometheus 先部署thanos receive存储集群： YAML...阅读全文
once every 2 hours 完成后保存并关闭文件，然后重新启动cron服务以应用此更改： systemctl restart cron 结论 恭喜！ 您已经在Debian 9服务器上成功安装了Observium。 您现在可以轻松获得网络的状态和健康状况。 您可以检查Observium官方文档页面以获取有关配置设备，警报和身份验证模块的更多信息。【本文转载自 Howtoing.com，略有增删】...阅读全文
的监控： RPC 调用排障，调用方除了拥有下游接口信息，也可溯源自身触发该调用的接口。 接口高耗时分析，根据指标，可还原出单位时间窗口的耗时分解图快速查看耗时组件。 3.2 关于选型的疑问 你可能会问，链路监控领域在业内有现成的 APM 产品，比如 Zipkin, Pinpoint, SkyWalking 等，为什么当时会选择 OpenTracing + Prometheus 自行埋点？主要有两大因素： 第一，在当时，CAT 无法满足全链路监控和一些定制化的报表分析，而得物交易链路五彩石项目交付也趋于尾声，贸然去集成外部一款庞大的 APM 产品在没有充分的验证下，会给服务带来稳定性风险，在极其有限的时间周期内不是个理智的选择。 第二，监控组件是随着统一的基础框架来发布，同时，由另一团队牵头开...阅读全文
。 现在，核心互联网协议的重要改变已经开始了。虽然它们意图与互联网大部分兼容（因为，如果不兼容的话，它们不会被采纳），但是它们可能会破坏那些在协议中没有规定的地方，或者根本就假设那些地方不存在变化。 为什么我们需要去改变互联网 有大量的因素推动这些变化。 首先，核心互联网协议的局限性越来越明显，尤其是考虑到性能的时候。由于在应用和传输协议方面的结构性问题，网络没有得到高效使用，导致终端用户认为性能不能满足要求（特别是，网络延迟）。 这就意味着人们有强烈的动机来演进或者替换这些协议，因为有 大量的经验表明，即便是很小的性能改善也会产生影响。 其次，演进互联网协议的能力 —— 无论在任何层面上 —— 会随着时间的推移变得更加困难，这主要是因为上面所讨论的对网络的非预期使用。例如，尝试去压缩响应的...阅读全文
某些测试用例，启动阶段跑分会有 10% 的提高。该特性在阿里巴巴的双 11 抢购场景中得到了大量验证。目前，阿里巴巴正在社区努力推进，希望通过 JEP 的方式将该功能推到上游 OpenJDK 社区。 下图是阿里一个应用在“双十一”期间使用 JWarmUp 时的效果: 说明：图中蓝线是正常启动 (默认开启分层编译)，红线是启用 JWarmUp 的 CPU 使用率。 （1）是开启了 JWarmUp 选项，在应用启动时候，流量进来之前积极加载和编译方法。（2）是流量进来的时刻。（3）是正常模式启动下，CPU 消耗 100% 维持了 70s。（注：作图省略了一部分数据）（4）对应的绿线是稳定后 CPU 的使用率。 可以看到应用 JWarmUp 后在流量进来的时候 JWarmUp 可以减少大量 CPU...阅读全文
本文翻译自 Jack Roper 的文章 Kubernetes Best Practice。译者：文章中作者从应用程序开发、治理和集群配置三个方面给出了一些 Kubernetes 的最佳实践，同时翻译过程中也加入了我过往的一些使用经验。有误的地方，也欢迎大家指正。在这篇文章中，我将介绍一些使用 Kubernetes (K8s) 时的最佳实践。作为最流行的容器编排系统，K8s 是现代云工程师掌握的事实标准。众所周知，不管使用还是维护 K8s 复杂的系统，因此很好地掌握它应该做什么和不应该做什么，并知道什么是可能的，将是一个好的开局。这些建议包含 3 大类中的常见问题，即应用程序开发、治理和集群配置。最佳实践目录使用命名空间使用就绪和存活探针（译者注：还有启动探针）使用自动缩放使用资源请求和约...阅读全文
性和可靠性，提升产品体验。 2019年内UK8S还将支持节点弹性伸缩(Cluster AutoScaler)、物理机资源、GPU资源、混合云和ServiceMesh等一系列特性，敬请期待。 欢迎扫描下方二维码，加入UCloud K8S技术交流群，和我们共同探讨Kubernetes前沿技术。 如显示群人数已加满，可添加群主微信zhaoqi628543，备注K8S即可邀请入群。 如显示群人数已加满，可添加群主微信zhaoqi628543，备注K8S即可邀请入群。...阅读全文
费者和管理客户端KIP-630：Kafka Raft 快照我们在 3.0 中引入的一个主要功能是 KRaft 控制器和 KRaft 代理能够为名为 __cluster_metadata 的元数据主题分区生成、复制和加载快照。Kafka 集群使用此主题来存储和复制有关集群的元数据信息，如代理配置、主题分区分配、领导等。随着此状态的增长，Kafka Raft Snapshot 提供了一种有效的方式来存储、加载和复制此信息.KIP-746：修改 KRaft 元数据记录自第一版 Kafka Raft 控制器以来的经验和持续开发表明，需要修改一些元数据记录类型，当 Kafka 被配置为在没有 ZooKeeper (ZK) 的情况下运行时使用这些记录类型。KIP-730：KRaft 模式下的生产者 ID...阅读全文
Chiplet可以应用，以及Chiplet产品的性价比何时能最先验证。"戴伟民说到。正因如此，即便是有了UCIe这一标准，大家也容易停留在观望阶段，都在等待第一个吃螃蟹的人出现。"芯原正在与有意向使用Chiplet的企业积极沟通，并尝试探索向潜在客户'众筹'Chiplet的方案，有望尽快打破僵局。"戴伟民补充道。续命摩尔定律，万能胶芯片不万能抛开工艺难题，芯片万能胶普及的关键在于，能否延续摩尔定律给芯片公司们更大价值。从产业链角度，一方面，Chiplet作为半导体产业的技术趋势，需要各家芯片公司都在自己的位置上做最擅长的工作，通过分工协作减少Chiplet芯片与市场需求匹配的时间和周期，因此芯片公司之间的连接会更加紧密，另一方面，芯片万能胶似乎正在改写芯片公司或芯片产品的评价体系或维度。"一直以来，最先...阅读全文
influxdb在内存中引入了大量文件，在内存充足时，会占用较多的空间，用于提高程序读取性能。5.SMP与NUMA?cpu硬件体系架构可以分为:SMP(Symmetric Multi-Processor)/UMA(Uniform Memory Access)模式SMP架构，所有的CPU争用一个总线来访问所有内存，优点是资源共享，而缺点是总线争用激烈。 实验证明，SMP服务器CPU利用率最好的情况是2至4个CPUNUMA(Non-Uniform Memory Access)模式NUMA架构引入了node和distance的概念。对于CPU和内存这两种最宝贵的硬件资源， NUMA用近乎严格的方式划分了所属的资源组（node），而每个资源组内的CPU和内存是几乎相等。在influxdb服务器上，查看当前cpu及...阅读全文
、Python）、统计知识以及部署商业网站、应用程序和插件的经验。 **原文链接：** https://medium.com/ai-in-plain-english/scaling-tensorflow-models-on-kubernetes-e598cb4bfd8a...阅读全文
） 升级数据库配置 迁移非核心业务到新的RDS实例中去 第二次宕机 由于上一次的宕机原因未找到，所以此次的宕机是可以预见的。 20180919，还是一样的”配方”，还是原来的”味道”。同一个RDS，CPU飙升至100%，接下来就是拒绝服务，宕机。当然，有了第一次的经验，直接主从切换，在几十秒左右就恢复了所有业务，但还是严重影响了公司的业务和形象 原因分析 恢复业务后，公司紧急召开了紧急事故研究会议，当然，我的级别是参与不了的。公司的高管，高层技术架构、DBA、各个项目的主负责人一起进行了会议。 在此次会议中，经过查看各个项目的日志，后台的监控数据，发现在那台RDS数据库CPU飙升时，有一台Redis数据库内存将近100%，然后急剧下降。联系第一次的宕机情况，也是类似的。 接下来就是联系服务器数据...阅读全文
就能够达到比较好的性能上的提升。 3. 支持 LoopBack 模式 在以往本地执行实际是在 Python 的进程中去运行客户端程序，提交 Java 进程启动一个迷你集群去执行 Java 部分代码。Java 部分代码也会和生产环境部分的一样，去启动一个新的 Python 进程去执行对应的 Python UDF，从图下可以看出新的进程其实在本地调试中是没有必要存在的。 所以支持 lookback 模式后可以让 Java 的 opt 直接把 UDF 运行在之前 Python client 所运行的相同的进程内，通过这种方式： 首先是避免了启动额外进程所带来的开销； 最重要的是在本地调试中，我们可以在同一个进程内能够更好利用一些工具进行 debug，这个是对开发者体验上的一个提升。 六、总结 本文...阅读全文
用于应用程序性能监视（APM）的软件分析产品，可提供有关 Web 应用程序性能以及最终用户体验满意度的实时和趋势数据。 Prometheus Prometheus 是用于事件监视和警报的免费软件应用程序。它将实时指标记录在一个时间序列数据库中，该数据库使用 HTTP 拉取模型构建，支持灵活查询和实时警报。 Prometheus 服务器的工作方式是抓取，也就是调用监视器上配置的各个节点的指标端点。它定期收集这些指标并将其存储在本地。节点在 Prometheus 服务器抓取的端点上公开这些指标。 Zipkin Zipkin 是一个分布式跟踪系统。它能收集用来解决服务架构中延迟问题所需的时序数据。其功能包括收集和查找这类数据。 如果日志文件中有跟踪 ID，则你可以直接跳至该跟踪 ID。否则，你可以...阅读全文
。即使用户空间的占用率提高一倍，其CPU占用率也仅为10%，这也解释了为何7层处理对性能影响有限这一现象。由此，在高端系统上HAProxy的7层性能可轻易超过硬件负载均衡设备。 在生产环境中，在7层处理上使用HAProxy作为昂贵的高端硬件负载均衡设备故障故障时的紧急解决方案也时长可见。硬件负载均衡设备在“报文”级别处理请求，这在支持跨报文请求(request across multiple packets)有着较高的难度，并且它们不缓冲任何数据，因此有着较长的响应时间。对应地，软件负载均衡设备使用TCP缓冲，可建立极长的请求，且有着较大的响应时间。 二，安装配置HAProxy 以下实验环境均为 Debian i686平台。 1，安装haproxy [root@LB ~]# apt-get...阅读全文
