"。 异常中最关键的信息是“ Too many open flies”，这是一种常见的 Linux 系统错误，通常意味着文件描述符不足，它一般发生在创建线程、创建 Socket、打开文件这些场景下 。 在 Linux系统的默认设置下，这个文件描述符的个数不是很多 ，通过 ulimit -n 命令可以查看：一般默认是1024，可以将该值增大，比如：ulimit -n 65535 2.1.8 消息传递保障 at most once(消费者最多收到一次消息，0–1次)：acks = 0 可以实现。 at least once(消费者至少收到一次消息，1–多次)：ack = all 可以实现。 exactly once(消费者刚好收到一次消息)：at least once 加上消费者幂等性可以实现，还可以...阅读全文
有更好的吞吐量，内置的分区，冗余及容错性，这让Kafka成为了一个很好的大规模消息处理应用的解决方案。消息系统 一般吞吐量相对较低，但是需要更小的端到端延时，并尝尝依赖于Kafka提供的强大的持久性保障。在这个领域，Kafka足以媲美传统消息系统，如ActiveMR或RabbitMQ 站点的用户活动追踪: 为了更好地理解用户行为，改善用户体验，将用户查看了哪个页面、点击了哪些内容等信息发送到每个数据中心的Kafka集群上，并通过Hadoop进行分析、生成日常报告。 流处理：保存收集流数据，以提供之后对接的Storm或其他流式计算框架进行处理。很多用户会将那些从原始topic来的数据进行 阶段性处理，汇总，扩充或者以其他的方式转换到新的topic下再继续后面的处理。例如一个文章推荐的处理流程...阅读全文
Ceph 中，默认情况下将数据复制到三个不同的节点，这确保备份始终可用。 商品化硬件。GlusterFS 和 Ceph 是在 Linux 操作系统之上开发的。因此，对硬件唯一的要求是这些产品具有能够运行 Linux 的硬件。任何商品化硬件都可以运行 Linux 操作系统，结果是使用这些技术的公司可以大大减少在硬件上的投资——如果他们这样做的话。然而，实际上，许多公司正在投资专门用于运行 GlusterFS 或 Ceph 的硬件，因为更快的硬件可以更快地访问存储。 去中心化。在云环境中，永远不应该有中心点故障。对于存储，这意味着不应该用一个中央位置存储元数据。GlusterFS 和 Ceph 实现了元数据访问去中心化的解决方案，从而降低了存储访问的可用性和冗余性。 现在来谈谈 GlusterFS 与...阅读全文
是最好的选择。 但是，对于功能测试或非 Java 应用，应考虑其他解决方案。 3. Spock Spock 是用于 Java 和 Groovy 应用的测试和规范框架，基于 JUnit 。 优点： 测试可读性强，支持简单的英文句子，便于阅读。 提供周边上下文，从而能轻松了解如何解决故障。 内置 mocking 和 stubbing 功能。 支持数据驱动测试（DDT）。 缺点： 需要具备基本的 Groovy 语言知识。 如果你的应用是基于 JVM 的，并且目标是使用 DSL 进行 BDD 自动化测试，则此框架正适合！ 4. NUnit NUnit 是支持所有 .Net 语言的单元测试框架。最初也是基于 Junit 的启发，完全采用 C＃ 编写，目前已被完全重新设计以使用更多 .NET 语言功能...阅读全文
/OpenSUSE Linux 微码更新包 警告 ：在某些情况下，微码更新可能会导致引导问题，比如，服务器在引导时被挂起或者自动重置。以下的步骤是在我的机器上运行过的，并且我是一个经验丰富的系统管理员。对于由此引发的任何硬件故障，我不承担任何责任。在做固件更新之前，请充分评估操作风险！ 示例 在使用 Intel CPU 的 Debian/Ubuntu Linux 系统上，输入如下的 apt 命令/apt-get 命令: sudo apt-get install intel-microcode 命令执行成功后，需要重启服务器，以激活微代码的更新。重启以后，我们再次执行 dmesg 命令，可以看到输出已经变为： [ 0.000000] microcode: microcode updated early to...阅读全文
热线、在线聊天支持。作为全球云服务的龙头企业，亚马逊云计算拥有最广泛的全球云计算基础设施，全球节点丰富，为网站的快速稳定访问提供基础设施保障。配合亚马逊全球CDN节点，能满足不同国家独立站访问速度需求。1.什么是云服务器？云计算服务器(也称云服务器或云主机)是云计算服务系统中的主机产品，有效解决了传统物理主机中管理难度大、业务扩展性弱的缺陷。在实际应用中，云主机具有三个方面的灵活性:主机服务配置和业务规模可根据用户需求配置，可灵活调整。用户申请的主机服务可以快速供应和部署(实时在线开通)，实现集群内灵活可扩展的收费模式，用户无需支付押金，有多种支付模式供用户选择。2.云服务器适合什么样的用户？关注主机服务性价比的用户；需要快速实现分布式部署的用户；需要灵活扩展业务的用户；对系统高可用性和快速...阅读全文
Jira Jira 是 Atlassian 开发的专用问题跟踪产品，提供了错误跟踪和敏捷项目管理功能。 JetBrains YouTrack YouTrack 是由 JetBrains 开发的，基于浏览器的专用商业软件，融合了错误跟踪器、问题跟踪系统以及项目管理软件。它的卖点是基于查询的问题搜索，拥有自动完成、分批处理问题、自定义问题属性集，以及创建自定义工作流的特性。 Zendesk Zendesk 可以轻松地从所有渠道跟踪每一个客户问题。目前 Uber 和 Airbnb 等许多公司都在使用 Zendesk Support 作为他们的问题跟踪软件。 源代码控制 源代码控制主要是为了控制资产，减少沟通障碍，赋能团队。目前业内比较常用的 SCM 工具包括 Git、GitHub、GitLab...阅读全文
政府称，微软、甲骨文以及IBM等公司提供的软件有可能带来安全隐患，特别是隐藏后门。但需要承认的是，虽然俄罗斯政府方面热情很高，但考虑到开源企业鲜少在俄罗斯建立办事处，因此相关产品的支持工作恐怕得不到保障。 6. Linux支撑全球最快超级计算机 多年来，Linux一直作为全球最快最强大的超级计算机的运转核心。这一趋势在2016年仍在继续保持。在今年的全球超算五百强榜单中，有497台设备采用Linux系统，这意味着99.4%的超级计算机都依赖于Linux。其余三台则采用IBM的AIX(一款Unix衍生型系统)。 7.车辆以Linux作为客观标准 Linux基金会已经建立车辆级Linux(简称AGL)项目，旨在将Linux引入各类车辆产品。尽管该项目已经存在数年，但在2016年中才开始为多家技术...阅读全文
差，但是更便宜的成本、更大容量的优势是无法忽视的。随着技术的不断发展和成熟，QLC就像当年TLC一样从不被接纳到广泛认可也是早晚的事情. 其实不管是TLC还是QLC，只要价格够便宜，容量够大，速度够快，寿命有保障，总会获得消费者的喜欢，赢得属于自己的市场份额。 而对于HDD来说，QLC的出现将带来更大的威胁。或许真正QLC SSD普及之时，才是HDD 跟我们Say byebye之时。...阅读全文
从我们认为 DevOps 只是一个流行语开始，它已经发展了很长的一段时间。现在，DevOps 已经成为了一个主要焦点，并在过去几年一直在塑造着软件世界。专家表示，DevOps 将成为主流，它的流行程度将在 2019 年达到顶峰。 根据 2018 年《DevOps 现状报告》，DevOps 精英级执行团队代码部署频率和发布速度更高，变更故障率更少，事故恢复时间更短，同时高效能团队的比例逐年增长，采用 DevOps 的团队越来越多。 而 Stack Overflow2018 年的薪资计算器报告显示，全球 DevOps 专家的收入最高，美国 DevOps 专家的年薪中位数接近 10 万美元。 以下是“DevOps”一词的 Google Trends 以及 2019 年的预计增长假设。 从统计数据...阅读全文
nsenter 是一个可以在指定进程的命令空间下，运行程序的命令，它位于 util-linux 包中。 nsenter 用途 nsenter 的一个典型用途是进入容器的网络名字空间，进行网络相关的排障。大多数容器，为了保持轻量，没有包含较为基础的命令，比如说 ip，ping，telnet，ss，tcpdump等，这就给容器内的网络调试带来困扰。这时就可以使用 nsenter 命令仅进入到容器的网络命名空间，使用宿主机的相关命令调试容器网络。 此外，nsenter也可以进入 mnt, uts, ipc, pid, user 命令空间，以及指定根目录和工作目录。 nsenter 使用 首先看下nsenter命令的语法： nsenter [options] [program [arguments...阅读全文
版本中，当 JFR 功能被打开，JVM 能以非常小的性能开销记录 Java 运行过程中产生的各种运行时数据。产生的 JFR 数据包含 JVM 运行时的各种微观细节，可以被 JMC(Java Mission Control) 进行分析。JMC 是一个桌面应用程序，通过解析 JFR 数据，JMC 能够高效快速定位线上产品环境的各种故障，分析内存分配热点，方法调用热点，方法调用超时分析，内存泄漏，IO 活动，线程活动等，帮助 Java 用户保证服务稳定。 据了解，阿里巴巴日常开发过程中遇到的很多问题都是通过 JFR 得到解决的，可以说是 Java 故障诊断利器。如上所言，JFR 功能在 OpenJDK 11 以及以上版本才有，但是在阿里巴巴的推动努力下，JFR 功能已经被 OpenJDK 8u 社...阅读全文
以进行故障排除的二进制文件和工具。这就决定了该容器有助于提供安全可靠的运行时环境，但也很难在问题发生时进行调试。 在这种情况下，临时容器发挥作用。它们实现了调试容器附加到主进程的功能，然后你可以用于调试任何类型的问题。调试容器可以基于任何镜像，因此可以根据您的需求进行定制。您可以构建自己的调试镜像，其中包含特殊的调试二进制文件或仅包含curl，OpenSSL和MongoDB客户端之类的工具。但是，您也可以选择Linux发行版（如Ubuntu）或仅运行Busybox镜像，这两个镜像都已经包含了许多有用的工具。 如何使用临时容器？ 临时容器是alpha功能，因此默认情况下处于禁用状态。您将需要激活以下功能门才能使用它们： 临时容器 PodShareProcessNamespace（v1.16中的...阅读全文
序迁出，就很难总结出共同的部分。 工作流也很脆弱。原生工作流有很多关于生产状态的隐性假设，这会导致不可预期的故障。要避免错误，我们添加了前提条件：金丝雀集群是否服务于真实流量？底层有没有运行中断？但是因为我们需要扩展到数十个基础架构提供者和上百个服务，这些Web的前提条件变得非常tricky。每个工作流都需要知道其他工作流的状态。 交互变成了N²问题，这里N是组成服务基础架构的asset数量。当你更新单个asset时，需要考虑它可能带给别的asset或者工作流的影响。比如，现在是否能够重启缓存，或者是否需要等待另一个缓存稳定了之后？如果需要手动变更某个在线的工作流，有没有哪些别的工作流也需要操作的？ — 3 — 我们的方案：Prodspec和Annealing 手动设计每个工作流变得不太可能...阅读全文
认可的开源许可证 不要创建你自己的自定义许可证;这将为任何想要使用你代码的人增加法律障碍。确保你选择的许可证与你打算使用代码的方式兼容。此外，请确保许可证与你的项目代码所需的任何第三方内容(例如库)兼容。在所有源文件的标题中包含许可证的SPDX代码。 15、将项目移到开源基金会 前面已经提到过几次基金会。基金会首先可以帮助你保持项目供应商中立，这将有助于采用：开源软件的魅力大多是因为采用者可以避免被某个特定组织所关注。基金会可以坚持和保卫项目的商标，建立治理模式，帮助你管理品牌，提供知识产权管理服务，并为运营成功的开源项目提供常用的帮助和建议。成为开源基金会的一部分可以提供有价值的反馈循环。基金会可以为你的开源项目提供可信度，然后，开源项目反过来可以为基金会提供公信力。 运作开源项目包含很多...阅读全文
channel的容量。对于内置的len函数，如果传入的是channel，那么将返回channel内部缓存队列中有效元素的个数。因为在并发程序中该信息会随着接收操作而失效，但是它对某些故障诊断和性能优化会有帮助。package main import "fmt" func main() { ch := make(chan int, 10) // 创建一个最大容量为10的channel ch <- 233 ch <- 2 ch <- 3 fmt.Println(cap(ch)) // 10 fmt.Println(len(ch)) // 3 fmt.Println(<-ch) // 233 fmt.Println(len(ch)) // 2 } 向缓存Channel的发送操作就是向内部缓存队列的尾部插入元素...阅读全文
双监视器输出 vs 单 HDMI 输出USB 2.0 升级为 USB 3.0 端口如果说 35 美元仍然贵了些，那么还有更便宜的树莓派型号。比如 Raspberry Pi Zero 仅售 5 美元，而 Raspberry Pi Pico 微控制器板仅售 4 美元。 9.每年都有一场“树莓派争霸赛”▲ 用树莓派打造的智能车是的，你可以与其他的树莓派开发者同台竞技。“Pi Wars” 是一年一度的机器人竞赛，参赛者必须使用树莓派设备来制造机器人身上所有的装备。比赛内容包括各种挑战，例如导航障碍物路线，弹出气球和导航迷宫。比赛项目有人力遥控的机器人，也有全自动化的机器人挑战。今年的 Pi Wars 将于 2021 年 7 月举行。参考链接：https://www.tomshardware.com...阅读全文
dfs.namenode.checkpoint.check.period 60 9.6 namenode元数据信息多目录配置 为了保证元数据的安全性，我们一般都是先确定好我们的磁盘挂载目录，将元数据的磁盘做RAID1 namenode的本地目录可以配置成多个，且每个目录存放内容相同，增加了可靠性。 具体配置方案: hdfs-site.xml
望的唯一方式是把它直接和另一种类型的数据库如 RDBMS 比较，或者对它有特别的期待。这就像把桔子和叉子比较。数据库系统有它们的用途。最好是理解并领会这些差别。强迫 MongoDB 开发人员按照 RDBMS 的方式做事就太遗憾了，我希望继续看到解决旧问题的有趣的新方法，如确保数据完整性、使数据系统具有从故障和恶意破坏中恢复的能力。 在 4.0 版本中，MongoDB 引入了 ACID 事务处理，这是以创新方式引入重大改善的一个很好的例子。多文档、多语句事务现在是原子的了，它允许开发人员调整用于获取锁的时间，过期挂起事务以及修改隔离级别。 关于作者 Phil Factor（为保护作者隐去真名），又称数据库摩尔，他有将近四十年的数据库密集型应用程序经验。在 20 世纪 80 年代初的一次展览会上...阅读全文
了答案。 从单机到分布式，是追求更快和更高的性能，但也带来了更多的不确定性。比如，不确定计算机何时异常，不确定磁盘何时损坏，不确定网络通信的延迟，也不确定消息是否被正常消费。这些不确定性构成了分布式应用的挑战，简而言之： 异构的机器与网络：稳定性问题普遍的节点故障：可靠性问题不可靠的网络：一致性问题 面对这些挑战，业界提出了诸多的分布式理论、协议，如CAP定理，BASE理论，一致性协议2PC/3PC/ZAB，来保证系统的正常运行。虽然问题貌似是有了解决方案，但是应用的复杂度升高了。应用除了需要实现业务需求，还要兼顾非业务需求，集成诸如服务发现、负载均衡、失效转移、动态扩容、数据分片、调用链路监控等分布式系统的核心功能，对应用有很强的侵入性，这就是以Spring Cloud为代表的微服务框架的...阅读全文
生成在 3.0 和KIP-730 中，Kafka 控制器现在完全接管了生成 Kafka 生产者 ID 的责任。控制器在 ZK 和 KRaft 模式下都这样做。这让我们更接近桥接版本，这将允许用户从使用 ZK 的 Kafka 部署过渡到使用 KRaft 的新部署。KIP-679：Producer 将默认启用最强的交付保证从 3.0 开始，Kafka 生产者默认开启幂等性和所有副本的交付确认。这使得默认情况下记录交付保证更强。KIP-735：增加默认消费者会话超时Kafka Consumer 的配置属性的默认值session.timeout.ms从 10 秒增加到 45 秒。这将允许消费者在默认情况下更好地适应暂时的网络故障，并在消费者似乎只是暂时离开组时避免连续重新平衡。KIP-709：扩展...阅读全文
的权限，并可以参与社区投票（比如一年一次的选举等）。 一方面，DD 完全掌握自己的工作，可以做任何技术性和非技术性的决定，几乎不受任何限制。也就是说，Debian 社区里没有领导。 另一方面，这些拥有投票权的 DD 们，通过一般决议流程（General Resolution），成为了 Debian 群体中的权力主体。他们可以任命或者罢免 DPL；对于 DPL 或者代表的任何决定觉得不爽都可以推翻；可以用 3:1 的多数票修改 Debian 章程；还可以处置 Debian 的信托财产等等。 除此之外，为了保障所有的开发者声音都被尊重，Debian 章程还特立独行地将“None Of The Above”（以上都不是）设为默认选项。也就是说，当你觉得以上的选项你都不想投票，你可以另开一栏，写上你...阅读全文
内存限制，则该进程将终止，因此在所有情况下都可能不适合设置此值。如果容器超过 CPU 限制，则进程会受到限制。使用 Deployment、DaemonSet、ReplicaSet 或者 StatefulSet 跨节点部署 Pod永远不应该直接使用 Pod 运行。相反，为了提高容错性，Pod 应该始终作为 Deployment、DaemonSet、ReplicaSet 或 StatefulSet 的一部分。然后可以在部署中使用反亲和性规则跨节点部署 pod，以避免所有 pod 调度到同一个节点上运行，如果该节点发生故障可能会导致服务停止。使用多节点如果想提升容错性，在单个节点上运行 K8s 并不是一个好主意。集群中应该使用多个节点，以便可以在它们之间分散工作负载。使用基于角色的访问控制...阅读全文
动收集指标和跟踪信息可以快速回答常见问题，例如“我的服务对请求响应缓慢吗？”以及“请求失败的频率如何？”。 熔断 - 这种模式可以通过自动检测问题和快速失败来防止级联服务故障。也可以由长时间缓慢的请求来触发，以提供响应降级的服务而不是不断地超时。 缓存和批处理 - 通过使用缓存或批处理请求来加速请求。 大多数框架不会提供所有功能，但至少它们应该是可扩展的，以便在需要时添加。 什么是gRPC和协议缓冲区？ 没有一个框架是万能的。我们探索的一些选项包括Facebook的Thrift，Apache Hadoop的Avro，Twitter的Finagle，甚至使用JSON模式。 我们的需求更接近于远程程序调用（RPC），给予所需要的细粒度控制。使用RPC的另一个吸引力是使用接口描述语言或IDL...阅读全文
束的。上游的 Task 有可能先处理完任务提早退出了，但下游的 Task 却还在执行中。在同一个 stage 不同并发下，有可能因为数据量不一致导致部分任务提早完成了。这种情况下，在后续的执行作业中，如何进行 Checkpoint？ 在 1.14 中，JobManager 动态根据当前任务的执行情况，去明确 Checkpoint Barrier 是从哪里开始触发。同时在部分任务结束后，后续的 Checkpoint 只会保存仍在运行 Task 所对应的 stage，通过这种方式能够让任务执行完成后，还可以继续做 Checkpoint ，在有限流执行中提供更好的容错保障。 ■ Task 结束后的两阶段提交 我们在部分 Sink 使用上，例如下图的 Kafka Sink 上，涉及到 Task 需要...阅读全文
去。这是 Kubernetes 的第一道防线，第二道防线是云厂商针对节点高频异常场景设计的节点自愈组件，如阿里云的node repairer：发现问题节点后，执行排水驱逐、置换机器，从而做到自动化地保障业务正常运行。即便如此，节点在长期使用过程中不可避免地会产生各种奇奇怪怪的问题，定位起来比较费时耗力。常见问题分类和级别:针对这些繁杂的问题，总结出如下排查流程图：以一个 CPU 打满为例：1、节点状态 OK，CPU 使用率超过了 90%2、查看对应的 CPU 的三元组：使用率、TopN、时序图，首先每个核的使用率都很高，进而导致整体 CPU 使用高；接下来我们自然要知道谁在疯狂地使用 CPU，从 TopN 列表来看有个 Pod 一枝独秀地占用 CPU；最后我们得确认下 CPU 飙高是什...阅读全文
。即使用户空间的占用率提高一倍，其CPU占用率也仅为10%，这也解释了为何7层处理对性能影响有限这一现象。由此，在高端系统上HAProxy的7层性能可轻易超过硬件负载均衡设备。 在生产环境中，在7层处理上使用HAProxy作为昂贵的高端硬件负载均衡设备故障故障时的紧急解决方案也时长可见。硬件负载均衡设备在“报文”级别处理请求，这在支持跨报文请求(request across multiple packets)有着较高的难度，并且它们不缓冲任何数据，因此有着较长的响应时间。对应地，软件负载均衡设备使用TCP缓冲，可建立极长的请求，且有着较大的响应时间。 二，安装配置HAProxy 以下实验环境均为 Debian i686平台。 1，安装haproxy [root@LB ~]# apt-get...阅读全文
我们纠正那些古怪行为。如果你真的以为这么做会有效，你就只管这么做好了，我们不在乎。我们就喜欢现在这个样子，因我们会对那些所谓的「诊断」拥有正常的科学的健康的怀疑精神。 在下一节，我们会谈到另一个主题，当你犯错遭受到的指责该怎么办。 【本章注释】 20、阿斯伯格综合症，是一种泛自闭症障碍，其重要特征是社交困难，伴随着兴趣狭隘及重复特定行为，但相较于其他泛自闭症障碍，仍相对保有语言及认知发展。 不要像loser那样去行事 常在河边走，哪有不湿鞋。在黑客论坛混，总有有犯错的时候，你的错误会被别人长篇大论的公开地揭露，或许在言语之中还会透露着鄙视和得意。 事后你能做的最坏的事莫过于哀怨你的遭遇、四处哭喊着被人诽谤、要求道歉、竭斯底里的呼喊、忍隐不做声、威胁诉诸法律、向他公司投诉、忘了关马桶盖等等，但...阅读全文
），Follower（跟从者）以及Candidate（候选者）Leader：主节点的角色，主要是接收客户端请求，并向Follower同步日志，当日志同步到过半及以上节点之后，告诉follower进行提交日志。Follower：从节点的角色，接受并持久化Leader同步的日志，在Leader通知可以提交日志之后，进行提交保存的日志。Candidate：Leader选举过程中的临时角色。Raft协议当中的底层原理Raft协议当中会选举出Leader节点，Leader作为主节点，完全负责replicate log的管理。Leader负责接受所有客户端的请求，然后复制到Follower节点，如果leader故障，那么follower会重新选举leader，Raft协议的一致性，概括主要可以分为以下三个重要部分...阅读全文
