InfraPub 为您找到相关结果 769

在TKE上使用Kubecost进行成本管理

),内存 Mem 为1G,价格为20元/月。 通过使用 Kubecost,需要添加云厂商说明的每种的基础价格,例如 CPU、Mem 价格。或者按照业务需要置对应的比例,例如1C:1G 的价格比是3:1,CPU/Mem=3:1等。可以得知摊到每种(CPU/GPU/Mem/PV/Network)的计费。 具体计算公式如下: **sum (normalized_resource_price[i] × resource_quantity[i]) = node_price** 因此得到,整个 Node 的价格为20元/月,按照 CPU 15元/月、Mem 5元/月进行摊成本。 ### 评估成本效率 成本加权平均评估效率,由于每一种的成本权重不同(成本权重即为不同类型的,售卖的价格不同...阅读全文

AWS IAM 基本概念介绍

ComplianceIntegrated with many AWS servicesEventually ConsistentFree to use 基本概念 User 您可以在账户中创建与组织中的用户对应的各 IAM 用户,而不是与他人共享您的根账户凭证。IAM 用户不是单独的账户;它们是您账户中的用户。每个用户都可以有自己的密码以用于访问 AWS 管理控制台。您还可以为每个用户创建单独的访问密钥,以便用户可以发出编程请求以使用账户中的。 Group IAM中,组是 IAM 用户的集合。利用组,可为多个用户指定权限,以便更轻松地管理这些用户的权限。例如,您可能有一个名为 Admins 的组,并向该组授予管理员通常需要的权限类型。该组中的任何用户均自动具有给该组的权限。如果有新用户加入您的组织,并且需要管理员权限,则可...阅读全文

博文 2019-06-04 20:22:31 debian.cn

Facebook 开源的一组 Linux 内核组件与工具

题。 Cgroup2:https://facebookmicrosites.github.io/cgroup2/ Cgroup2 是下一代 Linux 内核机制,用于组和构造工作负载,以及控制给每个组的系统量。它具有内存、I/O、中央处理单元等控制器,它还允许隔离工作负载,并为每个工作负载确定的优先级和置。 PSI:https://facebookmicrosites.github.io/psi/ PSI(Pressure Stall Information,压力失速信息)首次提供了一种规范,通过内存、CPU 和 I/O 这三种主要的新压力指标来量化短缺。这些压力指标与此次开的其它内核和用户空间工具相结合,可以在智能开发和响应时检测短缺。PSI 统计数据为即...阅读全文

博文 2018-11-24 09:27:14 debian.cn

Kubernetes 使用 PodPreset 注入信息到 Pods_哎_小羊的博客

文章目录 1、PodPreset 介绍2、环境、软件准备3、K8s 启用 PodPreset 置4、PodPreset 注入信息示例4.1、匹指定 Pod 加载置4.2、匹某个 Namespace 下所有 Pod 加载置 1、PodPreset 介绍 PodPreset 是一种 K8s API ,用于在创建 Pod 时注入其他运行时需要的信息,这些信息包括 secrets、volume mounts、environment variables 等,我们可以使用标签选择器来指定某个或某些 Pod,来将 PodPreset 预设信息应用上去。使用 PodPreset 的好处就是我们可以将一些常用 Pod 预设信息置为模板,这样就不需要显式为每个 Pod 提供所有信息,简化...阅读全文

博文 2021-01-27 18:47:00 CSDN博客

开源堡垒机 Jumpserver 1.4.7 发布

堡垒机 Jumpserver v1.4.7 已发布 , 修改了置文件的格式,使用yaml方式置。本版本主要更新的内容如下: 支持 radius 认证统一生成 coco 的 host key,这样部署多个 coco 也不需要再复制 Host key权限列表增加详细过滤更改置文件类型为 yml 格式修改心跳方式优化任务执行的日志记录方式修复节点右击测试连接产为节点下所有产,而不是直接产sftp 支持修改 home 目录, 支持不显示隐藏文件修复 luna 隐藏侧边栏的 bugluna 支持直接登录到某个产 更新说明 Jumpserver 是全球首款完全开的堡垒机,使用 GNU GPL v2.0 开协议,是符合 4A 的专业运维审计系统。Jumpserver 使用...阅读全文

博文 2019-02-02 10:36:34 debian.cn

Kubernetes 1.14 发布,31 项功能增强

。Kubernetes 管理员的一个问题是在 Linux 主机上进程 ID(PID)。以往没有什么可以阻止容器内的进程创建 PID。如果 PID 的系统耗尽,即使其它不受约束,也可能导致主机不稳定。管理员现在可以为每个 pod 的 PID 数设置默认值,并在 pod 中为每个节点保留多个可的 PID。 Pod 优先级和抢占支持 现在可以为 pod 优先级,以便 Kubernetes 控制器可以在集群不足时做出更好的决策。可以删除不太重要的 pod,为更重要的 pod 创建空间。 Discovery API 从 RBAC 基础架构中删除 默认情况下,有一组 API 允许未经身份验证的访问。在 v1.14 中,已从该​​集中删除了 Discovery API,以提高隐私和安全性...阅读全文

kubectl 创建 Pod 背后到底发生了什么?—探寻 Kubectl 创建 Pod 的原理

记录的更改)。在我们的例子中,控制器通过一个 Informer 注册一个创建事件的特定回调函数(更多信息参加下文)。 当 Deployment 第一次对外可见时,该 Controller 就会将该对象添加到内部工作队列,然后开始处理这个对象: 通过使用标签选择器查询 kube-apiserver 来检查该 Deployment 是否有与其关联的 ReplicaSet 或 Pod 记录。 有趣的是,这个同步过程是状态不可知的,它核对新记录与核对已经存在的记录采用的是相同的方式。 在意识到没有与其关联的 ReplicaSet 或 Pod 记录后,Deployment Controller 就会开始执行弹性伸缩流程: 创建 ReplicaSet ,为其一个标签选择器并将其版本号设置...阅读全文

博文 2022-04-18 16:18:04 CSDN

译:Kubernetes 最佳实践

览我之前翻译的Kubernetes 的自动伸缩你用对了吗?;HPA 除了可以基于 CPU 指标伸缩,还可以基于内存,或者自定义指标,可以浏览Kubernetes HPA 基于 Prometheus 自定义指标的可控弹性伸缩。使用请求和约束应设置请求和约束(可在容器中使用的最小和最大量)以避免容器在未所需的情况下启动,或集群用尽可用。在没有限制的情况下,Pod 可以使用比所需更多的,从而导致可用总量减少,这可能会导致集群上的其他应用程序出现问题。节点可能会崩溃,并且调度程序可能无法正确调度新的 pod。如果没有请求,无法为应用程序足够的,它可能会在尝试启动或执行异常时失败。请求和限制以毫核和兆字节为单位定义可用的 CPU 和内存。请注意,如果进程超出...阅读全文

博文 2022-09-13 19:32:21 atbug.com

Terraform 学习总结 — Terraform 简介

Infrastructure as Code", 基础架构即代码。Terraform 几乎可以支持所有市面上能见到的云服务。具体的说就是可以用代码来管理维护 IT ,把之前需要手动操作的一部任务通过程序来自动化的完成,这样的做的结果非常明显:高效、不易出错。 Terraform 提供了对和提供者的灵活抽象。该模型允许表示从物理硬件、虚拟机和容器到电子邮件和 DNS 提供者的所有内容。由于这种灵活性,Terraform 可以用来解决许多不同的问题。这意味着有许多现有的工具与Terraform 的功能重叠。但是需要注意的是,Terraform 与其他系统并不相互排斥。它可以用于管理小到单个应用程序或达到整个数据中心的不同对象。 Terraform 使用置文件描述管理的组件(小到单个应用程序,达到整个数据中心...阅读全文

Docker 核心原理

用,容器之间相互隔离,并且能按需。大大提高了运维效率和利用率 架构 Docker使用了 C/S 体系架构,Docker 客户端与 Docker 守护进程通信,Docker 守护进程负责构建,运行和发 Docker 容器。Docker 客户端和守护进程可以在同一个系统上运行,也可以将Docker客户端连接到远程Docker守护进程。 我们日常在命令行的操作 docker build, docker push, docker pull, docke build 等等操作都是客户端通过 rest api 请求与 Docker 守护进程交互。 实现原理 下面我们就介绍一下 Docker 在实现隔离,控制,文件系统等关键部所采用的的技术 Namespace Linux manaul...阅读全文

博文 2021-02-25 09:14:23 lxkaka

开源图数据库 Dgraph 完成 300 万融资

据 Dgraph Labs 创始人 Manish Rai Jain 在其宣布 1.0.0 版本正式发布 的 文章 中透漏,他们已完成了由贝恩本投公司的 Salil Deshpande 领头的 300 万融。凭借早期在基础设施软件和开软件方面的经验,Salil 将加入 Dgraph 董事会。Jain 表示,这一轮融正好是我们扩大云服务的时机,并继续建立世界上最先进的图数据库。 Dgraph 是一个可扩展的,布式的,低延迟的图数据库,于 2015 年开,最初是出于希望消除传统关系型数据库的典型弱点而创建的。为了解决组织在数据库增长超过单个服务器时面临的一些问题,Dgraph 以更有效的方式割数据,这使查询可以在没有通用视图的情况下执行。它还减少了网络调用和磁盘查询需要执行查询的...阅读全文

Kubernetes常用命令大全(持续更新)

kubernetes,简称K8s,是知名的开容器编排与调度平台,它的目标是让容器化部署、简单且高效。K8s是绝对主流且流行的容器管理平台,据说在合肥运维同学不会k8s是找不到工作的。本文我们将列举常用的kubernetes命令,后续会完善内容并提升易读性。 想起十几年前,我曾在Linux伊甸园的论坛,整理过一份rpm常用命令的列表,不知有多少朋友看过? 查看所有namespace的pods运行情况 kubectl get pods --all-namespaces 查看具体pods,记得后边跟namespace名字哦 kubectl get pods kubernetes-dashboard-76479d66bb-nj8wr --namespace=kube-system 查看...阅读全文

博文 2020-03-13 12:35:13 debian.cn

Go1.16 新特性:一文快速上手 Go embed

在以前,很多从其他语言转过来 Go 语言的同学会问到,或是踩到一个坑。就是以为 Go 语言所打包的二进制文件中会包含置文件的联同编译和打包。 结果往往一把二进制文件挪来挪去,就无法把应用程序运行起来了。因为无法读取到静态文件的。 无法将静态编译打包进二进制文件的话,通常会有两种解决方法: 第一种是识别这类静态,是否需要跟着程序走。第二种就是考虑将其打包进二进制文件中。 第二种情况的话,Go 以前是不支持的,大家就会去借助各种花式的开库,例如:go-bindata/go-bindata 来实现。 但从在 Go1.16 起,Go 语言自身正式支持了该项特性,今天我们将通过这篇文章快速了解和学习这项特性。 基本使用 演示代码: import _ "embed...阅读全文

博文 2021-02-17 08:44:12 CSDN

Kubernetes 部署 Nacos 1.4 集群 · 小豆丁

等可视化工具进行快捷导入。 四、部署 Nacos 这里我们部署 Nacos 集群模式,整体如下示意图,会在 Kubernetes 中创建一个 Service,该 Service 关联 Nacos 中的多个 Pod,一个 Pod 就是 Nacos 节点,Pod 之间通过该 Service 进行交互。最后我们会置一个 NodePort 方式对外访问。当然,你如果你的 Kubernetes 集群已经部署了 Ingress Controller 则可以创建 Ingress 规则对外提供访问。 ](https://imgchr.com/i/sH7vBF) 1、创建 RBAC nacos-rbac.yaml apiVersion: v1 kind: ServiceAccount metadata...阅读全文

博文 2021-02-24 10:10:29 www.mydlq.club

Kubernetes调度算法浅析

在真正的生产环境中,如何合理的服务器、提高利用率、让整个集群运行的更加稳定使得 k8s-scheduler 这个角色在集群中的地位愈发重要。 kube-scheduler的预选(过滤)和精选(打) api-server会将创建pod的请求发送给kube-scheduler,并且将pod信息记录在etcd数据库中。之后kube-scheduler会根据预选(过滤)规则,首先过滤掉一部node节点中的pod,没有被过滤掉的pod可以看做是可以被调度的pod,之后再通过更加严格的规则给剩下的pod打,这一步也叫作优选。打最高的pod可以看做被优先到pod任务。 调度流程简介 创建pod的命令被api-server的api接口接收到。api-server将pod信息存储在...阅读全文

博文 2020-12-20 11:01:10 debian.cn

Linux 内核组织将关闭 FTP 服务

他们决定停止 FTP 方式的下载了。 最初,早在 1998 年的时候, Linux 内核组织就提供了以 FTP 服务为基础的内核代码获取方式,除了可以直接通过 FTP 进行下载以外,还可以通过 HTTP 协议封装来访问 FTP ,甚至,还允许通过 NFS 和 SMB/CIFS 来将他们的 FTP 挂载为本地区。 不过,不久之后,他们发现提供一个公开的 NFS/CIFS 服务器看起来并不是一个好主意,不仅仅是因为这两种服务在慢速网络时表现很糟糕,而且它们本身也存在严重的安全隐患。因此于当年年底时停止了对 NFS 和 SMB/CIFS 的支持。 而现在,基于如下考虑: FTP 服务需要在防火墙和负载均衡设备上做额外的置和调整 FTP 服务器不支持缓存和加速器,这严重影响了性能 大多数...阅读全文

博文 2021-01-28 17:50:20 debian.cn

Kubernetes 1.16.0发布 新版本四大主题

广泛使用一个全局 metrics registry 来注册要公开的 metrics。通过实现 metrics registry,metrics 可以以更透明的方式注册。而在这之前,Kubernetes metrics 被排除在任何稳定性需求之外Volume Extension:新版本有大量和 Volume 及 Volume 修改相关的增强。CSI 规范中对 Volume 调整的支持正在转向 Beta 版,它允许任何 CSI spec Volume plugin 都可以调整大小 其他值得注意的功能更新: 拓扑管理器是一个新的 Kubelet 组件,旨在协调决策,以提供优化的IPv4/IPv6 双栈允许将 IPv4 和 IPv6 地址给 Pods 和服务API Server...阅读全文

博文 2019-09-20 13:28:32 debian.cn

AWS EKS 添加IAM用户角色 - SRE运维博客

IAM 用户或角色的 Amazon 名称 (ARN)。例如: { "UserId": "XXXXXXXXXXXXXXXXXXXXX", "Account": "XXXXXXXXXXXX", "Arn": "arn:aws:iam::XXXXXXXXXXXX:user/testuser" } 确认 ARN 与具有主要集群置访问权限的集群创建者或管理员相匹。如果 ARN 与集群创建者或管理员不匹,请联系集群创建者 aws-auth ConfigMap。 添加对 EKS 集群具有只读访问权限的 IAM 用户 {{< notice info "注意:" >}} 要允许超级用户访问权限以对任何执行任何操作,请添加 system:masters 而非 system:bootstrappers...阅读全文

博文 2022-12-19 21:15:27 博客园

Kubernetes 1.18 发布

Kubernetes 1.18 发布了,这是 2020 年首次版本发布。此版本包含 38 项功能增强,其中 15 项为稳定版功能、11 项 beta 功能以及 12 项 alpha 版功能。 主要更新亮点包括: Kubernetes 拓扑管理器 beta 拓扑管理器的作用是让 CPU 与其它设备(例如 SR-IOV-VF)实现 NUMA 对齐,进而让工作负载运行在优化环境中以降低延迟。在拓扑管理器推出之前,CPU 与设备管理器只能彼此独立地做出决策。此版本拓扑管理器已经发展到 beta 版本。 Serverside Apply beta 2 beta 2 版本将跟踪并管理所有新 Kubernetes 对象的字段变更,确保用户及时了解哪些在何时进行过更改。 使用...阅读全文

博文 2020-03-27 18:28:34 debian.cn

Kubernetes v1.21 新特性预览

Kubernetes 集群(Identity Provider,标识提供者)与外部系统(relying parties, 依赖方)所发的服务账号令牌。CRIContainerLogRotation 进入稳定版本,kubelet 将会自动为 containerd 等 CRI 容器运行时轮换日志。结构化日志(Structured Logging)进入 Beta,很多组件的日志都改成以 JSON 格式记录,这样第三方日志处理系统就可以方便地从日志中解析出日志所对应的对象和属性。EfficientWatchResumption 进入 Beta,kube-apiserver 重启后 watch 缓存将更高效的恢复,更好的支持大规模集群。CSIServiceAccountToken 进入 Beta,使得 CSI...阅读全文

博文 2021-03-30 20:24:36 mp.weixin.qq.com

ISTIO 1.1 正式版今日发布

global.outboundTrafficPolicy.mode 参数,用于定制 Egress 通信的缺省行为,目前的缺省值为 ALLOW_ANY,即允许全部 Egress 通信。 新增 Sidecar 目前版本中,Sidecar 会包含整个网格内的服务信息,在 1.1 中,新建了 Sidecar ,通过对这一 CRD 的置,不但能够限制 Sidecar 的相关服务的数量,从而降低占用,提高传播效率;还能方便的对 Sidecar 的代理行为做出更多的精细控制——例如对 Ingress 场景中的被代理端点的置能力。 ExportTo 多个路由管理对象加入了这一字段,用于指定该的生效范围。 路由的区域感知能力 新增了对 AZ/Region 等的区域感知能力,降低跨区请求造成的性能损耗。 对 TCP 服务提供鉴权支持 在既有的 HTTP...阅读全文

博文 2019-03-20 12:55:59 debian.cn

Element 1.4.2 发布,饿了么 Vue 2.0 组件库

Element 1.4.2 已发布,Element 是饿了么开的一套为开发者、设计师和产品经理准备的基于 Vue 2.0 的组件库,提供了套设计,帮助你的网站快速成型。 本次更新内容如下: 修复绑定值为对象类型时,初始值为 null 的 Select 会选中 value 为 0 的问题,#6143 修复 status 为 error 的 Step 样式问题,#6155 @wacky6 修复当 Cascader 的 expand-trigger 为 hover 时,点击选择条目后快速移动会再次选到父级元素的问题,#6199 修复 Menu 在 collaspse 时不能收起子级菜单的问题,#6200 修复 Switch 内部的原生 input 状态与组件不同步的问题,#6205...阅读全文

博文 2017-08-10 12:27:49 debian.cn

influxdb内存消耗分析及性能优化【探索篇】

influxdb在内存中引入了大量文件,在内存充足时,会占用较多的空间,用于提高程序读取性能。5.SMP与NUMA?cpu硬件体系架构可以为:SMP(Symmetric Multi-Processor)/UMA(Uniform Memory Access)模式SMP架构,所有的CPU争用一个总线来访问所有内存,优点是共享,而缺点是总线争用激烈。 实验证明,SMP服务器CPU利用率最好的情况是2至4个CPUNUMA(Non-Uniform Memory Access)模式NUMA架构引入了node和distance的概念。对于CPU和内存这两种最宝贵的硬件, NUMA用近乎严格的方式划了所属的组(node),而每个组内的CPU和内存是几乎相等。在influxdb服务器上,查看当前cpu及...阅读全文

博文 2021-10-27 16:06:30 知乎

一位资深Java架构师的晋级心得

计原理,Spring事务处理机制,SpringMVC,Spring析Mybatis:Mybatis体系结构,Mybatis核心应用与置,Mybatis关联查询,与Spring集成,Mybatis析 2. 工程化工具 Maven项目工具:Maven命令使用,Maven的pom置体系,插件机制及插件开发,Nexus使用,上传,置Git布式版本控制:Git安装和理解仓库,工作常用命令,支和Tag管理,代码冲突解决方案,Github开社区,Git企业应用,与IDE集成Sonar代码检测:Sonar环境搭建和使用,使用Sonar进行代码质量管理,与IDE集成使用Jenkins:搭建Jenkins自动化部署环境,集成git/maven/sonar工具,插件机制 3. 微服务架构...阅读全文

博文 2019-01-13 22:49:22 debian.cn

细数k8s支持的4种类型的container - 侃豺小哥

截止目前k8s1.18,k8s已经支持标准容器,sidecar容器,init 容器,ephemeral 容器 4种类型的containers。本文我们详细介绍一下这4种容器的特性已经使用场景。 Ephemeral 容器 临时容器与其他容器的不同之处在于,它们缺少对或执行的保证,并且永远不会自动重启,因此不适用于构建应用程序。临时容器使用与常规容器相同的 ContainerSpec 段进行描述,但许多字段是不相容且不允许的。 临时容器没有端口置,因此像 ports,livenessProbe,readinessProbe 这样的字段是不允许的。 Pod 是不可变的,因此 resources 置是不允许的。 有关允许字段的完整列表,请参见临时容器参考文档。 临时容器是使用...阅读全文

博文 2021-08-20 11:45:32 博客园

2018 GitHub 最火技术趋势

GitHub的高级技术副总裁Jason Warner在2018的技术趋势中挑出了数据、工作流集成(workflow integration)以及开工具,他认为这些是一个公司在2018年能够取得成功的关键。 Warner写道,数据将成为2018年全球增长的最重要因素: 现如今,所有的公司都是数据公司,不论他们是否意识到这个情况。在2018年,只要团队知道如何使用数据,数据就会成为他们最大的产。 数据的重要性日益增长,也标志着云服务平台从布式云计算平台转型成为数据处理的云平台,其中还包括数据析和机器学习。这将重点反映到三个关键领域: Warner说,许多重要的系统目前都很脆弱,尽管它们的规模越来越大。为了应对在2018年变得更加频繁的攻击,将会有更多的财力和开发到改进安全性上...阅读全文

博文 2017-12-14 22:50:29 debian.cn

ChaosMesh 的基本功能有哪些

Chaos Mesh 的基本功能,包括故障注入、混沌实验场景、可视化操作、安全保障。故障注入​故障注入是混沌实验的核心。Chaos Mesh 充考虑布式系统可能出现的故障,提供全面、细粒度的故障类型,为基础类型故障、平台类型故障和应用层故障三大类。基础类型故障:PodChaos:模拟 Pod 故障,例如 Pod 节点重启、Pod 持续不可用,以及特定 Pod 中的某些容器故障。NetworkChaos:模拟网络故障,例如网络延迟、网络丢包、包乱序、各类网络区。DNSChaos:模拟 DNS 故障,例如 DNS 域名解析失败、返回错误 IP 地址。HTTPChaos:模拟 HTTP 通信故障,例如 HTTP 通信延迟。StressChaos:模拟 CPU 抢占或内存抢占场景...阅读全文

HTTP状态码详解

这个状态码被广泛应用于当服务器不想揭示到底为何请求被拒绝或者没有其他适合的响应可用的情况下。 405 请求行中指定的请求方法不能被用于请求相应的。该响应必须返回一个Allow 头信息用以表示出当前能够接受的请求方法的列表。 鉴于 PUT,DELETE 方法会对服务器上的进行写操作,因而绝大部的网页服务器都不支持或者在默认置下不允许上述请求方法,对于此类请求均会返回405错误。 406 请求的的内容特性无法满足请求头中的条件,因而无法生成响应实体。 除非这是一个 HEAD 请求,否则该响应就应当返回一个包含可以让用户或者浏览器从中选择最合适的实体特性以及地址列表的实体。实体的格式由 Content-Type 头中定义的媒体类型决定。浏览器可以根据格式及自身能力自行作出最佳选...阅读全文

博文 2021-01-28 17:50:11 debian.cn

UCloud 叶理灯 谈:Docker、K8S 和 Serverless

减轻用户迁移到 K8S 的负担。 目前 UK8S 插件还属于正在整理开的阶段,还没有正式的发布,但我们已经小范围的开放了代码,把我们的插件代码发给到很多用户,但公开的开,我们希望做的更加规范一点再进行,因为我们的插件还在不断的迭代中,有一天我们觉得达到一定程度的稳定了,我们就会进行公开开。 记者:你认为未来 K8S 以及容器的技术方向上比较值得重点关注的技术点是什么? 叶理灯:虚拟化容器。未来的方向我们相信是 Serverless,这个也是云计算应该做的,持续地为了用户提高效率和降低成本。刚才我也说了,现在用户使用 K8S 还是有管理的负担的,不是完全的面向应用来运维,所以需要解决这个问题,让计算节点对用户透明。用户通过 Docker 镜像和置文件就可以把一个应用跑起来,而不用...阅读全文

博文 2019-06-14 08:28:49 debian.cn

Apache Flink 1.14 新特性预览 - OSCHINA

时间来看,整个任务初始化,调度以及部署的阶段,大概能够减少钟级的时间消耗。 2. 细粒度管理 细粒度管理在过去很多的版本都一直在做,在 Flink1.14 终于可以把这一部 API 开放出来在 DataSteam 提供给用户使用了。用户可以在 DataStream 中自定义 SlotSharingGroup 的划情况,如下图所示的方式去定义 Slot 的,实现了支持 DataStream API,自定义 SSG 划方式以及置 TaskManager 动态扣减。 对于每一个 Slot 可以通过比较细粒度的置,我们在 Runtime 上会自动根据用户置进行动态的切割。 这样做的好处是不会像之前那样有固定的 Slot,而是做的动态扣减,通过这样...阅读全文

博文 2021-09-05 07:26:58 中文开源技术交流社区

Linux系统诊断-内存基础

-cachedfree: 未使用的内存 memFree & swapFree in /proc/meminfoshared: tmpfs使用的内存 shmem in /proc/meminfobuffers:被内核缓冲去使用的内存cached: 被页缓存和slabs使用的内存buffers/cache: 表示buffers和cache的总和swap: 交换区的使用量2.3 buffer和cache会使用内存吗?答案是肯定的,先来了解下buffer和cache。cache(缓存)官方定义是用来弥补高速设备和低速设备之间的访问速度不匹而预留的一段空间,用来加快的访问。 简单讲就是读的更快。buffer(缓冲)是为了做写入整形,计算机遇到大量的“小规模IO”时,会将其整形为少量的“大规模IO”,降低写入次...阅读全文

博文 2021-02-11 14:22:42 SegmentFault 思否

Kubernetes源码探疑:Pod IP泄露排查及解决方法

IP,这是造成IP泄露的直接原因,如下图所示。 问题转移到kubelet, 为什么kubelet会传入一个空的CNI_NETNS环境变量参数给CNI插件? 随后跟踪kubelet的运行日志,发现不少Job Pod创建和销毁的时候,生成了一个额外的Sandbox容器。Sandbox容器是k8s pod中的Infra容器,它是Pod中第一个创建出来的容器,用于创建Pod的网络名称空间和初始化Pod网络,例如调用CNIPod IP,下发策略路由等。它执行一个名为pause的进程,这个进程绝大部时间处于Sleep状态,对系统消耗极低。奇怪的是,当任务容器busybox运行结束后,kubelet为Pod又创建了一个新的Sandbox容器,创建过程中自然又进行了一次CNI ADD调用,再次申请了...阅读全文

EC2关机后 AWS还会计费吗

AWS 在 EC2 关机后,不会再对计算计费;其他 比如EBS、Elastic IP 这些还会产生费用。如果你使用了预留实例,还需要考虑预留实例对计费方式的影响,会按照预留实例的计费标准计费。 这种灵活的计费方式,是 AWS EC2 默认就支持的,相比之下,国内绝大多数云主机厂商是不支持的。在开机、关机时(即主机状态发送转变时),AWS 会收取最少一钟的计费费用。 如果你关机过程用了20秒,AWS会按照一钟来收费;如果你关机过程用时 130秒,则AWS会按照130秒收取费用。很良心吧,很灵活吧。 AWS的文档还是要多看的,计费方式和九年前的AWS变化很大。最新版的文档可以从这里下载: https://docs.aws.amazon.com/AWSEC2/latest...阅读全文

博文 2019-02-27 17:02:32 debian.cn

谷歌公开了内部管理Infra层的两个工具的Paper

问题域是类似的,但是Kubernetes的目标和限制条件和Prodspec,Annealing是不同的。因此,它们的优先级和解决方案是不同的。这是共同进化的一个实例,很明显很多项目的基本理念都是类似的——至少表面上看是这样。比如,Kubernetes CRD和Prodspec的asset解决的问题类似。Prodspec创建asset时有严格的参数要求,而Kubernetes就更为灵活,允许的部mutation。 Terraform是使用声明化置语言定义并且提供数据中心基础架构的开工具。在2014年推出首个版本,时间线和Kubernetes,Annealing类似。Annealing和Terraform之间有很多相似之处,虽然它们是完全独立开发的。比如,Terraform提供者类似于...阅读全文

博文 2023-01-08 11:23:20 CSDN博客

最全的 DevOps 工具集合

目的是建立一个可扩展且高效的系统,以支持当前和将来的各种框架。这也是主要问题所在:Hadoop 和 MPI 之类的框架都是独立开发的,因此无法在各个框架之间进行细粒度的共享。 Mesos 的对策是添加一个共享薄层,为框架提供访问集群的公共接口。Mesos 正在将对调度的控制权委派给框架,因为许多框架已经实现了复杂的调度机制。 根据要在集群上运行的作业类型可以将框架为四类,其中一些具有 Marathon 之类的原生 Docker 支持。Mesos 0.20.0 中添加了对 Docker 容器的支持。 我们将重点介绍 Mesos 与 Marathon 的搭用法,因为后者是 Mesosphere 积极维护的框架,在调度方面提供了许多功能,如约束、运行状况检查、服务发现和负载平衡等。 使...阅读全文

博文 2021-05-26 14:35:21 博客园

Debian上安装配置Docker容器管理平台Rancher

Rancher是一个开项目为Docker容器环境提供了较完善的管理平台。Rancher 允许我们在大规模生产环境中使用 Docker。 Rancher 提供模块化基础架构服务,如多主机网络、全局和本地负载平衡、监控、恢复和卷快照等。本文我们将介绍如何在Debian 9 Stretch 上安装置 Rancher。 安装要求 运行Debian 9的服务器。 具有sudo权限的非root用户。 开始 在开始之前,建议将您的APT存储库更新为最新版本。 您可以使用以下命令执行此操作。 sudo apt-get update -y sudo apt-get upgrade -y 接下来,可以重新启动系统以应用所有更改。然后使用以下命令安装所需的软件包: sudo apt-get install...阅读全文

博文 2018-04-10 22:27:37 debian.cn

亚马逊12个月免费云服务

买单。用户只需要为实际使用的付费,这也是用户选择云主机可以大幅降低成本的一个主要因素。7.用户可以选择安装操作系统吗?当然可以。云主机与传统物理服务器在产品使用上没有明显区别,用户可以根据自己的需求灵活选择或更换操作系统。8.如果你想购买这项服务需要多长时间?扩张需要多长时间?注册用户->在线支付->购买云服务器,实时打开。打开后,登录用户管理区→云服务器管理→管理→预装操作系统。可以选择Windows 2008、Windows 2012、Cent OS 6.5等操作系统。系统安装需要10~25钟。系统安装完成后,您可以通过远程连接执行其他应用程序操作。9.租用云服务器需要交押金吗?与传统的物理服务器租赁不同,云服务器租赁用户无需支付押金即可享受服务。10.如何查看租用主机的置?由于...阅读全文

基于Inception & Yearning做SQL审核的实践

SQL审核是保证数据库 DDL 和 DML 安全使用、SQL变更可追溯、降低线上数据事故概率的重要手段。去哪儿网开的 Inception 工具有较大的使用基础,提供了相对完善的 API 接口,结合一些外层的操作界面,可以实现SQL审核、执行、备份和恢复功能,为DBA操作利器。本文详细介绍如何置 Inception 和 Yearning 的整合。 Inception Inception是一个自动化运维工具,在Mysql前做一个审核和操作的屏障。跟Inception的交互是程序级别的,即通过Python或其他程序编程实现对Inception的命令调用,并解析结果。 Inception的文档地址:http://mysql-inception.github.io/inception...阅读全文

博文 2018-08-13 17:39:45 debian.cn

Debian 10使用 Wine 安装配置微信、QQ与TIM

Debian10安装wine及用wine安装微信、QQ与TIM 作者:幻影剑客 概览 本文适用于Linux发行版Debian 10,主要参考winehq官方文档Debian部,Debian wiki的wine,还有其他网上文章。总结起来,就是Debian 10的情况,要先安装faudio依赖,再安装wine官方版。安装完后要做启动置、字体置、输入框置。如果想要更多功能还得做更多置,这里没介绍了。 注意wine的每个版本甚至在不同发行版的安装都有差别,需要先看winehq官方介绍、你的Linux发行版关于wine的wiki,然后是网上其他料。下面部是正式安装介绍。 搞定FAudio部依赖 winehq的Debian安装页面指出,要先安装依赖FAudio,见 官方链接。这是因为...阅读全文

协议介绍之深入了解 gRPC

streams 在上面发送 frame,那么在一些场景下面,我们还是希望 stream 有优先级,方便对端为不同的请求不同的。譬如对于一个 Web 站点来说,优先加载重要的,而对于一些不那么重要的图片啥的,则使用低的优先级。 我们还可以设置 Stream Dependencies,形成一棵 streams priority tree。假设 Stream A 是 parent,Stream B 和 C 都是它的孩子,B 的 weight 是 4,C 的 weight 是 12,假设现在 A 能到所有的,那么后面 B 能到的只有 C 的 1/3。 Flow Control HTTP/2 也支持流控,如果 sender 端发送数据太快,receiver 端可能因为太忙,或者压力太大...阅读全文

博文 2017-06-22 11:08:48 debian.cn

百度运维工程师挖矿实录:四个月用155台服务器挖矿赚10万判3年

,从而获取虚拟货币的一种程序,需要较高的硬件置及用电量。 而单凭一个矿工的力量是挖不到比特币的。于是“安某”便想到可以利用自己的职务之便利用百度的服务器来开启自己的发家致富之路,只是他可能没想到的是事情会败露的这么快。 那么,他具体是怎么做的呢? 首先,他用自己的工作账户上传了一个压缩文件 miner.tar.gz ,其中包含一个名为 java_4u3 的脚本, 而这个脚本可以自动执行解压缩、创建目录、删除目录、自动连接代理进行网络交换,达到控制服务器的目的。 然后,编译了一个挖矿程序,并将上述程序部署非法控制了百度的 155 台服务器上,利用公司为其备的苹果电脑上的 iterm 软件控制所有服务器的中控机,通过中控机上传挖矿脚本,并通过 iterm 软件发出批量下载指令,让 200...阅读全文

博文 2020-03-17 20:42:41 debian.cn

Linux 5.2.1 发布 最新的稳定版内核

在 Linux 5.2 发布一周后,第一个修订版本 5.2.1 也已经发布了,用来处理各种错误/回归。需要注意的是5.2并非长期支持(LTS)支,推荐注重稳定的用户还是使用当前的LTS内核。 5.2.1版只是修改一些小小的问题,主要有以下方面: 修复 Perf减少 RTL 8712 驱动程序的堆栈使用fscrapt 将不再为 dead 目录设置策略还有一个新的文档部,详细说明了 Spectre 的 CPU 漏洞 完整列表查看发布说明。 Linux Kernel 5.2的亮点包括Sound Open Firmware,这是一个支持DSP音频设备的开固件。此外还新增了用于挂载文件系统的新挂载API,面向ARM Mail设备的全新开GPU驱动,在EXT4文件系统中支持不区大小写,以及对...阅读全文

博文 2019-07-15 10:24:57 debian.cn

Spinnaker 介绍 – Netflix 的持续交付平台

Connect 项目,这个项目的边缘设备是地地道道的物理设备,并且从硬件到软件全部是自己定制的。关于 Open Connect 的详细介绍,以及使用的技术栈可以看 Netflix 的享,还有他们如何做 CDN 监控的。 主要功能 回到 Spinnaker,他主要管理 Netflix 的云服务,并不管理 OpenConnect 相关的设备和服务。Spinnaker 是基于云的 CD 平台,提供快速、可靠、稳定的软件变更服务。主要包含两类功能:集群管理(Cluster management)和部署管理(deployment management)。 1. 集群管理 集群管理主要用于管理云,Spinnaker 所说的“云”可以理解成 AWS,即主要是 IaaS 的,比如 OpenStack...阅读全文

博文 2018-12-21 19:30:47 debian.cn

什么是线程安全,以及并发需要知道的几个概念

,因为一个CPU一次只能执行一条指令,这种情况就是并发,系统看似能处理多任务是因为不停的切换任务,但因为时间非常短,所以在我们的感官来说就是同时进行的。而计算机系统真实的并行是随着多核CPU的出现才有的。 临界区临界区表示公共或是共享数据,可以被多个线程使用。但是每次只能有一个线程使用它,一旦临界区的被占用,其他线程就必须等到释放后才能继续使用该。在Java程序开发中,对于这样的一般都需要做同步的操作,例如下面的这段代码,用的就是synchronized关键字来对临界区进行同步。 public class SyncTest implements Runnable { //临界区 public static SyncTest instance = new...阅读全文

博文 2018-12-31 20:44:06 debian.cn

企业制定开源战略的免费指南

的战略文件战略方法关键考虑因素其他组成确定投回报率投目标 这里关键的第一步是创建和将你的开策略形成文字,该策略将“帮助你最大限度地提高组织从开中获得的利益。”同时,你详细的策略可以帮助你避免因错误而导致的困难,例如:选择错误的许可证或不正确地维护代码。根据指南,该文件还可以: 让领导者感到兴奋并参与帮助在公司内获得支持促进散的多部门组织的决策帮助建立一个健康的社区解释贵公司的开方式和对其使用的支持明确贵公司在社区驱动的外部研发中投的地方,以及贵公司将重点放在增值差异化的地方 Salesforce 的软件架构师兼本指南的撰稿人 Ian Varley 说:“在 Salesforce 内,我们有内部文件,我们将这些围绕开战略指导和鼓励的文件发给我们的工程团队。其中鼓励创建和使用开...阅读全文

博文 2018-12-17 13:05:32 debian.cn

在 Kubernetes 上扩展 TensorFlow 模型

](https://www.kubeflow.org/docs/components/training/tftraining/),可以轻松创建上面提到的 TensorFlow 布式策略。TFJob 可以识别容器化的 TensorFlow 代码中定义的布式策略,并可以使用一组内置组件和控制逻辑对其进行管理。使得在 Kubeflow 中实现 TensorFlow 的布式训练成为可能的组件包括: - Chief:组织布式训练并执行模型检查点。 - Parameter Server:协调异步布式训练和计算梯度。 - worker:执行学习任务。 - Evaluator:计算和记录评估指标。 上述组件可以在 TFJob 中置,TFJob 是一个用于 TensorFlow 训练的 Kubeflow...阅读全文

Kubernetes 1.9发布:Apps Workloads通用版本与生态系统扩展

,Kubernetes就已经能够支持多种持久数据存储选项,包括常用的NFS或iSCSI,且原生支持来自各大主要公有及私有云服务供应商的存储解决方案。随着项目及生态系统的发展,越来越多存储选项被纳入到Kubernetes当中。然而,为新的存储系统添加卷插件一直是项艰难的挑战。 容器存储接口(简称CSI)是一项跨行业标准倡议,旨在降低云原生存储开发工作的门槛,从而进一步确保兼容性水平。SIG-Storage[4]与CSI社区[5]目前正在携手交付单一接口,用于对兼容Kubernetes的存储进行置、附加与挂载。 Kubernetes 1.9引入了容器存储接口(简称CSI)的一套alpha实现[6]版本,其能够将新卷插件的安装流程简化至与安装pod相当,并允许第三方存储供应商在无需接触核心...阅读全文

博文 2017-12-17 01:00:00 debian.cn

开源简史基础:Linux基金会

在当前以容器化和微服务推动的技术中,需要了解的一个重要组织就是Linux基金会,在全世界范围内,Linux基金会通过提供开放码所需要的统一和服务,从而促进和保护Linux的发展,推动Linux的标准化。 2000年,开发展实验室OSDL(Open Source Development Labs)作为一个全球性的非盈利组织正式创立以促进Linux企业级计算的发展2007年1月22日,另外一个致力于推动GPL的全球性的非盈利组织,自由标准组织FSG(Free Standards Group)和OSDL联合成立了Linux基金会。 Linux基金会是做什么的 拉赞助 Linux基金会致力于围绕开创建可持续的生态系统,从而加速技术的发展和商业化的推进。而实现这一主要目的的方式之一就是为...阅读全文