炼数成金 大数据分布式系统
订阅

分布式系统

"存算分离"已成为分布式数据库的主流方向
"存算分离"已成为分布式数据库的主流方向
在当前越来越强调云原生的环境下,存储计算分离已经是大势所趋。几乎所有我们熟知的云数据库都已经开始使用存算分离实现资源价值的最大化,比如阿里的PolarDB,AWS 的Aurora,华为GaussDB for MySQL等。大量企业自建 ...
RocketMQ如何保证消息的可靠性?
RocketMQ如何保证消息的可靠性?
分布式系统中一个重要的前提假设是所有的网络传输都是不可靠的,在网络传输不可靠的情况下,保证消息的可靠传输,除了进行重试投递别无他法。常用的绝大多数消息队列RocketMQ、RabbitMQ等在消息传输上都只能保证至少 ...
ZooKeeper集群“脑裂”问题处理大全
ZooKeeper集群“脑裂”问题处理大全
ZooKeeper 容错指的是:当宕掉几个ZooKeeper节点服务器之后,剩下的个数必须大于宕掉的个数,也就是剩下的节点服务数必须大于n/2,这样ZooKeeper集群才可以继续使用,无论奇偶数都可以选举Leader。例如5台ZooKeeper ...
史上最便捷搭建 ZooKeeper 服务器的方法
史上最便捷搭建 ZooKeeper 服务器的方法
ZooKeeper 是 Apache 的一个顶级项目,为分布式应用提供高效、高可用的分布式协调服务,提供了诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知和分布式锁等分布式基础服务。由于 ZooKeeper 便捷的使用方式 ...
分布式锁用Redis好?还是Zookeeper好?
分布式锁用Redis好?还是Zookeeper好?
提到锁大家肯定有了解,像 Synchronized、ReentrantLock,在单进程情况下,多个线程访问同一资源,可以用它们来保证线程的安全性。不过目前互联网项目越来越多的项目采用集群部署,也就是分布式情况,这两种锁就有些 ...
一致性协议算法-2PC、3PC、Paxos、Raft、ZAB、NWR超详细解析
一致性协议算法-2PC、3PC、Paxos、Raft、ZAB、NWR超详细解析
在常见的分布式系统中,总会发生诸如机器宕机或网络异常(包括消息的延迟、丢失、重复、乱序,还有网络分区)等情况。一致性算法需要解决的问题就是如何在一个可能发生上述异常的分布式系统中,快速且正确地在集群内 ...
ZooKeeper集群“脑裂”问题处理大全
ZooKeeper集群“脑裂”问题处理大全
ZooKeeper是用来协调(同步)分布式进程的服务,提供了一个简单高性能的协调内核,用户可以在此之上构建更多复杂的分布式协调功能。脑裂通常会出现在集群环境中,比如Elasticsearch、ZooKeeper集群,而这些集群环境 ...
一次看完28个关于ES的性能调优技巧
一次看完28个关于ES的性能调优技巧
Elasticsearch默认被配置为使用单播发现,以防止节点无意中加入集群。组播发现应该永远不被使用在生产环境了,否则你得到的结果就是一个节点意外的加入到了你的生产环境,仅仅是因为他们收到了一个错误的组播信号。E ...
聊聊ZooKeeper的点
聊聊ZooKeeper的点
ZooKeeper 是一个开源的分布式协调服务。它是一个为分布式应用提供一致性服务的软件,分布式应用程序可以基于 ZooKeeper 实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master 选举、分布 ...
图文了解 Kafka 的副本复制机制
图文了解 Kafka 的副本复制机制
让分布式系统的操作变得简单,在某种程度上是一种艺术,通常这种实现都是从大量的实践中总结得到的。Apache Kafka 的受欢迎程度在很大程度上归功于其设计和操作简单性。随着社区添加更多功能,开发者们会回过头来重 ...
分布式架构——Gossip 协议详解
分布式架构——Gossip 协议详解
Gossip协议是基于六度分隔理论(Six Degrees of Separation)哲学的体现,简单的来说,一个人通过6个中间人可以认识世界任何人。数学公式是: n表示复杂度,N表示人的总数,W表示每个人的联系宽度。依据邓巴数,即 ...
深入分析 Flink SQL 工作机制
深入分析 Flink SQL 工作机制
Flink SQL 利用 Apache Calcite 将 SQL 翻译为关系代数表达式,使用表达式折叠(Expression Reduce),下推优化(Predicate / Projection Pushdown )等优化技术生成物理执行计划(Physical Plan),利用 Codegen 技 ...
微服务下数据一致性的几种实现方式
微服务下数据一致性的几种实现方式
在介绍微服务下的数据一致性之前,先简单地介绍一下事务的背景。传统单机应用使用一个RDBMS作为数据源。应用开启事务,进行CRUD,提交或回滚事务,统统发生在本地事务中,由资源管理器(RM)直接提供事务支持。数据 ...
一篇文章带你逆袭 Kafka
一篇文章带你逆袭 Kafka
Apache Kafka 是一个快速、可扩展的、高吞吐的、可容错的分布式“发布-订阅”消息系统, 使用 Scala 与 Java 语言编写,能够将消息从一个端点传递到另一个端点。较之传统的消息中间件(例如 ActiveMQ、RabbitMQ),K ...
聊聊分布式事务,再说说解决方案
聊聊分布式事务,再说说解决方案
分布式事务是企业集成中的一个技术难点,也是每一个分布式系统架构中都会涉及到的一个东西,特别是在微服务架构中,几乎可以说是无法避免,本文就分布式事务来简单聊一下。当我们的单个数据库的性能产生瓶颈的时候, ...

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

热门文章

    社区热帖

       

      GMT+8, 2021-9-18 06:15 , Processed in 0.123914 second(s), 16 queries .