一个关于 Raft 协议的疑问

[phpcyy]

如果有 A 、B 、C 、D 、E 一共 5 个节点，A 是 Leader 。 原本的 logIndex 都是 3，如果 A 发送了 4 的日志，B 、C 确认，获得多数 ack，会返回 client 成功。

第一个问题： 这时候如果 Leader 挂掉，B 、C 还没来得及接收下次心跳进入 committed 状态，4 这条日志仍然能保存成功吗？

第二个问题： 如果这时候 A 、B 挂掉，4 这条日志还能确保可以成功保存吗？

最近在看 Raft 相关文章，都没理解上边的这个情况该如何处理，所以求教大家，不胜感激。

我的理解是第一种情况，需要获得多数节点 4 这条日志的状态，B 、C 加上必然存在该消息的 Leader，可以过半，因此可以保存成功。

第二种情况看起来系统已经不能正常工作了，无法确认这条 uncommited 的消息是否需要保存。

非常感谢大家的回复，很多回复都非常有价值，对我帮助很大。

我大概已经理解了我问的 2 个问题，也对 Raft 有了更清晰的理解。

我给了一些非常有帮助的回复点了红心，另外一些也很有价值的回复我没有点红心，是为了让之后的感兴趣的读者能够更快找到答案。

再次感谢大家。

[chihiro2014]

看 mit 6.824 岂不是更香？里面都有讲解这块的
https://www.bilibili.com/video/av91748150

[BBCCBB]

第一个问题, 可以保存成功, 因为 D,E 的日志比 B,C 上的旧, 所以下一轮选举 B,C 是不会投给 D,E 的, 下一轮的 leader 只会从 B,C 中选出.

第二个问题, 因为 C 的日志比 D,E 的新, 剩下 C,D,E 3 个节点, 就是说要所有投票投给一个节点才能继续工作, 那肯定也只有所有投票投给 C 才能继续工作, 所以 4 依然是已经保存了的..

我做 6.824 过了好几个月了, 可能有误, 仅供参考, 欢迎指正

[luckyrayyy]

https://raft.github.io/
自己试试

[phpcyy]

@BBCCBB

针对第二种情况，如果 A 、B 挂了，C 的 4 可能是 2 种情况，A 、C 上有，A 、B 、C 上有，如果前一种情况那么没达成共识，如果后一种情况达成了共识，C 无法断定是哪一种情况啊。

[OSDI]

原论文图八说明的情况就是，都不能保证的吧

[BBCCBB]

@phpcyy 我以为你说的第二种是 4 已经提交到 A,B,C 了呢... 按你说的 A,B,C 都已经提交 4 了呀..

如果 4 已经被 commit 了, 那肯定没问题

如果 4 没被提交, 剩下 C,D,E 节点, 4 被包含在里面也没啥问题, 只是成了脏数据..


> 毕竟 raft, paxos 这种是肯定保证如果多数确认, 并且提交了, 那数据肯定不会丢失的..

[kmyzzy]

@phpcyy A 、B 挂了只有 C 能成为 Leader，C 会把 4 发给 D 、E，所以只要 C 能在自己的 Term 成功 commit 一个 log，4 就一定能保存。

[phpcyy]

@BBCCBB

我的意思是 A 提交了 4，B 、C 收到了进入 uncommited 状态，需要在 A 下一次心跳的时候变为 commited，但是 A Commit 后没来得及心跳就挂了，B 、C 处于 uncommited 状态，这时候发生了重新选举。

1. 在这种情况下，如果 A 挂了，B 、C 活着，能否保证 4 这条消息不会丢失。

2. 如果 A 、B 挂了，C 活着，能否保证 4 这条消息不会丢失。

第一种情况下，B 、C 理论上仍然可以就 4 这条消息达成多数。
第二种情况下，C 无法确认 4 这条消息是否达成多数，丢弃和不丢弃无法确定，因为它不知道 B 是否保存过 4 这条消息。

[phpcyy]

@kmyzzy 是这样的，C 的 4 这条消息是 uncommited 状态，如果它采纳了，那么可能是脏数据；如果不采纳，可能会丢失数据。除非整个集群不工作了等待 A 、B 复活。

[lance6716]

4 这个日志会在本地持久化的因此不会丢，并且协议保证其他机器的 4 不会有不用的日志 append 成功

[phpcyy]

@lance6716 4 这个消息会持久化到 A，那其他节点若正常工作，在我描述的情况下 4 会被正常复制到其他节点吗？

[OSDI]

@OSDI 抱歉，看错了

[BBCCBB]

@phpcyy
第二种情况, C 不需要确认 4 是否达成多数, 这个是由 A 来判断的, A 判断多数已经提交了, 那就可以返回 4 已经保存成功..

A,B 宕机后, C 日志最新, 会成为 Leader, 所以 4 依然不会丢失.

[BBCCBB]

@OSDI 哈哈, figure 8 是处理不能主动提交上一个 term 的 log 吧

[lllllIIIlll]

第二种情况下，C 无法确认 4 这条消息是否达成多数，丢弃和不丢弃无法确定，因为它不知道 B 是否保存过 4 这条消息。
---------------
这应该也是当前 Term 的 Leader 不主动提交上一个 Leader 的原因吧，因为 C 无法根据自己的信息确认上一个 term 的消息是否复制到了大多数节点。
按你说的第二种情况，C 并不知道 log 4 是否已经复制到了大多数节点上，但是由于 C 此时的 log 是 more up-to-date 的，所以一定是 C 当选 leader，然后 C 会与其他 follower 同步日志，并且在成功 commit 一条自己 Term 中的日志后隐式地提交 log 4 。
针对 log 4 的两种情况：
1. A 没有把 log 4 复制到大多数节点 =>那么 C 在同步日志时，相当于代替 A 复制了 log 4 。
2. A 把 log 4 复制到了大多数节点 => 那么 C 同步日志没有问题，相当于代替 A commit 了 log4 。
并不会产生错误。

很久之前看的 raft 了，不保证细节完全正确。
@phpcyy

[bilosikia]

1. 第一个是能保存成功的，1. leader 选出新的 leader 一定包含最新的 log 2. 前任 leader 的 log 谁着新任 leader 一起提交
2. 半数以上节点可用就行，A,B 挂了，只有 C 节点能当选新 leader

[sunznx]

如果有 A 、B 、C 、D 、E 一共 5 个节点，A 是 Leader 。 原本的 logIndex 都是 3，如果 A 发送了 4 的日志，B 、C 确认，获得多数 ack，会返回 client 成功。

第一个问题： 这时候如果 Leader 挂掉，B 、C 还没来得及接收下次心跳进入 committed 状态，4 这条日志仍然能保存成功吗？
------------
能成功，因为 A 已经成功返回给 client 了。

第二个问题： 如果这时候 A 、B 挂掉，4 这条日志还能确保可以成功保存吗？
------------
可以，因为 raft 保证日志一旦被提交给客户端，就一定是成功的

[phpcyy]

@lllllIIIlll

针对 log 4 的两种情况：
1. A 没有把 log 4 复制到大多数节点 =>那么 C 在同步日志时，相当于代替 A 复制了 log 4 。
---------------------------------------------------------

C 代替 A 复制了 log 4 并 commit，即使 A 可能出现未 commit 的情况，对吗？

好像有点明白了，只保证 leader 已 commit 的必定会保存，但是原 leader 未 commit 的消息仍然会由新 leader 广播其他节点保存，但 client 可能收不到响应，不知道是不是这样？

[noogler67]

第二个问题，raft 会保证选举出来的 leader 带有 4 。选举 leader 的时候会判断 candidate 的 log （ term 更旧则拒绝，相同 term 更短则拒绝），所以只有 c 能当选。
这也是 raft 的核心，一旦 commit，就肯定能保存记录。

[misaka19000]

想起来当初自己折腾 raft 的时光。。。现在已经全部忘光了

[ZingLix]

@phpcyy 我一直理解的是日志提交的条件是被多数结点 append，而不是 Leader 将其 commit 。一旦满足就一定会在之后某个时刻把 commit 通知到所有节点上去。
client 在请求后，Leader 挂了没有响应似乎的确可能发生，但正确性还是在的。

[fishofcat]

5 个节点有三个节点有数据，那么 A 挂了肯定 b,c 选，如果 a,b 挂了，这时候投票原则还是 c 会被选出来，因为 logindex 最大，c 会把数据同步到其它节点。

这时候其实关心的主要问题应该是，a 挂了，a 也没有给 client 回复消息，这时候怎么办？用户如果再次请求，服务端怎么办？（幂等性），如果客户端不请求了，这个数据也会被添加到 log 里面，这时候咋办？？

[sunznx]

接下来的选举中，C 一定可以成为 leader 。只剩下 3 个节点，这些节点要想成为 leader，就必须获得 >= 3 的节点同意，只有 C 有最完整的 log，所以一定是 C 当选，Term 也跟着变了

[phpcyy]

@noogler67 没错，你说的都对，特别感谢。不过要澄清一点，我提出问题二的原因是，如果 B 没收到 4，C 收到了 4，C 当选 Leader 并提交了这条日志，但是 A 之前未收到多数并没有提交，也就是 client 并不知道这条日志已经提交了，感觉不太合逻辑，所以才会有这个疑问。

[phpcyy]

@fishofcat 对啊，我现在的主要问题点变成了你这个问题，客户端不知道集群已经执行了该命令，该怎么办

[lllllIIIlll]

@phpcyy 但 client 可能收不到响应，不知道是不是这样？
----------------------------------------------------------------
这个应该是属于上层实现的问题了，raft 应该不保证这一点。无论是哪一任 leader commit 一个 log 应该都可以有办法通知到上层，Mit6.824 应该是用一个 apply channel 来通知的。但是如果客户端超时错过了通知怎么办，应该取决于应用的实现了。可以参考一下具体的实现，比如 tikv 。

[noogler67]

client 继续请求 C 的话，C 本身会把 log 复制给别的机器。等 C 复制超过一半机器，就会给 client 返回 commit 成功的消息。

[noogler67]

每一条 log 可以记录 client 的请求的序列号 id 。可以知道是 client 的之前的那条请求。

[noogler67]

如果 client 超时中断请求，那 client 就不知道后续状态了。
如果 client 超时，继续请求，client 就能知道状态。根据 raft 协议的话，认为 raft 集群不会挂的情况下，client 应该选择不懈地请求直到 commit 。6.824 lab 中是这样做的。

[fishofcat]

@noogler67 不用等继续请求的，只要选出主来，c 就会用自己的 term append 一个本 term 的空 entry，老的也会被一起 append 上，其它的解释是对的。client 端一般是要求要重试的。像支付失败，如果 client 端断网，那么你也会收到短信。

[wqlin]

我觉得大前提不对，需要日志 committed + apply 才会返回给 client 。
第一个问题的话可能会保存成功，也有可能不会（取决于 B/C 是否成功当选）
第二个问题的话比较难了。
Raft 中只有 committed 的日志才是安全不丢的（ index <= committed index ），其他情况下都是不安全的。
一家之言，仅供参考

[wqlin]

保存不代表已经 committed 了，一切以 leader 日志为准

[phpcyy]

@fishofcat 如果一个命令 client 提交了，然后 client 连接的 leader 宕机，该消息可能成功也可能失败；只要该日志在 leader 宕机之前发给了其他节点，其他节点中的有该最新日志的一台会当选为新的 leader，该命令执行成功；如果在宕机之前没有发给其他节点，该命令不会出现在其他节点，该命令会执行失败。

所以需要依赖具体应用的实现去让客户端在失败时去请求集群，获取之前命令是否执行成功。

[phpcyy]

@wqlin 你说的是对的，我省略了一些步骤，就是返回 client 成功的时候一定是 commited + applied 的。

我提出问题的时候想的是其他节点并不知道 Leader 已经 commited 且 applied，所以如何判断是否保存之前处于 uncommited 的消息。

现在看来是他们会由于日志更新而当选 Leader，并将该消息 commit 且 apply 。

[wqlin]

@phpcyy 你忽略了一个前提。leader 要 committed 的话，一定要集群多数派都收到了日志并且 ack 了。这种情况下才能 committed 。
日志 committed 之后就算原 leader 挂掉了，其他节点还会有日志。并且按照 raft 的选举条件，也是拥有最多 committed 日志的节点当选

[phpcyy]

@wqlin 已经 commited 的日志一定是不会丢的，因为多数节点已经接收到了日志，所以只要这个系统还在工作，这个日志一定还是会在新的 Leader 上的。我之前的疑问是，一些老 Leader 没有 commit 的消息，其他节点也可能会将其 commit，因为他们无法区分老 Leader 是否提交了该日志。

[Caskia]

@phpcyy 第二问题 @noogler67 解释的很清楚，client 会在超时之前等待这次操作的结果，也就是说就算选举出了新的 leader，那么新的 leader 也会告诉 client 这次操作 committed 。这里有个你忽视的地方，你认为 client 请求 leader1 的时候，leader1 挂掉了，此时 client 就认为失败了，然后会有一个超时时间差，在这段时间里，新的 leader 会把结果告诉 client，在实践的时候是看的集群挂掉了才是真的失败。

[diveIntoWork]

多数 ack 的 log，是一定不会丢的，这个是 raft 的 leader 完整性约束保证的

[NoobPhper]

有点乱：

你屡屡思路， 如果 A 挂 理想状态 BCD 任何一个都没有发生 P，那么 BCD 收到了 Leader 的 apply 请求，并且 Ack 了，那么 4 这条日志肯定不会丢鸭

还有 leader 挂了， 客户端立马就知道了，这个时候应该是客户端重试， 重试又会有新的 revision， 不复杂，复杂的是
leader 挂了，然后极端情况下 bcd 出现了 P， 场景复杂很多，建议看下 etcd 的 文档将了一部分这些东西

[wqlin]

@phpcyy 只有 leader 能 commit 。。老 leader 不知道 commit，然后其他节点 commit 了。这种情况下只能是老 leader 要么挂掉了要么成为 follower 了，总之已经有新 leader 了

[fishofcat]

@Caskia 新的 leader 怎么回复 client 端？原先的 leadera 都挂掉了，长链接都断开了，原先的 leader 怎么知道 client 的地址的？???应该是 client 会重新发起请求，然后新的 leader 根据某个条件判断是否请求过了。其实我没太搞懂的是 client 重发的时候服务端怎么判断已经请求过了。。。

[Caskia]

两种实现方式：
1. 如果超时，客户端会访问其他的任意服务，这时候服务会把新的 leader 给 client，所以 client 是可以跟新的 leader 进行交流的。
2. 如果是 client 重新发起请求，文档中有说过对发起的请求要做唯一性，也就是给每一个请求都有一个标号，这样服务端可以做幂等处理，新的 leader 看到这个重复的标号，那么就知道是之前处理过的。