跳至主要內容
Kafka 进阶:深入理解分区、事务与 exactly-once

Kafka 进阶:深入理解分区、事务与 exactly-once

前言

大多数开发者对 Kafka 的理解停留在"发消息、收消息"的层面。但当你遇到消息丢失、消息重复、消息乱序这些生产问题时,才是真正需要深入理解 Kafka 内部机制的时候。

本文从分区机制、ISR、幂等生产者、事务消息到 exactly-once 语义,带你逐层深入 Kafka 的核心原理。


第一部分:分区机制深入

1.1 Partition 是什么

Kafka Topic 被划分为多个 Partition(分区),每个 Partition 是一个有序的、不可变的消息序列


郑天祺大约 12 分钟消息队列Kafka分区事务exactly-onceISR
mysql事务

1、介绍

	一个数据库事务通常包含对数据库进行读或写的一个操作序列:

	(1)为数据库操作提供了一个从失败中恢复到正常状态的方法,同时提供了数据库即使在异常状态下仍能保持一致性的方法。
	(2)当多个应用程序在并发访问数据库时,可以在这些应用程序之间提供一个隔离方法,以防止彼此的操作互相干扰。

	并非任意的对数据库的操作序列都是数据库事务。事务应该具有4个属性:原子性、一致性、隔离性、持久性。这四个属性通常称为ACID特性。
原子性(Atomicity):事务作为一个整体被执行,包含在其中的对数据库的操作要么全部被执行,要么都不执行。
一致性(Consistency):事务应确保数据库的状态从一个一致状态转变为另一个一致状态。一致状态的含义是数据库中的数据应满足完整性约束。
隔离性(Isolation):多个事务并发执行时,一个事务的执行不应影响其他事务的执行。
持久性(Durability):一个事务一旦提交,他对数据库的修改应该永久保存在数据库中。

郑天祺大约 6 分钟数据库MySQL事务数据库