blog/cn/material/solution/index.html (235 lines of code) (raw):
<!DOCTYPE html>
<html lang="en-us">
<head>
<style>
a {
word-wrap: break-word;
}
</style>
</head>
<body>
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width, initial-scale=1.0">
<title>刚柔并济的开源分布式事务解决方案 · ShardingSphere - 博客</title>
<link rel="stylesheet" href="https://shardingsphere.apache.org/blog/css/style.css">
<link rel="stylesheet" href="https://shardingsphere.apache.org/blog/css/fonts.css">
<link rel="icon" type="image/png" sizes="32x32" href="https://shardingsphere.apache.org/blog/images/favicon-32x32.png">
<link rel="icon" type="image/png" sizes="16x16" href="https://shardingsphere.apache.org/blog/images/favicon-16x16.png">
<link rel="apple-touch-icon" sizes="180x180" href="https://shardingsphere.apache.org/blog/images/apple-touch-icon.png">
<link href="" rel="alternate" type="application/rss+xml" title="ShardingSphere - 博客" />
</head>
<div style="position: sticky; position: -webkit-sticky; top: 0px; background-color: rgba(255, 255, 255, 0.888);"> <nav class="nav">
<div class="nav-container">
<a href="https://shardingsphere.apache.org/blog/">
<h1 class="nav-title">ShardingSphere - 博客</h1>
</a>
<span style="padding-left: 65px;">
<li>
<a href="https://shardingsphere.apache.org/blog/cn/material/">
<h3>文章</h3>
</a>
</li>
<li>
<a href="https://shardingsphere.apache.org/blog/cn/videos/">
<h3>视频</h3>
</a>
</li>
</span>
<span style="position: relative; left: 75px;
background: rgba(0, 0, 0, 0.664);
font-weight: bold;
padding:0.1rem;
padding-left:15px;
padding-right:15px;
padding-top: 2px;
padding-bottom: 5px;
border-radius:10px;">
<a style="color: white;" href="https://shardingsphere.apache.org/blog/en/material/solution/">English</a>
</span>
</div>
</div>
</nav></div>
<main>
<div class="post">
<h1 class="post-title">刚柔并济的开源分布式事务解决方案</h1>
<div class="post-info">
</div>
<h3 id="作者">作者</h3>
<p>张亮，京东数科数据研发负责人，Apache ShardingSphere 发起人 & PPMC</p>
<p>热爱开源，目前主导开源项目 ShardingSphere (原名 Sharding-JDBC )和 Elastic-Job。擅长以 java 为主分布式架构以及以 Kubernetes 和 Mesos 为主的云平台方向，推崇优雅代码，对如何写出具有展现力的代码有较多研究。</p>
<p>目前主要精力投入在将 ShardingSphere 打造为业界一流的金融级数据解决方案之上。ShardingSphere 已经进入 Apache 孵化器，是京东集团首个进入 Apache 基金会的开源项目，也是 Apache 基金会首个分布式数据库中间件。</p>
<hr>
<p>姜宁，华为开源能力中心技术专家，Apache ServiceComb 项目负责人。前红帽软件首席软件工程师，在企业级开源中间件开发方面有十余年经验，有丰富的 Java 开发和使用经验，函数式编程爱好者。从 2006 年开始一直从事 Apache 开源中间件项目的开发工作，先后参与 Apache CXF，Apache Camel，以及 Apache ServiceMix 的开发。对微服务架构，WebServices，Enterprise Integration Pattern，SOA， OSGi 均有比较深入的研究。</p>
<p>博客地址：https://willemjiang.github.io/</p>
<hr>
<p>冯征，红帽软件工程师。2009年加入红帽软件公司，主要从事事务管理器方面的工作，做为核心开发人员参与了 Narayana 和 BlackTie 项目，在与多个应用服务器（Wildfly, Karaf, Tomcat）和框架（Common DBCP, Spring Boot）的事务处理集成方面有过贡献。从2017年开始参与了 Apache ServiceComb 项目，目前是 PMC 成员之一。对于分布式事务处理以及微服务环境中的事务处理，有过深入的研究。</p>
<h3 id="导读">导读</h3>
<p>相比于数据分片方案的逐渐成熟，集性能、透明化、自动化、强一致、并能适用于各种应用场景于一体的分布式事务解决方案则显得凤毛麟角。基于两（三）阶段提交的分布式事务的性能瓶颈以及柔性事务的业务改造问题，使得分布式事务至今依然是令架构师们头疼的问题。</p>
<p>Apache ShardingSphere（Incubating）不失时机的在 2019 年初，提供了一个刚柔并济的一体化分布式事务解决方案。如果您的应用系统正在受到这方面的困扰，不妨倒上一杯咖啡，花十分钟阅读此文，说不定会有些收获呢？</p>
<h3 id="背景">背景</h3>
<p>数据库事务需要满足 ACID（原子性、一致性、隔离性、持久性）4个特性。</p>
<ul>
<li>
<p>原子性（Atomicity）指事务作为整体来执行，要么全部执行，要么全不执行。</p>
</li>
<li>
<p>一致性（Consistency）指事务应确保数据从一个一致的状态转变为另一个一致的状态。</p>
</li>
<li>
<p>隔离性（Isolation）指多个事务并发执行时，一个事务的执行不应影响其他事务的执行。</p>
</li>
<li>
<p>持久性（Durability）指已提交的事务修改数据会被持久保存。</p>
</li>
</ul>
<p>在单一数据节点中，事务仅限于对单一数据库资源的访问控制，称之为本地事务。几乎所有的成熟的关系型数据库都提供了对本地事务的原生支持。 但是在基于微服务的分布式应用环境下，越来越多的应用场景要求对多个服务的访问及其相对应的多个数据库资源能纳入到同一个事务当中，分布式事务应运而生。</p>
<p>关系型数据库虽然对本地事务提供了完美的 ACID 原生支持。 但在分布式的场景下，它却成为系统性能的桎梏。如何让数据库在分布式场景下满足 ACID 的特性或找寻相应的替代方案，是分布式事务的重点工作。</p>
<h4 id="本地事务">本地事务</h4>
<p>在不开启任何分布式事务管理器的前提下，让每个数据节点各自管理自己的事务。 它们之间没有协调以及通信的能力，也并不互相知晓其他数据节点事务的成功与否。 本地事务在性能方面无任何损耗，但在强一致性以及最终一致性方面则力不从心。</p>
<h4 id="两阶段提交">两阶段提交</h4>
<p>XA 协议最早的分布式事务模型是由 X/Open 国际联盟提出的 X/Open Distributed Transaction Processing（DTP）模型，简称 XA 协议。</p>
<p>基于 XA 协议实现的分布式事务对业务侵入很小。 它最大的优势就是对使用方透明，用户可以像使用本地事务一样使用基于 XA 协议的分布式事务。 XA 协议能够严格保障事务 ACID 特性。</p>
<p>严格保障事务 ACID 特性是一把双刃剑。 事务执行在过程中需要将所需资源全部锁定，它更加适用于执行时间确定的短事务。 对于长事务来说，整个事务进行期间对数据的独占，将导致对热点数据依赖的业务系统并发性能衰退明显。 因此，在高并发的性能至上场景中，基于XA协议两阶段提交类型的分布式事务并不是最佳选择。</p>
<h4 id="柔性事务">柔性事务</h4>
<p>如果将实现了 ACID 的事务要素的事务称为刚性事务的话，那么基于 BASE 事务要素的事务则称为柔性事务。 BASE 是基本可用、柔性状态和最终一致性这3个要素的缩写。</p>
<ul>
<li>
<p>基本可用（Basically Available）保证分布式事务参与方不一定同时在线。</p>
</li>
<li>
<p>柔性状态（Soft state）则允许系统状态更新有一定的延时，这个延时对客户来说不一定能够察觉。</p>
</li>
<li>
<p>最终一致性（Eventually consistent）通常是通过消息传递的方式保证系统的最终一致性。</p>
</li>
</ul>
<p>在 ACID 事务中对一致性和隔离性的要求很高，在事务执行过程中，必须将所有的资源占用。 柔性事务的理念则是通过业务逻辑将互斥锁操作从资源层面上移至业务层面。通过放宽对强一致性和隔离性的要求，只要求当整个事务最终结束的时候，数据是一致的。而在事务执行期间，任何读取操作得到的数据都有可能被改变。这种弱一致性的设计可以用来换取系统吞吐量的提升。</p>
<p>Saga 是典型的柔性事务管理器。Saga 这个概念来源于三十多年前的一篇数据库论文[http://www.cs.cornell.edu/andru/cs711/2002fa/reading/sagas.pdf] ，一个 Saga 事务是一个由多个短时事务组成的长时的事务。 在分布式事务场景下，我们把一个 Saga 分布式事务看做是一个由多个本地事务组成的事务，每个本地事务都有一个与之对应的补偿事务。在 Saga 事务的执行过程中，如果某一步执行出现异常，Saga 事务会被终止，同时会调用对应的补偿事务完成相关的恢复操作，这样保证 Saga 相关的本地事务要么都是执行成功，要么通过补偿恢复成为事务执行之前的状态。</p>
<p>TCC（ Try-Cancel/Confirm 实现)是另一种柔性事务的协调实现。TCC 借助两阶段提交协议提供了一种比较完美的恢复方式。在 TCC 方式下，cancel 补偿显然是在第二阶段需要执行业务逻辑来取消第一阶段产生的后果。Try 是在第一阶段执行相关的业务操作，完成相关业务资源的占用，例如预先分配票务资源，或者检查并刷新用户账户信用额度。 在取消阶段释放相关的业务资源，例如释放预先分配的票务资源或者恢复之前占用的用户信用额度。 那我们为什么还要加入确认操作呢？这需要从业务资源的使用生命周期来入手。在 try 过程中，我们只是占用的业务资源，相关的执行操作只是出于待定状态，只有在确认操作执行完毕之后，业务资源才能真正被确认。</p>
<p>基于 ACID 的强一致性事务和基于 BASE 的最终一致性事务都不是银弹，只有在最适合的场景中才能发挥它们的最大长处。可通过下表详细对比它们之间的区别，以帮助开发者进行技术选型。</p>
<center>
<table>
<thead>
<tr>
<th style="text-align:center">对比</th>
<th style="text-align:center">本地事务</th>
<th style="text-align:center">两阶段提交</th>
<th style="text-align:center">柔性事务</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align:center">业务改造</td>
<td style="text-align:center">无</td>
<td style="text-align:center">无</td>
<td style="text-align:center">实现相关接口</td>
</tr>
<tr>
<td style="text-align:center">一致性</td>
<td style="text-align:center">不支持</td>
<td style="text-align:center">支持</td>
<td style="text-align:center">最终一致</td>
</tr>
<tr>
<td style="text-align:center">隔离性</td>
<td style="text-align:center">不支持</td>
<td style="text-align:center">支持</td>
<td style="text-align:center">业务方保证</td>
</tr>
<tr>
<td style="text-align:center">并发性能</td>
<td style="text-align:center">无影响</td>
<td style="text-align:center">严重衰退</td>
<td style="text-align:center">略微衰退</td>
</tr>
<tr>
<td style="text-align:center">适合场景</td>
<td style="text-align:center">业务方处理不一致</td>
<td style="text-align:center">短事务 & 低并发</td>
<td style="text-align:center">长事务 & 高并发</td>
</tr>
</tbody>
</table>
</center>
<h4 id="挑战">挑战</h4>
<p>由于应用的场景不同，需要开发者能够合理的在性能与功能之间权衡各种分布式事务。</p>
<p>两阶段提交与柔性事务的 API 和功能并不完全相同，在它们之间并不能做到自由的透明切换。在开发决策阶段，就不得不在两阶段提交的事务和柔性事务之间抉择，使得设计和开发成本被大幅增加。</p>
<p>基于 XA 的两阶段提交事务使用相对简单，但是无法很好的应对互联网的高并发或复杂系统的长事务场景；柔性事务则需要开发者对应用进行改造，接入成本非常高，并且需要开发者自行实现资源占用和反向补偿。</p>
<h3 id="shardingsphere-的分布式事务">ShardingSphere 的分布式事务</h3>
<p>整合现有的成熟事务方案，为本地事务、两阶段提交和柔性事务提供统一的分布式事务接口，并弥补当前方案的不足，提供一站式的分布式事务解决方案是 Apache ShardingSphere（Incubating）分布式事务模块的主要设计目标。该模块的名称是 sharding-transaction。可以用刚柔并济、自动化和透明化这3个关键词来概括 sharding-transaction 模块的设计理念和功能呈现。</p>
<p>1.刚柔并济</p>
<p>同时提供基于 XA 的两阶段提交事务与基于 Saga 的柔性事务解决方案，并且能够一起配合使用。</p>
<p>2.自动化</p>
<p>XA 事务和 Saga 事务都通过自动化的方式完成，使用方无感知。XA 事务无需使用 XADataSource 接口以及 JTA 事务管理器；Saga 事务也无需用户自行实现补偿接口。</p>
<p>3.透明化</p>
<p>在 Apache ShardingSphere（Incubating）的两个接入端——Sharding-JDBC 和 Sharding-Proxy 中，分别提供了面向本地事务接口的封装。使用方完全可以将被 ShardingSphere 管理的水平分片的多个数据源当成一个数据库使用，通过本地事务API即可实现完全的分布式事务的能力。用户可以透明地在应用中任意切换事务类型。</p>
<p>sharding-transaction 模块由 sharding-transaction-core，sharding-transaction-2pc 和 sharding-transaction-base 这3个子模块组成。</p>
<ul>
<li>sharding-transaction-core:</li>
</ul>
<p>提供了面向使用者的API与面向开发者的SPI。</p>
<ul>
<li>sharding-transaction-2pc:</li>
</ul>
<p>两阶段提交事务父模块。目前只有 sharding-transaction-xa 模块，提供了 XA 协议的支持。未来会引入更多的基于两阶段提交的事务类型，如：percolator，参见：</p>
<p>[https://storage.googleapis.com/pub-tools-public-publication-data/pdf/36726.pdf]。</p>
<ul>
<li>sharding-transaction-base:</li>
</ul>
<p>柔性事务父模块。目前只有 sharding-transaction-saga 模块，采用 Apache ServiceComb Saga Actuator 提供的 Saga 执行器提供柔性事务支持，并在其基础之上提供了反向 SQL 和快照的能力，并由此实现自动逆向补偿功能。</p>
<p>下面将对 ShardingSphere 的 XA 和 Saga 事务模块的功能亮点进行说明。</p>
<h4 id="xa事务三大xa事务管理器共护航">XA事务——三大XA事务管理器共护航</h4>
<p>成熟的XA事务管理器非常多，Apache ShardingSphere（Incubating）并未选择重新造轮子，而是寄望于打造一个生态，将合适的轮子有机地整合在一起，提供成熟稳定的分布式事务处理能力。它的主要功能如下：</p>
<p><strong>1.复用成熟引擎，自动切换底层实现</strong></p>
<p>Sharding-transaction-xa 模块进一步定义了面向 XA 事务管理器开发者的 SPI，开发者仅需实现 SPI 定义的接口，即可自动加入至 Apache ShardingSphere（Incubating）生态，作为其 XA 事务管理器。</p>
<p>Apache ShardingSphere（Incubating）官方目前实现了基于 Atomikos 和 Bitronix 的 SPI，并且邀请了 Redhat JBoss 的 XA 事务引擎 Narayana [https://github.com/jbosstm/narayana] 开发团队实现了 JBoss 的 SPI。用户可以自行的在 Atomikos，Bitronix 和 Narayana 间选择自己喜欢的 XA 事务管理器。</p>
<p>受限于 Apache 基金会项目 License 的原因，Apache ShardingSphere（Incubating）将采用 Apache 协议的 Atomikos 作为其默认实现，关于基于 LGPL 协议的 Bitronix 和基于 LGPL 协议的 Narayana，用户可以自行引用相应 jar包至项目的 classpath 即可。</p>
<p>如果这 3 个 XA 事务管理器仍未满足用户需求，开发者则可通过扩展 SPI 来实现定制化的 XA 事务管理器。</p>
<p><strong>2.数据源透明化自动接入</strong></p>
<p>Apache ShardingSphere（Incubating）能够自动将 XADataSource 作为数据库驱动的数据源接入 XA 事务管理器。而针对于使用 DataSource 作为数据库驱动的应用，用户也无需改变其编码以及配置，Apache ShardingSphere（Incubating）通过自动适配的方式，在中间件内部将其转化为支持 XA 协议的 XADataSource 和 XAConnection，并将其作为 XA 资源注册到底层的 XA 事务管理器中。</p>
<p>XA 模块的架构图如下：</p>
<p><img src="https://shardingsphere.apache.org/blog/img/solution1.jpg" alt=""></p>
<h4 id="saga事务跨越柔性事务限制实现自动补偿">Saga事务—跨越柔性事务限制，实现自动补偿</h4>
<p>在柔性事务中，每一次对数据库的更新操作都将数据真正的提交至数据库，以达到高并发系统中最佳资源释放的效果。当数据出现问题需要回滚时，通过柔性事务管理器保持数据的最终一致性以及隔离行为。Apache ShardingSphere（Incubating）采用 Apache ServiceComb Saga Actuator [https://github.com/apache/servicecomb-saga-actuator] 作为 Saga 事务管理器，它的主要功能如下：</p>
<p><strong>1. 自动反向补偿</strong></p>
<p>Saga 定义了一个事务中的每个子事务都有一个与之对应的反向补偿操作。由 Saga 事务管理器根据程序执行结果生成一张有向无环图，并在需要执行回滚操作时，根据该图依次按照相反的顺序调用反向补偿操作。Saga 事务管理器只用于控制何时重试，合适补偿，并不负责补偿的内容，补偿的具体操作需要由开发者自行提供。</p>
<p>另一个柔性事务管理器 TCC 与 Saga 理念相似，均需要由使用方开发者提供补偿操作。除了补偿，TCC 还提供了资源占用的能力，但也需要由使用方开发者提供资源占用操作。虽然功能上强于 Saga，但 TCC 的使用成本较之 Saga 也更高。</p>
<p>由使用方开发者提供资源占用和补偿操作，这就使得柔性事务的解决方案始终难于大规模的在业务系统中落地。并且由于业务系统的介入，使得柔性事务框架的使用范畴始终定位于服务而非数据库，数据库能够直接使用的成熟的柔性事务管理器目前还不多见。</p>
<p>Apache ShardingSphere（Incubating）采用反向 SQL 技术，将对数据库进行更新操作的 SQL 自动生成数据快照以及反向 SQL ，并交由 Apache ServiceComb Saga Actuator 执行，使用方则无需再关注如何实现补偿方法，将柔性事务管理器的应用范畴成功的定位回了事务的本源——数据库层面。</p>
<p>对于能够处理复杂查询语句的 Apache ShardingSphere（Incubating）SQL 解析引擎来说，插入/更新/删除等语句解析难度则要小很多；ShardingSphere 是通过拦截用户执行的 SQL 进行数据分片的，所有的 SQL 都能够被其直接管控。因此将反向 SQL 和补偿能力与 Apache ServiceComb Saga Actuator 相结合，达到了自动化柔性事务的能力，是数据分片和柔性事务结合的典范。</p>
<p>Saga 模块的架构图如下：</p>
<p><img src="https://shardingsphere.apache.org/blog/img/solution2.jpg" alt=""></p>
<h4 id="接入端面向原生事务接口的分布式事务">接入端—面向原生事务接口的分布式事务</h4>
<p>Apache ShardingSphere（Incubating）的目标是像使用一个数据库一样使用分片后的多数据库，在事务模块，这个目标依然适用。无论被 ShardingSphere 所管理的数据库如何分片，面向开发者的逻辑数据库始终只有一个。因此，ShardingSphere 的事务接口依然是原生的本地事务接口，即 JDBC 的 java.sql.Connection 的 setAutoCommit, commit 和 rollback 方法；以及面向数据库事务管理器的 begin, commit 和 rollback 语句。在用户调用原生本地事务接口的同时，ShardingSphere 则通过 sharding-transaction 模块保证后端分片数据库的分布式事务。</p>
<p>由于原生的事务接口并不支持事务类型，因此 ShardingSphere 提供了3种方式供使用者切换事务类型。</p>
<p>1.通过 RAL（Resource & Rule Administration Language）切换当前事务类型。以 SQL 执行的方式输入即可，适用于 Sharding-Proxy。例如：SET VARIABLE TRANSACTION_TYPE=BASE</p>
<p>2.通过 Threadlocal 切换当前事务类型，适用于 Sharding-JDBC。例如：TransactionTypeHolder.set (TransactionType.XA)</p>
<p>3.通过元注解，并与 Spring 配合使用切换当前事务类型，适用于 Sharding-JDBC和Sharding-Proxy。例如：@ShardingTransactionType (TransactionType.BASE)</p>
<h3 id="线路规划">线路规划</h3>
<p>分布式事务模块在 github 的开发分支 [https://github.com/apache/incubator-shardingsphere] 已经基本可用，将随着 4.0.0.M1 的版本发布，这也将是 ShardingSphere 进入 Apache 基金会孵化器之后的第一个发布版本。分布式事务是数据分片以及微服务架构的重要组成部分，也是 Apache ShardingSphere（Incubating）的关注重心，发布之后仍将继续完善，线路规划如下。</p>
<h4 id="事务隔离引擎">事务隔离引擎</h4>
<p>在 SQL 反向引擎稳定之后，柔性事务的重点将放在打造事务隔离之上。由于事务的隔离性并非 Saga 所规划的范畴，因此Apache ShardingSphere（Incubating）会在 Saga 之外将其完善，与 SQL 反向引擎一起作为整个柔性事务的组成部分。</p>
<p>Apache ShardingSphere（Incubating）将通过乐观锁、悲观锁、无隔离等几种策略，做到读已提交、读未提交、可重复读以及序列化等隔离级别的一一支持。并通过多版本快照进一步提升系统的并发度。</p>
<h4 id="对外xa事务接口">对外XA事务接口</h4>
<p>Apache ShardingSphere（Incubating）的两个接入端 Sharding-JDBC 和 Sharding-Proxy 在支持自身的内部事务问题之后，将提供融入与其他数据源一起作为被 JTA 等分布式事务管理器管理的能力。</p>
<p>实现对外 XA 事务接口之后，Sharding-JDBC 的 DataSource 将实现 XADataSource 接口，提供与其他数据源共同加入到一个 XA 事务的可能；Sharding-Proxy 的数据库协议也将实现基于 XA 的两阶段提交协议；使其可以成为被 XA 所加载的资源管理器。</p>
<p>除此之外，ShardingSphere 还会实现 XA 协议的 recovery 部分，即在事务处理器出现崩溃的情况时，可以有能力提供 in-doubt transactions 来实现事务恢复。</p>
<h3 id="总结">总结</h3>
<p>Apache ShardingSphere（Incubating）提供的分布式事务能力可以通过下表总结一下，读者不妨与文章开始时的表格对比一下，看看 ShardingSphere 的分布式事务模块所带来的变化。</p>
<p><img src="https://shardingsphere.apache.org/blog/img/solution3.jpg" alt=""></p>
<p>在高速发展的 Apache ShardingSphere（Incubating）中，分布式事务的雏形已成，我们会尽快将其打造为可用的产品，并持续为社区提供优质解决方案。对于一篇不算短的文章，阅读完此文的您，相信一定对这个领域有一定兴趣。不妨先尝试一下，是否满足您的预期？或者干脆加入我们的社区，一起打造更完善的分布式事务方案。</p>
</div>
<div class="pagination">
<a href="https://shardingsphere.apache.org/blog/cn/videos/ecosystem/" class="left arrow">←</a>
<a href="https://shardingsphere.apache.org/blog/cn/material/committer/" class="right arrow">→</a>
<a href="#" class="top">Top</a>
</div>
</main>
<footer>
<span>
Copyright © 2018-2020, <a href="https://shardingsphere.apache.org/blog/">Apache ShardingSphere</a>, ShardingSphere, Apache, the Apache feather logo, and the Apache ShardingSphere project logo are either registered trademarks or trademarks of The Apache Software Foundation in the United States and other countries.
</span>
</footer>
</body>
</html>