Skip to content
/ EasyTransaction Public
forked from QNJR-GROUP/EasyTransaction

A distribute transaction solution（分布式事务） unified the usage of TCC , SAGA ,FMT (seata/fescar AutoCompensation)， reliable message, compensate and so on;

License

Apache-2.0 license
0 stars 808 forks Branches Tags Activity
Star
Notifications You must be signed in to change notification settings

NekoTarou/EasyTransaction

BranchesTags
 
 

Repository files navigation

English Readme

中文

零、SEO

柔性事务，分布式事务，TCC，SAGA，可靠消息，最大努力交付消息，事务消息，补偿，全局事务，soft transaction, distribute transaction, compensation,自动补偿

本框架可一站式解决分布式SOA（包括微服务等）的事务问题。

一、由来 及 特性

这个框架是结合公司之前遇到的分布式事务场景以及 支付宝程立分享的一个PPT<大规模SOA系统的分布式事务处理>而设计实现。

本框架意在解决之前公司对于每个分布式事务场景中都自行重复设计 中间状态、幂等实现及重试逻辑 的状况。

采纳本框架后能解决现有已发现的所有分布式事务场景，减少设计开发设计工作量，提高开发效率，并统一保证事务实现的可靠性。

特性：

  • 一个框架包含多种事务形态，一个框架搞定所有类型的事务
  • 多种事务形态可混合使用
  • 高性能,大多数业务系统瓶颈在业务数据库，若不启用框架的幂等功能，对业务数据库的额外消耗仅为写入25字节的一行
  • 可选的框架自带幂等实现及调用错乱次序处理，大幅减轻业务开发工作量,但启用的同时会在业务数据库增加一条幂等控制行
  • 业务代码可实现完全无入侵
  • 支持嵌套事务
  • 无需额外部署协调者，不同APP的服务协调自身发起的事务，也避免了单点故障
    • 也可以对某个APP单独部署一个协调者
  • 分布式事务ID可关联业务ID，业务类型，APPID，便于监控各个业务的分布式事务执行情况
  • 整合并大幅改造阿里Fescar的自动补偿核心功能，提供分布式高可用的协调功能

二、分布式事务场景及框架对应实现

分布式事务场景

  • 无需分布式事务
    • 最常用
    • 最优先使用
  • 使用消息队列完成的最终一致性事务
    • 适用于服务可以自行决定全局事务状态（rollback/commit）的场景
    • 常见
    • 若一定要与其他服务写接口发生交互，则优先使用
    • 依据是否保证投递到订阅者，分为可靠消息及最大努力交付消息
    • 有时业务要求一些本质是异步的操作同步返回结果，若同步返回失败则后台异步补单。这种业务本质也归属于无需外部数据变更以协助完成的最终一致性，但介于其同步时要返回结果，其有区别于可靠消息。
  • 使用传统补偿完成的最终一致性事务
    • 适用于需要获取远程执行结果来决定逻辑事务走向 且 可以进行补偿的业务
    • 若使用消息队列不能解决的事务问题优先考虑使用基于补偿的最终一致性事务（若需要嵌套事务，则使用TCC）
    • 本框架中传统补偿不支持嵌套，若有需要，可改用TCC
  • 使用自动补偿完成的最终一致性事务（整合改造阿里的Seata/Fescar的AT模式完成）
    • 适用于需要获取远程执行结果来决定逻辑事务走向 且 不介意偶尔读取并展示脏数据的场景
    • 该模式下，普通select时数据整体处于脏读状态，进行本地更新事务时，若进行逻辑判断所需的字段会参与到全局事务时，需要用AutoCpsLocalTransactionExecutor.executeWithGlobalLockCheck方法加上Select for update获取准确值后再判断
    • 因上述全局事务及本地事务的协作是一个隐式、易错点，甚至于写每一个涉及更新的SQL都需要考虑上面这个因素，因此希望引入并使用自动补偿时，需建立好相关使用规范，以避免后续项目失控
    • 同时由于最终一致到达的时间相对单机事务来说长很多，因此若有某些记录为热记录，并且其用了自动补偿，则性能会下降很多
  • 使用TCC完成最终一致性事务
    • 适用于需要获取远程执行结果来决定逻辑事务走向 且 不可以进行补偿的业务
    • 最终解决办法，囊括所有必须使用2PC实现的场景。编码量最大，性能消耗最大
  • SAGA
    • 其与传统补偿相似（在某些框架里定义的Saga即为本框架定义的传统补偿）
    • 本框架定义的SAGA为正向操作和反向操作都不在主控事务执行过程中执行，通过队列异步执行，因此可以减少事务记录加锁时间
    • 若同步操作较多（TCC、补偿）的情况下，可以用SAGA替代同步操作，这样会有性能上的提升
    • 但使用SAGA其主控方代码形态会有稍有变化，因为其主控方的事务要拆成两个(具体请查看DEMO),有额外编码负担
    • 本框架实现的SAGA并非传统的SAGA,可以将其类比为异步TCC，与传统SAGA的区别可以类比 传统补偿及TCC的关系
    • 还有就是本框架使用RPC而非队列实现SAGA，具体原因可以在SAGA-TCC这个DEMO里查看

关于如何选择分布式事务形态，更详细的可参考，请点赞以帮助SEO：https://www.cnblogs.com/skyesx/p/9697817.html

框架对应实现及基本原理

框架实现了上述所有事务场景的解决方案，并提供了统一易用的接口。以下介绍基本实现原理

无需分布式事务

对于此类事务，框架完全不介入，不执行一行额外代码

其他事务场景

框架的核心依赖是Spring的TransactionSynchronization，只要使用的事务管理器继承自AbstractPlatformTransactionManager都能使用本框架（基本上事务管理器都继承自本实现）,在此之外，1.0.0版本之后，框架使用了SPRING BOOT的配置功能及JDK8的特性，因此SPRING BOOT及JDK8也是必选项

对于分布式事务，框架会在调用远程事务方法前，将对应的框架操作挂载到TransactionSynchronization中，如：

  • 使用消息队列完成的最终一致性事务，框架将会在全局事务状态确认为提交后发发送消息，保证只有全局事务确认后才能被外部看见，这里也省去业务开发者对于 发送-确认-检测 类型 队列实现的代码量
  • 使用TCC完成最终一致性事务,框架将会根据事务的实际完成情况调用Confirm或者Cancel,用传统补偿完成的最终一致性事务也类似

框架有后台线程负责CRASH恢复，其根据“在执行分布式服务调用前写入的WriteAheadLog获得可能已经调用的业务”以及“跟随业务一起提交的一条框架记录以确认的业务最终提交状态”来进行最终的CRASH具体操作（如TCC的Confirm或者Rollback）

框架对于幂等也有完整的实现（可选），框架能保证业务方法逻辑上只执行一遍（有可能执行多遍，但多次执行的方法会被回滚掉，因此，涉及不可回滚的外部资源时，业务程序需自行把控其幂等性）

框架对于方法间有调用关系依赖的也进行妥善的处理，例如基于传统补偿完成的最终一致性事务中

  • 业务方法没有被调用(或者由于延时晚于补偿方法执行)，那么补偿方法对应的业务实现也不会被调用（但框架仍会记录下补偿方法已经被调用过）
  • 补偿方法已经被掉用过了，那么业务方法无论曾经有没有被执行过，都不会被调用

所有远程调用的结果都是以Future形式返回，这给框架的性能优化提供了空间，在第一次获取结果前，所有的日志都不会被写入所有远程方法都不会被调用。一旦业务程序尝试获取执行结果时，才会批量写入日志及后续并发调用远程方法。

如果业务程序没有尝试获取执行结果，框架COMMIT前会统一尝试GET一遍，对于所有远程方法一旦抛出了Exception,框架都会在最后commit前将业务回滚，而无论之前是否catch住了，这样能保证编程模型的简洁，方便写出正确易理解的代码。

三、使用简介

业务代码

组件已上传到中央仓库，对于业务代码可以直接加入以下内容到pom中

  <dependency>
    <groupId>com.yiqiniu.easytrans</groupId>
    <artifactId>easytrans-starter</artifactId>
    <version>1.3.1</version>
  </dependency>

Starter里包含了若干默认的组件实现:基于mysql的分布式事务日志存储，基于ribbon-rest的RPC实现，基于KAFKA的消息队列，若不需要或者要替换，可以EXCLUDE掉

业务发起者

对于业务发起者，框架只暴露一个接口

public interface EasyTransFacade {
/**
 * start easy Transaction
 * @param busCode appId+busCode+trxId is a global unique id,no matter this transaction commit or roll back
 * @param trxId see busCode
 */
void startEasyTrans(String busCode, String trxId);

/**
 * execute remote transaction
 * @param params
 * @return
 */
<P extends EasyTransRequest<R, E>, E extends EasyTransExecutor, R extends Serializable> Future<R> execute(P params);
}

使用方法如下，使用方直接调用远程方法即可，无需考虑具体的分布式事务类型及后续处理：

@Transactional
public void buySomething(int userId,long money){
/**
	* 本地业务方法，下订单，并获得订单号
	*/
	JdbcTemplate jdbcTemplate = util.getJdbcTemplate();
	Integer id = saveOrderRecord(jdbcTemplate,userId,money);
	
	/**
	 * 声明全局事务ID，其由appId,业务代码，业务代码内ID构成
	 * 这个方法也可以不调用，框架用默认的业务代码及自动生成的ID号，但这样做的缺点是全局事务ID无法直接关联到具体业务
	 * 不过这个可以通过自定义BusinessCodeGenerator及TrxIdGenerator来产生关联
	 */
	transaction.startEasyTrans(BUSINESS_CODE, id);
	
	/**
	 * 调用远程服务扣除所需的钱,这个远程服务实现了TCC接口,
	 * 框架会根据buySomething方法的事务结果来维护远程服务的最终一致性
	 */
	WalletPayTccMethodRequest deductRequest = new WalletPayTccMethodRequest();
	deductRequest.setUserId(userId);
	deductRequest.setPayAmount(money/2);
	// 业务上可多次调用同一方法，最后生效的也是实际调用的次数
	Future<WalletPayTccMethodResult> deductFuture = transaction.execute(deductRequest);
	Future<WalletPayTccMethodResult> deductFuture = transaction.execute(deductRequest);

	/**
	 * 调用远程服务进行账务登记，账务服务是一个可补偿服务
	 * 当buySomething方法对应的事务回滚了，框架将会自动调用补偿对应的业务方法
	 * 
	 */
	AccountingRequest accountingRequest = new AccountingRequest();
	accountingRequest.setAmount(money);
	accountingRequest.setUserId(userId);
	Future<AccountingResponse> accountingFuture = transaction.execute(accountingRequest);
	
     /**
	 * 
	 * 发布消息以触发相关的业务处理，例如增加积分。这是一个可靠的消息。
	 * 这个消息会在buySomething()的事务提交后，保证成功发布出去
	 * 但至于消息是否成功消费，这取决于Queue接口的具体实现
	 */
	OrderMessage orderMessage = new OrderMessage();
	orderMessage.setUserId(userId);
	orderMessage.setAmount(money);
	Future<PublishResult> reliableMessage = transaction.execute(orderMessage);
}

服务提供者

对于服务提供者，则实现对应的接口，并将其注册到Spring的Bean容器即可

如提供TCC服务的业务，需实现TccMethod接口：

 public interface TccMethod<P extends TccTransRequest<R>, R  extends Serializable> extends RpcBusinessProvider<P> {
	R doTry(P param);
	void doConfirm(P param);
	void doCancel(P param);
}

具体实现：

@Component
public class WalletPayTccMethod implements TccMethod<WalletPayTccMethodRequest, WalletPayTccMethodResult>{

@Resource
private WalletService wlletService;

@Override
public WalletPayTccMethodResult doTry(WalletPayTccMethodRequest param) {
	return wlletService.doTryPay(param);
}

@Override
public void doConfirm(WalletPayTccMethodRequest param) {
	wlletService.doConfirmPay(param);
}

@Override
public void doCancel(WalletPayTccMethodRequest param) {
	wlletService.doCancelPay(param);
}
}

其中WalletPayTccMethodRequest是请求参数，其为继承自EasyTransRequest类的POJO,且其需要添加BusinessIdentifer注解，以便于框架确认本请求对应的业务ID

@BusinessIdentifer(appId=Constant.APPID,busCode=METHOD_NAME)
public class WalletPayTccMethodRequest implements TccTransRequest<WalletPayTccMethodResult>{
	private static final long serialVersionUID = 1L;
	
	private Integer userId;
	
	private Long payAmount;

	public Long getPayAmount() {
		return payAmount;
	}

	public void setPayAmount(Long payAmount) {
		this.payAmount = payAmount;
	}

	public Integer getUserId() {
		return userId;
	}

	public void setUserId(Integer userId) {
		this.userId = userId;
	}
}

以上的示例是传统的调用形式，无业务代码入侵的使用形式如下,更具体的使用请参考demo(interfacecall)：

@Transactional
public String buySomething(int userId,long money){
	
	int id = saveOrderRecord(jdbcTemplate,userId,money);
	
	//WalletPayRequestVO 是一个VO，无任何继承及注解，只有相关的属性及GETTER,SETTER
	WalletPayRequestVO request = new WalletPayRequestVO();
	request.setUserId(userId);
	request.setPayAmount(money);
	
	//payService是通过框架生成的一个PayService接口实例，调用该实例的方法即完成了分布式事务调用
	WalletPayResponseVO pay = payService.pay(request);
	

	return "id:" + id + " freeze:" + pay.getFreezeAmount();
	}

更多例子

请参考easytrans-demos里面的代码，这里提供了一个简明的代码。 更完整的配置及相关用例请参考easytrans-starter里的UT案例，UT中有一个MockSerivice,使用了各种场景的事务。并对事务的各种异常场景做了测试。

运行配置

每个运行业务的库都需要新增两张表,表的字段类型经过了修改，若之前建了表，需要重建

-- 用于记录业务发起方的最终业务有没有执行
-- p_开头的，代表本事务对应的父事务id
-- select for update查询时，若事务ID对应的记录不存在则事务一定失败了
-- 记录存在，但status为0表示事务成功,为1表示事务失败（包含父事务和本事务）
-- 记录存在，但status为2表示事务最终状态未知
CREATE TABLE `executed_trans` (
  `app_id` smallint(5) unsigned NOT NULL,
  `bus_code` smallint(5) unsigned NOT NULL,
  `trx_id` bigint(20) unsigned NOT NULL,
  `p_app_id` smallint(5) unsigned DEFAULT NULL,
  `p_bus_code` smallint(5) unsigned DEFAULT NULL,
  `p_trx_id` bigint(20) unsigned DEFAULT NULL,
  `status` tinyint(1) NOT NULL,
  PRIMARY KEY (`app_id`,`bus_code`,`trx_id`),
  KEY `parent` (`p_app_id`,`p_bus_code`,`p_trx_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_bin;

CREATE TABLE `idempotent` (
  `src_app_id` smallint(5) unsigned NOT NULL COMMENT '来源AppID',
  `src_bus_code` smallint(5) unsigned NOT NULL COMMENT '来源业务类型',
  `src_trx_id` bigint(20) unsigned NOT NULL COMMENT '来源交易ID',
  `app_id` smallint(5) NOT NULL COMMENT '调用APPID',
  `bus_code` smallint(5) NOT NULL COMMENT '调用的业务代码',
  `call_seq` smallint(5) NOT NULL COMMENT '同一事务同一方法内调用的次数',
  `handler` smallint(5) NOT NULL COMMENT '处理者appid',
  `called_methods` varchar(64) NOT NULL COMMENT '被调用过的方法名',
  `md5` binary(16) NOT NULL COMMENT '参数摘要',
  `sync_method_result` blob COMMENT '同步方法的返回结果',
  `create_time` datetime NOT NULL COMMENT '执行时间',
  `update_time` datetime NOT NULL,
  `lock_version` smallint(32) NOT NULL COMMENT '乐观锁版本号',
  PRIMARY KEY (`src_app_id`,`src_bus_code`,`src_trx_id`,`app_id`,`bus_code`,`call_seq`,`handler`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

（基于数据库实现的事物日志，若使用REDIS记录事务日志则无需以下表）需要有一个记录事务日志的数据库，并为其创建两张表。每个业务服务都必须有对应的事务日志数据库。可多个服务共用一个，也可以一个服务单独一个事务日志。

CREATE TABLE `trans_log_detail` (
  `log_detail_id` int(11) NOT NULL AUTO_INCREMENT,
  `trans_log_id` binary(12) NOT NULL,
  `log_detail` blob,
  `create_time` datetime NOT NULL,
  PRIMARY KEY (`log_detail_id`),
  KEY `app_id` (`trans_log_id`)
) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8;

CREATE TABLE `trans_log_unfinished` (
  `trans_log_id` binary(12) NOT NULL,
  `create_time` datetime NOT NULL,
  PRIMARY KEY (`trans_log_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
SELECT * FROM translog.trans_log_detail;

若需要使用自动补偿功能，则需要在业务库额外增加以下两个表

CREATE TABLE `undo_log` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT,
  `branch_id` bigint(20) NOT NULL,
  `xid` varchar(100) NOT NULL,
  `rollback_info` longblob NOT NULL,
  `log_status` int(11) NOT NULL,
  `log_created` datetime NOT NULL,
  `log_modified` datetime NOT NULL,
  `ext` varchar(100) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `idx_unionkey` (`xid`,`branch_id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;


CREATE TABLE `fescar_lock` (
  `t_name` varchar(64) NOT NULL,
  `t_pk` varchar(128) NOT NULL,
  `xid` varchar(256) NOT NULL,
  `create_time` datetime NOT NULL,
  PRIMARY KEY (`t_name`,`t_pk`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

详细的配置会后续作出手册，但在此之前各位可以参考easytrans-starter里的UT案例 或者 参考demo进行

四、扩展性

框架采用接口粘合各个模块，具有较强的扩展性，推荐 扩展、替换 的模块：

  • RPC实现
    • 目前支持DUBBO，SPRING CLOUD RIBBON/EUREKA的支持
    • 欢迎增加额外实现
  • 消息队列实现
    • 目前支持阿里ONS(创建时请使用无序消息)及KAFKA
    • 欢迎增加额外实现，需实现两个核心方法
  • 序列化实现
    • 目前使用Spring-core提供的序列化，效率较低，但目前性能不是瓶颈，没做优化
    • 欢迎增加额外实现以提高效率
  • 增删改Filter具体实现类
    • 目前有幂等Filter、元数据设置FILTER、级联事务协助处理Filter
    • 若有额外需求可新增Filter
  • 数据源选择器的实现
    • 目前提供单数据源选择器
    • 若服务有多个数据源，需自行实现业务相关的数据源选择器，根据请求选择数据源
  • 事务执行日志的实现
    • 目前提供基于关系数据库及REDIS的实现
    • 为提高效率，可自行实现基于其他形式的事务日志，如文件系统，HBASE等，欢迎PR
  • 主从选择器
    • 目前基于ZK实现了主从选择
    • 若不想采用ZK可自行替换ZK实现

五、最佳实践

基于数据库的事务日志

  • 将事务日志数据库与业务数据库分开存放

参数及返回值

  • 因有持久化成本，请保证调用方法的参数及返回值尽量小

六、FAQ

  1. 如何在CRASH后判断一个柔性事务是否提交？
    • 在调用startEasyTrans()方法时，框架将插入一条记录到executed_trans中
    • 在调用startEasyTrans()方法后，才可以执行远程事务方法
    • 业务发起者（主控事务）将持有executed_trans记录的锁直到主控事务回滚或者提交
    • 因此CRASH恢复进程使用select for update 查询executed_trans记录时，必然能得到准确的是否已经提交的结果（若主控事务仍在进行中，select for update将会等待）
    • 使用select for update是为了避免在MVCC情况下错误查询出最终事务提交结果的情况

七、外部组件版本兼容性

  • ZK请使用3.4及以上版本
  • SpringBoot 2.0.x 以及 SpringCloud F版本的整合请参考Demo里的tccandfescar
    • 需要注意的是写文档时最新版的spring boot（2.0.8）引入的最新版mysql-connector-java （5.1.47）存在bug,要降级为5.1.46
    • 另因SpringCloud大版本变更时导致某些包名变动，在F版本时使用ET的Ribbon时，需要在项目单独引入spring-cloud-starter-netflix-ribbon
  • 如果遇到ZK库相关的包匹配问题，需要检查当前项目的相关包版本
    • 在1.2.0版本后，curator-recipes及curator-framework需为4.x.x,zookeeper客户端版本需为3.4.x或者3.5.x（视ZK服务器版本而定）
    • 1.2.0版本前，curator-recipes及curator-framework需为2..x.x,zookeeper客户端版本同上

八、其他

欢迎加作者个人微信公众号

wechat public account

若觉得框架不错，希望能STAR,THX

email: [email protected]

我写的关于ET的一些额外文章，请点赞以帮助SEO：

About

A distribute transaction solution（分布式事务） unified the usage of TCC , SAGA ,FMT (seata/fescar AutoCompensation)， reliable message, compensate and so on;

Resources

Readme

License

Apache-2.0 license
Activity

Stars

0 stars

Watchers

1 watching

Forks

0 forks
Report repository

Releases

11 tags

Packages

No packages published

Languages

  • Java 98.9%
  • Other 1.1%