Exchangis轻量级数据交换平台 v1.1.3
1.1.3
Exchangis是微众银行开源的轻量级数据交换平台,用于数据在不同存储介质中快速传递,并解决数据交换过程中面临的复杂性、兼容性等问题。设计上采取微服务架构形态,上下层服务松耦合,易于进行个性化的,高拓展性的迭代开发。
Exchangis支持对结构化及无结构化的异构数据源之间的数据传输,在应用层上具有数据权限管控、节点服务高可用和多租户资源隔离等业务特性,而在数据层上又具有传输架构多样化、模块插件化和组件低耦合等架构特点。
Exchangis的传输交换能力依赖于其底层聚合的传输引擎,其顶层对各类数据源定义统一的参数模型,每种传输引擎对参数模型进行映射配置,转化为引擎的输入模型。每聚合一种引擎,都将增加Exchangis一类特性,对某类引擎的特性强化,都是对Exchangis特性的完善。默认聚合以及强化Alibaba的DataX传输引擎。
1、数据源管理
以绑定项目的方式共享自己的数据源;
设置数据源对外权限,控制数据的流入和流出。
2、多传输引擎支持
传输引擎可横向扩展;
当前完整聚合了离线批量引擎DataX、部分聚合了大数据批量导数引擎SQOOP
3、近实时任务管控
快速抓取传输任务日志以及传输速率等信息,实时关闭任务;
可根据带宽状况对任务进行动态限流
4、支持无结构化传输
DataX框架改造,单独构建二进制流快速通道,适用于无数据转换的纯数据同步场景。
5、任务状态自检
监控长时间运行的任务和状态异常任务,及时释放占用的资源并发出告警。