PiFlow是一个基于分布式计算框架Spark开发的大数据流水线系统。该系统将数据的采集、清洗、计算、存储等各个环节封装成组件,以所见即所得方式进行流水线配置。简单易用,功能强大。本次版本更新如下特性:
- 支持流水线组调度功能
- 支持数据源注册功能
- 支持流水线路由功能
- 优化流水线配置插件,支持标签、右键运行、更换图标、更换线型
- 优化监控页面
- 优化数据处理组件
- 优化启动配置项
下载地址:
Gitee地址: https://gitee.com/opensci/piflow
GitHub地址: https://github.com/cas-bigdatalab/piflow