8 代立冬

尚未进行身份认证

我要认证

StayHungryStayFoolish外功修行内功修神

等级
TA的排名 2k+

【安全通报】DolphinScheduler 漏洞情况说明及处理

Apache DolphinScheduler 社区邮件列表最近通告了 2 个漏洞,考虑到有很多用户并未订阅此邮件列表,我们特地在此进行情况说明:CVE-2020-11974[1]漏洞 (CVE-2020-11974[1]) 是与 mysql connectorj 远程执⾏代码漏洞有关,mysql connectorj 漏洞详情请参见:https://securityonline.info/mysql-connectorj-remote-code-execution-vulnerability/

2020-09-16 10:06:40

Apache DolphinScheduler 1.3.2 发布,架构升级,性能提升 2~3 倍

引言大数据任务调度作为大数据建设中的核心基础设施,在经过社区用户们长期的使用中,不少用户对调度也提出了很多新的要求,为此,Apache DolphinScheduler(Incubating)经过长达 5 个多月的辛苦努力, 终于发布了 1.3.2 正式版本。DolphinScheduler-1.3.2 有超过 30 名贡献者参与开发,性能较 1.2 版本有 2 ~ 3 倍的提升,相对 1.2 版本,1.3.x 增加了诸如 K8s支持、多目录管理等重要的新特性和新的任务类型。1.3.x 重要的改动如下.

2020-09-10 14:40:58

Git下载加速

方法一(推荐)前期的准备:首先自己将代理开启,系统代理模式改为全局模式1.设置Git的代理方式git config --global http.proxy http://127.0.0.1:1080git config --global https.proxy https://127.0.0.1:1080git config --global http.proxy 'socks5://127.0.0.1:1080' git config --global https.proxy '

2020-08-26 15:46:32

Apache DolphinScheduler 诞生记

Apache DolphinScheduler 诞生记DolphinScheduler,简称”DS”, 中文名 “小海豚调度”(海豚聪明、人性化,又左右脑可互相换班,终生不用睡觉)。希望 DolphinScheduler 就像它的名字一样,成为一个“开箱即用”的灵活易用的调度系统。1概述DAG 全称Directed Acyclic Graph,简称DAG。工作流中的Task任务以有向无环图的形式组装起来,从入度为零的节点进行拓扑遍历,直到无后继节点为止。Apache DolphinScheduler

2020-08-03 18:11:44

美女 Committer 手把手教你部署 Apache DolphinScheduler 单机版

还在为如何部署Apache DolphinScheduler 发愁么?自上篇《美女 Committer 手把手教你使用海豚调度》的视频发布后,受到社区伙伴们的热烈欢迎。但个别小伙伴在部署这块还是遇到了一点儿小麻烦,本次特地再次邀请美女 Committer - 陈兴春为社区录制如何部署 DolphinScheduler 单机版本,之所以是单机版本,是因为想让大家能够尽快感受 DolphinScheduler 的能力,让小白也可以轻松部署 DS ,充分贯彻 DolphinScheduler 的 Slogan:调

2020-07-29 19:13:20

本周六 Apache DolphinScheduler & Doris 将联合线上 Meetup

活动背景 2020年,大数据成为国家基建的一个重要组成,大数据在越来越多的领域展现威力。随着大数据的应用场景越来越多,大家对数据的响应速度和数据加工工作流的方便程度也提出了更高的要求。在这种背景下,相信做过大数据的技术小伙伴应该对 Apache 一词不会陌生,Apache 基金会旗下拥有被广泛使用的众多开源软件,本次特地邀请到 2 个本土的 Apache 大数据应用项目的开发者来一起分享解决数据响应速度和数据工作流任务调度方面的开源技术,一起为中国开源献力。Apache Doris(Incubating

2020-07-21 12:15:53

Apache DolphinScheduler(海豚调度) - 1.3 系列核心表结构剖析

Apache DolphinScheduler 是一个分布式去中心化,易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。近日,伯毅同学给社区贡献了工作流核心表结构的剖析文章,非常细致,喜欢的伙伴请转走1. 工作流总体存储结构在 dolphinscheduler 库中创建的所有工作流定义(模板)都保存在 t_ds_process_definition 表中.该数据库表结构如下表所示:序号字段类型描述1id

2020-07-03 17:10:30

金灿灿的季节 - Apache DolphinScheduler收获5位新Committer

在这个金灿灿的收获季节,经过ApacheDolphinSchedulerPPMC们的推荐和投票,ApacheDolphinScheduler收获了5位新Committer。他们是:nauu(朱凯)、Rubik-W(温合民)、gabrywu、liwenhe1993、clay4444。对于成为Committer,小伙伴们说道:朱凯:非常荣幸能够成为DolphinSchedule的Committer。这既是一份喜悦,也是一份责任。我将以终为始,继续打怪升级,助力DS早日毕业...

2020-05-28 19:07:52

直播回放:DolphinScheduler 1.3.0新特性与Roadmap路线,700多人在线

Apache DolphinScheduler社区于2020-05-26 19:30进行了社区情况介绍和新特性及Roadmap路线分享,本次线上直播有700多人在线,没来得及观看的伙伴请收看回放呐具体内容请参见回放地址:【Apache DolphinScheduler新特性及Roadmap】DolphinScheduler(Incubating) 1.3.0新特性及Roadmap路线直播内容介绍本次直播主要包括以下内容:1、DolphinScheduler社区情况介绍2、缘何.

2020-05-28 11:38:49

弄明白CMS和G1,就靠这一篇了

在开始介绍CMS和G1前,我们可以剧透几点:根据不同分代的特点,收集器可能不同。有些收集器可以同时用于新生代和老年代,而有些时候,则需要分别为新生代或老年代选用合适的收集器。一般来说,新生代收集器的收集频率较高,应选用性能高效的收集器;而老年代收集器收集次数相对较少,对空间较为敏感,应当避免选择基于复制算法的收集器。 在垃圾收集执行的时刻,应用程序需要暂停运行。 可以串行收集,也可以并行收...

2020-04-14 13:38:15

使用 DolphinScheduler 调度 Kylin 构建

原创 史少锋@Kyligence apachekylin 前天01 背景Apache Kylin 是一个支持海量大数据的在线分析引擎,需要离线或流式地从Apache Hive, Apache Kafka加载数据。通常当上游数据准备好以后,用户需要使用Kylin的Web界面或API触发以生成数据加载的任务。为了让整个工作流自动化起来,需要结合一些任务调度平台,如Oozie,Linux cront...

2020-02-29 23:09:19

Apache DolphinScheduler集群部署方案

集群部署(Cluster)DolphinScheduler集群部署分为后端部署和前端部署两部分:1、后端部署1.1 : 基础软件安装(必装项请自行安装)PostgreSQL (8.2.15+) or Mysql (5.6或者5.7系列) : 两者任选其一即可JDK (1.8+) : 必装,请安装好后在/etc/profile下配置 JAVA_HOME 及 PATH 变量ZooK...

2020-02-25 12:35:52

Apache DolphinScheduler 单机部署方案

单机部署(Standalone)DolphinScheduler单机部署分为后端部署和前端部署两部分:1、后端部署1.1 : 基础软件安装(必装项请自行安装)PostgreSQL (8.2.15+) or Mysql (5.6或者5.7系列) : 两者任选其一即可JDK (1.8+) : 必装,请安装好后在/etc/profile下配置 JAVA_HOME 及 PATH 变量Z...

2020-02-25 12:32:21

Apache DolphinScheduler 1.2.1发布,可视化工作流任务调度系统

Apache DolphinScheduler 1.2.1发布,可视化工作流任务调度系统​Apache DolphinScheduler 于2020年2月24日正式发布 1.2.1 版,发布内容如下:新特性:[#1497] 通过 API 创建的工作流在前端展示时自动调整布局。 [#747] Worker server 运行日志脱敏。 [#1635] 配置文件适当合并。 [#154...

2020-02-25 12:21:43

logback日志配置说明

常用配置说明1:<?xml version="1.0" encoding="UTF-8"?><!--scan:当此属性设置为true时,配置文件如果发生改变,将会被重新加载,默认值为true。scanPeriod:设置监测配置文件是否有修改的时间间隔,如果没有给出时间单位,默认单位是毫秒当scan为true时,此属性生效。默认的时间间隔为1分钟。debug:当此属性...

2020-02-01 19:33:20

Code Review应该关注哪些点?

Code Review应该关注什么?注意:当我们考虑以下点时,应当始终遵循Code Review标准。设计Code Review中最重要的一个点就是把握住变更中的整体设计。变更中各个部分的代码交互是否正常?整个改动是否属于你负责的代码库?是否和你系统中其他部分交互正常?现在是否是添加整个功能的恰当时间?功能性开发者在这个变更中想做什么? 开发人员打算为该代码的用户带来什么好处?(这里”用...

2019-12-31 20:48:24

Error:java: javacTask: source release 8 requires target release 1.8异常处理

Error:java: javacTask: source release 8 requires target release 1.8编译无问题,运行时报错:环境:JDK Version: 1.8.0_171IDE: IntelliJ Idea 2018IntelliJ SDK Setting解决:1、将Target Bytecode Version设为1.8 。2、如果项目使用...

2019-12-24 16:16:32

10分钟,快速搞懂RFM用户分析模型

月月针对全量用户上线活动,运营、设计、产品、研发全情投入,好努力却无从追溯效果?预算有限、想策划高ROI方案?在寻求以上问题的解决办法中,RFM用户价值分层模型一定会上榜,因为它是常见的精细化运营方法论。RFM客户价值模型是一种有着几十年发展和应用的业务分析模型。通过一个客户的近期购买行为(R)、购买的总体频率(F)以及消费总金额(M)三项指标来描述该客户的价值状况,依据这三项指标划分为6...

2019-12-17 22:17:11

Apache ShardingSphere & DolphinScheduler将举行联合meetup

您是否想加入Apache社区并成为某个项目的Committer或PPMC,拥有一个apache邮箱呢?你是否知道apache社区的Committer也可以是非代码贡献者?本联合meetup旨在让对开源有兴趣的伙伴们有机会加入到社区中来,成为一份子,让自己的青春热血留下永久痕迹,让自己的代码(或者文档、或者issue等)才华绽放出璀璨的光芒!活动介绍如今,开源在中国遍地开花,开源之势不可挡,...

2019-11-24 22:44:22

从开源使用者到Apache PPMC之路

近日, 观远数据联合创始人&首席架构师吴宝琪, 作为Apache DolphinScheduler 的PPMC(项目管理委员会)成员参加了Apache DolphinScheduler 的首届用户大会, 并在大会上做了《从开源使用者到Apache PPMC之路》的分享。Apache软件基金会创建于1999年,是专门为支持开源软件项目而创办的一个非营利性组织,也是世界上最...

2019-11-24 19:54:22

查看更多

CSDN身份
  • 博客专家
勋章 我的勋章
  • GitHub
    GitHub
    绑定GitHub第三方账户获取
  • 签到新秀
    签到新秀
    累计签到获取,不积跬步,无以至千里,继续坚持!
  • 新人勋章
    新人勋章
    用户发布第一条blink获赞超过3个即可获得
  • 专栏达人
    专栏达人
    授予成功创建个人博客专栏的用户。专栏中添加五篇以上博文即可点亮!撰写博客专栏浓缩技术精华,专栏达人就是你!
  • 1024勋章
    1024勋章
    #1024程序员节#活动勋章,当日发布原创博客即可获得
  • 勤写标兵Lv2
    勤写标兵Lv2
    授予每个自然周发布4篇到6篇原创IT博文的用户。本勋章将于次周周三上午根据用户上周的博文发布情况由系统自动颁发。