自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(174)
  • 资源 (11)
  • 收藏
  • 关注

原创 docker搭建hadoop集群

1.拉取hadoop镜像docker pull docker.io/sequenceiq/hadoop-docker

2021-06-08 15:38:01 1759

原创 springboot集成gateway和nacos

pom依赖如下,不要引入spring-boot-starter-tomcat否则会报错<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/

2020-09-29 15:11:42 5073 1

原创 JVM内存溢出CPU飙升排查方法

一、内存不足查看linux内存使用情况free -m查看java 进程/线程对系统的占用情况top 看堆内存信息jmap -heap pid导出dump java堆数据jmap -dump:live,format=b,file=/dump_.dat pid打开jvisualVM-》文件-》装入-》堆dump二、cpu飙升top命令...

2020-04-19 18:56:38 1316

原创 springboot+dubbo集成hystrix熔断器

简介熔断器的原理如同电力过载保护器。它可以实现快速失败,如果它在一段时间内侦测到许多类似的错误,会强迫其以后的多个调用快速失败,不再访问远程服务器,从而防止应用程序不断地尝试执行可能会失败的操作,使得应用程序继续执行而不用等待修正错误,或者浪费CPU时间去等到长时间的超时产生。dubbo-consumer、dubbo-provider分别作为服务的消费者和生产者,所有熔断相关配置是在消费者...

2020-03-17 14:22:53 878

原创 springboot RabbitMQ分布式事务-可靠消息的最终一致性方案代码示例

Rabbit mq分布式事务主要问题如果先发送消息,再执行本地事务,可能会出现消息已经发送成功,但是Rabbit mq没有返回,则无法更新消息表;或者接收到消息成功发送通知,但是更新数据库失败;如果先执行本地事务,再发送消息,可能本地事务执行成功,但Rabbit mq没有发送;或者发送了没有返回。Rabbit mq分布式事务实现思路生产者向Rabbit mq发送消息,消费者此时不消...

2020-02-22 00:07:40 3675 1

原创 springboot整合rabbitmq手动签收

Springboot为AMQP提供了自动化配置依赖 spring-boot-starter-amqp,因此在项目中添加该依赖 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-star...

2020-02-13 18:48:26 2148

原创 springboot整合jwt

简介Jwt全称是:json web token。它将用户信息加密到token里,服务器不保存任何用户信息。服务器通过使用保存的密钥验证token的正确性,只要正确即通过验证。优点简洁: 可以通过URL、POST参数或者在HTTP header发送,因为数据量小,传输速度也很快; 自包含:负载中可以包含用户所需要的信息,避免了多次查询数据库; 因为Token是以JSON加密的形式保存...

2020-01-18 23:11:22 436

原创 springboot mybatis使用redis作为二级缓存

创建springboot项目引入如下依赖 <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-redi...

2019-12-24 21:30:09 401

原创 springboot JdbcTemplate工具类封装

pom引入以下依赖<dependency> <groupId>com.alibaba</groupId> <artifactId>druid</artifactId> <version>1.1.14</version> &...

2019-12-08 15:52:32 1919

原创 springboot集成CAS单点登录客户端

1. springboot项目pom.xml中 添加cas客户端依赖包<dependency> <groupId>org.jasig.cas.client</groupId> <artifactId>cas-client-core</artifactId> <version>3.5.0</...

2019-11-08 13:32:26 15208 11

原创 Elasticsearch增量同步Mysql数据

首先安装Elasticsearch,参考https://blog.csdn.net/letterss/article/details/91361205同步我们需要用到logstash工具,下载logstash将下载的logstash-7.2.0.tar解压tar -zxvflogstash-7.2.0.tar将mysql的连接库jar包放到logstash-7.2.0/confi...

2019-07-26 11:25:37 1215

原创 Linux搭建Elasticsearch集群详细过程

系统环境:centos7.5192.168.204.128192.168.204.129192.168.204.130JDK:1.8elasticsearch-7.1.11.配置JAVA环境,将JDK1.8解压到/usr/local/jdk/目录下,在/etc/profile中添加JAVA_HOME=/usr/local/jdk/jdk1.8CLASSPATH=.:$...

2019-07-21 15:20:47 797

原创 binlog2sql恢复mysql数据

1.查看数据库是否开启binlogshow variables like '%log_bin%';状态是ON说明已经开启开启binlog配置可以参考https://blog.csdn.net/letterss/article/details/89491552里面的my.cnf配置。查询当前binlog文件show master status;可以看到当前的binlo...

2019-06-26 14:45:32 7652 2

原创 Linux安装redis,配置主从,哨兵模式

系统环境centos71.首先安装Development Toolsyum updateyum groupinstall 'Development Tools'2.进入到usr/local目录下,下载redis压缩包cd /usr/localwgethttps://github.com/antirez/redis/archive/5.0-rc3.tar.gz3.解压...

2019-01-23 10:50:12 892 1

原创 JS捕获机顶盒遥控器按键

键值捕获keyevent.util.js带数字识别键值捕获keyevent.util.js不带数字识别提取码:7qpl在页面引入keyevent.util.js文件,并添加以下js代码,联通广电机顶盒都适用<script type="text/javascript" src="/js/keyevent.util.js"></script> <s...

2018-10-15 13:53:56 6175

原创 docker swarm 搭建分布式Mysql集群

系统环境:centos7,服务器数量>=2首先安装docker,在每台服务器shell依次输入以下命令。1.sudo yum install -y yum-utils device-mapper-persistent-data lvm22.sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/li...

2018-09-26 11:39:46 8232 4

原创 DockerFile启动jar程序

在项目的根目录下创建一个名为Dockerfile的文件,并使用文本编辑器打开它。4,结果验证,可以通过查看容器的日志来确认。上述命令中,-t选项用于指定镜像的名称,.表示使用当前目录作为构建上下文。在dockerfile文件目录下,执行以下命令。1.创建Dockerfile。

2024-04-03 10:38:59 538

原创 docker安装mongodb

2.1 登录mongo容器,并进入到【admin】数据库。2.2 创建一个用户,mongo 默认没有用户。1.1下载MongoDB镜像。1.2运行MongoDB容器。3.navicat连接测试。

2024-02-26 09:48:13 406

原创 Redis cluster集群搭建

1.2数据存储采用分片存储方式,整个redis集群有16384个哈希槽,集群中的每个节点负责一部分哈希槽,现在集群中三个主节点,就会把这些哈希槽平均分配给三个主节点,即节点A存储的哈希槽范围是:0 – 5500,节点B存储的哈希槽范围是:5501 – 11000,节点C存储的哈希槽范围是:11001 – 16384,当需要扩容主节点时会将ABC的哈希槽数据提取一部分到新的主节点D上,若是删除主节点A,就需要先将A中的哈希槽数据转移到BC节点上再进行删除。因为redis是用c实现的,所有要进行编译操作;

2024-02-21 11:37:38 1161

原创 flinkjar开发 自定义函数

FlinkCDC mysql到mysql 业务代码。

2024-02-02 17:01:13 701

原创 DATAX改造支持geometry类型数据同步

2.将下载的datax引擎解压,将plugin里面reader模块的postgresqlreader和wrtier模块的postgresqlwriter分别替换自己的引擎模块即可,如果只使用postgresql数据库,则不用替换直接使用下载的引擎。同步成功,可以看到my_table_copy1 geom字段也有数据了,且数据一致。新建了两张表my_table,my_table_copy1。使用datax同步,dataxjson如下。向my_table添加数据。

2024-02-01 11:21:02 657

原创 mybatisplus乐观锁

支持的数据类型只有:int,Integer,long,Long,Date,Timestamp,LocalDateTime。仅支持 updateById(id) 与 update(entity, wrapper) 方法。在 update(entity, wrapper) 方法下, wrapper 不能复用!整数类型下 newVersion = oldVersion + 1。newVersion 会回写到 entity 中。在实体类的字段上加上。

2024-01-31 17:56:35 346

原创 IDEA远程服务器开发

IDEA的远程开发是在本地去操远程服务器上的代码,可以直接将本地代码的编译,构建,调试,运行等工作都放在远程服务器上而本地运行一个客户端远程去操作服务器上的代码,就如同我们平常写代码一样。相比于云桌面成本更低,开发效率更高。3. 指定远程开发的代码路径,代码需要提前clone到服务器上,点击按钮后会自动下载客户端。1.首先服务器配置jdk,maven以及环境变量。5.再次启动项目,运行成功。2. IDEA切换到主页。

2024-01-24 11:24:01 653

原创 Jenkins部署项目

shell脚本内容,maven需要提前上传到/usr/local目录,配置settings.xml文件。1.2执行启动jenkins命令,(注意jenkins版本需要的jdk版本)3.1 全局属性环境变量,添加如下配置,该配置解决执行脚本不生效问题。下载jenkins war包,上传到服务器/usr/local目录。1.3 访问Jenkins页面: http://ip:8020。2.3 保存git用户密码,执行以下命令再次输入git账号密码。2.1 服务器安装git,执行安装命令。三.Jenkins配置。

2024-01-02 18:06:20 1055

原创 Linux安装jenkins

下载wget http://pkg.jenkins-ci.org/redhat/jenkins-2.39-1.1.noarch.rpmrpm -ivhjenkins-2.39-1.1.noarch.rpm安装安装成功后修改jenkins用户名和端口vim /etc/sysconfig/jenkins添加jdk环境变量vim /etc/init.d/jenkins在...

2023-12-18 10:07:02 401

原创 seata1.8安装部署

3.将下载的seata解压,找到seata/script/server/db目录下对应数据库的sql脚本,创建数据库。4.修改seata/script/config-center目录下的config.txt文件,只需要修改以下内容。5.将配置发送到nacos,进入到seata/script/config-center/nacos目录执行。7.启动seata,进入seata/bin目录,执行 sh seata-server.sh,浏览器访问。-u: nacos账号。-w: nacos密码。

2023-11-07 16:08:59 704

原创 SpringBoot使用WebSocket收发实时离线消息

如果webScoket2断开连接后, webScoket1继续发送消息,等webScoket2连接后就会收到离线的消息。启动项目,使用apiFox测试,新建webScoket接口。新建webScoket2 ,可以看到连接后接收到了消息。新建websocket1,连接后发送消息。WebScoket配置处理器。webScoket消息对象。WebSocket操作类。

2023-10-26 16:45:06 877

原创 doris Table[xxxx]‘s state is not NORMAL. Do not allow doing ALTER ops问题

1.2.0版本后有light_schema_change"="true"选项,1.26版本修改可以直接使用 ALTER TABLE example_db.my_table SET ("light_schema_change"="true");但之前的版本只能重建表,在建表的时候设置此选项。问题:doris建好表后对表结构进行修改,使用alter语句修改,但多个alter执行就会报Table[xxxx]'s state is not NORMAL. Do not allow doing ALTER ops。

2023-08-29 10:45:08 1437

原创 doris修改列名

因为一些历史原因,目前列名称是直接写入到数据文件中的。Doris在查询时,也是通过列名查找到对应的列的。所以修改列名不仅是简单的元数据修改,还会涉及到数据的重写,是一个非常重的操作。Doris支持修改数据库名、表名、分区名、物化视图(Rollup)名称,以及列的类型、注释、默认值等等。但遗憾的是,目前不支持修改列名。在 1.2.0 版本之后, 开启。在 1.2.0 版本之前或未开启。选项时,可以支持修改列名。

2023-08-29 10:34:28 1335

原创 cpu内存负载工具类

【代码】cpu内存负载工具类。

2023-08-16 11:37:54 149

原创 java检查用户是否有hdfs读写权限

【代码】java检查用户是否有hdfs读写权限。

2023-06-28 16:41:00 180

原创 datax插件开发HdfsReader支持parquet

数据仓库HIVE存储数据一般采用parquet格式,但Alibaba datax开源版不支持parquet格式,只能自己开发。

2023-06-28 09:41:54 692

原创 java读取parquet文件

读取parquet代码。

2023-06-27 15:24:53 738 2

原创 datax自定义函数

1.下载datax最新版源码,函数转换在core模块com.alibaba.datax.core.transport.transformer目录下面。以AES加密函数为例,新建AESEncryptTransformer。@Overridetry {= 2) {try {//如果字段为空,跳过加密处理。

2023-06-26 14:29:48 339

原创 datax读取Parquet格式文件总列数

【代码】datax读取Parquet格式文件总列数。

2023-06-13 15:34:20 826

原创 java判断文件是否是Parquet格式文件

Maven依赖配置判断方法try {

2023-06-12 16:32:49 749

原创 Flinkjar开发 CDC 实时mysql到mysql

CDC 的全称是 Change Data Capture ,在广义的概念上,只要是能捕获数据变更的技术,我们都可以称之为 CDC。目前通常描述的 CDC 技术主要面向数据库的变更,是一种用于捕获数据库中数据变更的技术。[mysqld][mysqld]重启数据库。

2023-06-09 15:46:11 3203 2

原创 Kafka管理工具Offset Explorer

Offset Explorer(以前叫Kafka Tool)提供GUI界面用来管理和使用Kafka集群。官网地址: https://www.kafkatool.com/Windows环境直接双击offsetexplorer_64bit.exe文件完成安装。配置jass Config,最后一定要有分号;配置zookeeper节点。配置security。

2023-06-07 11:23:53 393

原创 DATAX hdfsreader orc格式读取数据丢失问题

DATAX hdfsreader orc格式读取数据丢失,导致原因是读文件时 由于hdfs文件存储 是block 形式的。当单个文件 大于 单个block 的size时,出现一个文件 多个block 存储,仅读取了第一个block,造成了数据的部分丢失。

2023-04-27 10:51:13 901 1

原创 zookeeper单机部署

zookeeper单机部署

2023-02-22 15:25:54 675

datax改造引擎支持geometry类型同步

datax源码改造引擎,支持postgresql的geometry类型数据同步,使用方法可以直接使用,或将改造的reader,writer里面的postgresql模块替换。

2024-02-01

springboot+dubbo3.0微服务框架

springboot+dubbo3.0微服务框架,简单快捷开发微服务,使用成本跟单体springboot+mybatisplus基本没差别

2023-12-20

软著代码提取工具申请软著神器

软著代码提取工具,申请软著必备神器,可快速提取程序代码生产文档复制粘贴,生产力工具

2023-12-20

国产瀚高数据库rpm安装包,含安装脚本

国产瀚高数据库rpm安装包,含安装脚本,需要arm架构服务器,将资源上传到服务器后执行sh deploy.sh脚本即可自动安装。默认账号sysdba 密码:Aa123456@ jdbc连接示例 driver=com.highgo.jdbc.Driver conn=jdbc:highgo://ip:5866/highgo user=sysdba password=Aa123456@

2023-11-14

瀚高数据库jdbc驱动jar

国产瀚高数据库jdbc驱动jar,driver=com.highgo.jdbc.Driver jdbcurl=jdbc:highgo://ip:5866/highgo

2023-11-14

高斯驱动jar包和使用说明

高斯驱动jar包含三种驱动jar:gsjdbc4.jar,gsjdbc200.jar和opengaussjdbc.jar ,包含对应的驱动类和jdbcUrl示例

2023-11-07

datax hdfswriter改造,支持写入parquet格式文件

datax hdfswriter改造,支持写入parquet格式文件

2023-09-04

datax hdfsreader修改,支持 hive Parquet格式,支持读取hive Long,Int类型

datax hdfsreader修改,支持 hive Parquet格式,支持读取hive Long,Int类型

2023-09-04

datax rdbms reader改造,修复money类型带$符double失败问题,支持关系型数据库所有数据类型读取

datax rdbms reader改造,修复money类型带$符和逗号转double失败问题,支持所有关系型数据库所有数据类型读取。

2023-09-04

datax支持读取parquet格式文件,支持写入parquet格式文件,修复读取orc读取数据丢失问题

新增支持读取parquet格式文件,支持写入parquet格式文件,修复读取orc读取数据丢失问题,重新打包后的jar文件。

2023-06-28

hive-jdbc-uber-2.6.5.0-292.jar驱动

hive-jdbc-uber-2.6.5.0-292.jar驱动

2023-01-05

微信聊天数据抓取工具.zip

微信聊天数据抓取工具,可抓取群聊消息和单独聊天消息,附使用说明

2021-05-12

keyevent.util.zip

遥控器按键捕获js封装,适用于做联通iptv和广电DVB平台遥控器按键识别,引入该JS识别遥控器按键

2021-05-06

银联商务小程序综合支付商户接入接口规范V3.6.zip

银联商务小程序综合支付商户接入接口规范V3.6

2021-05-06

JAVA核心知识点整理大全.zip

JAVA核心知识点整理大全

2021-05-06

elasticsearch6.8.10

elasticsearch6.8.10.tar.gz, linux与windows都可以启动,配置文件已配置

2020-11-04

android bottom.zip

android实现底部标签栏切换demo,采用BottomNavigationView方案,这是 Google 给我们提供的一个专门用于底部导航的 View

2020-05-20

ajax.util.js

js封装ajax,使用方法* AjaxHandler.get('http://localhost/epg/t1.html',callback);* AjaxHandler.post('http://localhost/epg/t1.html',callback,param);

2019-12-09

pinyin4j-2.5.0.jar.zip

pinyin4j-2.5.0.jar,使用来处理中文转换成拼音(汉语拼音,罗马拼音等),功能强大。

2019-06-04

cookie封装的js文件

在页面中引入cookie.js,新增cookie方法:cookieHandler.set("key1",value);获取方法:cookieHandler.get("key1");删除:cookieHandler.del("key1");

2019-04-23

javax.servlet.jar包

javax.servlet.jar包

2019-01-11

springmvc上传文件到FTP

springmvc上传文件到ftp demo,将mmall.properties里面的ftp内容修改为自己的启动就行,建议使用idea

2018-11-30

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除