自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

lrxcmwy2的博客

正在学习大数据研发的一只菜喵,不定时更新学习手记

  • 博客(60)
  • 收藏
  • 关注

原创 Python100天学习笔记 Day06-10

Python - 100天从新手到大师项目地址:https://github.com/jackfrued/Python-100-DaysDay 06 函数和模块的使用在Python中可以使用def关键字来定义函数,函数名命名规则和变量的命名规则一致,在函数后面的圆括号中可以放置传递给函数的参数,函数体的最后通过return关键字来返回一个值。例如:构建一个阶乘函数def fa...

2019-06-25 15:29:38 660

原创 Python100天学习笔记 Day01-05

Python - 100天从新手到大师项目地址:https://github.com/jackfrued/Python-100-Days本文代码皆为自己手撸,标程请参考每一节自带的code目录Python - 100天从新手到大师Day 01 初识PythonDay 02 语言元素Day 03 分支结构Day 04 循环结构Day 05 构造程序逻辑Day ...

2019-06-11 13:45:31 906

原创 Python学习笔记:IO编程

文件读写、StringIO和BytesIO、操作文件和目录,序列化与反序列化

2018-12-26 16:50:43 373 1

原创 Python学习笔记:错误、调试和测试

Python学习笔记:错误、调试和测试错误处理、调试、单元测试、文档测试

2018-12-26 15:12:47 290

原创 Python学习笔记:面向对象高级编程

Python学习笔记:面向对象高级编程__slots__,@property,多重继承,定制类,枚举类,元类

2018-12-24 17:01:43 263

原创 Python学习笔记:面向对象编程

Python学习笔记:面向对象编程类和实例、访问限制、继承和多态、获取对象信息、实例属性和类属性

2018-12-24 11:05:26 253

原创 Python学习笔记:模块

Python学习笔记:模块模块的使用与Anaconda的安装

2018-12-24 09:20:03 158

原创 Python学习笔记:Python函数式编程

Python学习笔记:Python函数式编程学自廖雪峰巨佬的Python3教程:https://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000/0014317848428125ae6aa24068b4c50a7e71501ab275d520001.我们通过把大段代码拆成函数,通过一层一层...

2018-12-21 09:24:21 527

原创 Python学习笔记:Python高级特性

Python学习笔记:Python高级特性切片、迭代、列表生成式、生成器、迭代器

2018-12-18 16:44:33 236

原创 Python学习笔记:函数

Python学习笔记:函数调用函数,定义函数,函数的不同参数(位置参数,可变参数,关键字参数),递归以及汉诺塔的递归算法分析及实现

2018-12-17 11:01:29 242

原创 Python学习笔记:Python基础

Python数据类型和变量、字符串和编码、使用list和tuple、条件判断、循环、使用dict和set

2018-12-17 08:25:17 209

原创 Kafka学习笔记:Kafka Producer和Consumer开发基础

Kafka Producer和Consumer开发基础

2018-10-19 17:02:30 441

原创 HDFS学习笔记:HDFS基础

HDFS基础原理

2018-10-13 22:49:59 581

原创 Kafka学习笔记:Kafka开发环境搭建(Java)

Kafka开发环境搭建(Java)新建maven工程,然后这是用到的pom文件<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-inst...

2018-10-11 07:29:40 529

原创 Kafka学习笔记:Kafka命令行工具

Kafka命令行工具启动Kafkakafka-server-start.sh /opt/software/kafka_2.11-1.1.0/config/server.properties &查看所有Topic列表kafka-topics.sh --zookeeper Hadoop01:2181 --list查看指定Topic信息kafka-topics.sh --...

2018-10-09 20:54:50 1284

原创 Kafka学习笔记:消息生产者、消费者以及消息发布的不同模型

消息生产者、消费者以及消息发布的不同模型

2018-10-09 10:37:53 2442

原创 Kafka学习笔记:Kafka环境搭建

Kafka环境搭建Kafka单机环境搭建安装必需jdk,这里使用的是jdk1.8 scala,需要独立安装scala,这里使用的是scala 2.11.8 zookeeper,Kafka会自带zk,但是最好使用独立的安装步骤1.将Kafka的tar包上传到测试环境,解压到/opt/software,配置环境变量KAFKA_HOME=/opt/software/kafka...

2018-10-05 10:41:41 528

原创 Kafka学习笔记:Kafka的Topic、Partition和Message

Kafka的Topic和PartitionTopicTopic是Kafka数据写入操作的基本单元,可以指定副本 一个Topic包含一个或多个Partition,建Topic的时候可以手动指定Partition个数,个数与服务器个数相当 每条消息属于且仅属于一个Topic Producer发布数据时,必须指定将该消息发布到哪个Topic Consumer订阅消息时,也必须指定订阅哪个...

2018-09-27 08:05:35 49468 1

原创 Kafka学习笔记:常见消息队列对比分析

常见消息队列分类、应用场景、对比分析

2018-09-26 14:40:28 1240

原创 Kafka学习笔记:Kafka的概念与功能

Kafka的概念与功能

2018-09-25 22:26:47 482

原创 Spark学习笔记:Spark Streaming数据存储与调优

Spark Streaming数据存储与调优

2018-09-24 20:49:03 1631

原创 Spark学习笔记:Spark Streaming与Spark SQL协同工作

Spark Streaming和Spark SQL协同工作

2018-09-19 17:32:48 1420

原创 Spark学习笔记:Spark Streaming算子开发实例

Spark Streaming算子开发实例

2018-09-19 16:20:34 878

原创 Spark学习笔记:DStream的transformation操作概览

DStream的transformation操作概览一.Spark Streaming开发步骤创建输入DStream,如将Flume、Kafka、HDFS和Socket等作为数据源 对输入DStream进行转换操作 对转换后的DStream进行输出操作,比如存储到DBMS中二.DStream分类Input DStream,是最原始最初的DStream,它是依据不同的数据源创建的,...

2018-09-16 22:21:46 745

原创 Spark学习笔记:输入DStream和Receiver详解

DStream和Receiver的一些细节

2018-09-16 20:36:04 403

原创 Spark学习笔记:基于HDFS的实时计算WordCount

基于HDFS实时计算WordCount

2018-09-16 12:19:58 340

原创 Spark学习笔记:StreamingContext详解

StreamingContext的创建及要点

2018-09-14 22:46:02 1611

原创 Spark学习笔记:基于Socket的实时计算WordCount

基于Socket的实时计算WordCountSocket简述Socket(套接字),用来描述IP地址和端口,是通信链的句柄,应用程序可以通过Socket向网络发送请求或者应答网络请求。Socket是支持TCP/IP协议的网络通信的基本操作单元,是对网络通信过程中端点的抽象表示,包含了进行网络通信所必须的五种信息:连接所使用的协议,本地主机的IP地址,本地远程的协议端口,远程主机的IP地址以...

2018-09-14 19:56:38 433

原创 Spark学习笔记:DStream基本工作原理

DStream基本工作原理及批处理时间间隔

2018-09-14 10:52:41 2643 3

原创 Spark学习笔记:Spark Streaming工作原理

目录 Spark Streaming概述一、Apache SparkSpark CoreSpark SQLSpark Streaming二、Spark Streaming处理数据的流程1.数据源2.数据处理3.存储结果三、Spark Streaming工作原理Spark Streaming概述目前对于流式数据实时处理方案主要有两种:一条一条数...

2018-09-14 09:49:03 1134

原创 Spark学习笔记:Spark UDF/UDAF

目录 Spark UDF/UDAF1.SparkUDF2.Spark UDAF(1)求平均数Spark UDF/UDAF1.SparkUDF(1)测试数据: emp.csv文件(2)定义case class         case class Emp(empno:Int,ename:String,job:String,mgr:String,hiredate:S...

2018-09-13 18:55:57 540

原创 Spark学习笔记:Spark进阶

Spark使用不同的数据源,Spark SQL开发,性能调优

2018-09-11 16:45:02 4394

原创 Spark学习笔记:SparkSQL

SparkSQL、DataFrame、DataSet

2018-09-06 09:56:01 978

原创 Spark学习笔记:Spark算子及应用

Spark算子及应用

2018-09-04 22:21:06 2123

原创 Spark学习笔记:Spark基础

Spark基础以及WordCount实现

2018-09-03 23:39:57 11024

原创 Scala学习笔记:Scala编程进阶

Scala函数式编程、Scala中的集合、Scala高级特性

2018-09-01 23:12:29 2257 1

原创 Scala学习笔记:Scala面向对象基础

Scala面向对象基础1.面向对象的基本概念2.面向对象的特征3.如何定义一个类4.内部类5.类的构造器 6.单例对象(object)单例模式7.应用程序对象8.apply方法9.类的继承 10.抽象类11.特质(Trait)12.包的使用

2018-08-29 23:40:53 347

原创 Scala学习笔记:Scala基础

Scala基础:数据类型,变量常量,函数,条件表达式,循环,函数参数,Lazy特性,异常处理,数组,映射和元组

2018-08-28 12:02:23 8060 3

原创 Scala学习笔记:Scala环境搭建

Scala环境搭建

2018-08-26 23:53:11 333

原创 Flume学习笔记:Flume自定义Agent

Flume自定义Source、Sink、Interceptor,以及美团技术团队的DualChannel实现

2018-08-26 18:37:01 2088 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除