- 博客(29)
- 收藏
- 关注
RSS订阅原创 ctr论文调研
1.互联网广告点击率预估模型中特征提取方法的研究与实现 背景 北京工商大学发表在《计算机与信息工程学院》2017 （针对展示广告） 主要做法 文章主要是在特征工程这块下功夫，提出来基于GBDT模型的多维特征提取方法，该方法利用原始特征数据构建多维特征库，并将特征库中除ID类特征以外的其余特征输入GBDT模型进行特征筛选，得到高层特征。 数据预处理部分: 对数据异常点分析，ctr历史分布，正负...
2019-09-30 09:58:39
525
原创 花花学习计划
时间: 20190927-20191011 主任务: 前端相关 w3scool html/css基本操作学习 学习方法 以概览式学习为主，目的是会用不是记住。 对于一些复杂概念可以不必深究 教程中的例子一定要亲手练习，并且举一反三，做到可以修改代码重跑。 预期目的 了解前端的基本知识。熟悉html/css基本用法。 能够自己动手（可以查阅资料）搭建最简单的页面布局。 深层要求: 对前端技术的...
2019-09-25 15:57:56
161
原创 统计学习方法学习笔记
第1章 统计学习方法概论 期望风险是模型关于联合分布的期望损失，经验风险是模型关于训练样本集的平均损失。根据大数定律，当样本容量N趋于无穷时，经验风险趋于期望风险。 经验风险最小化等价于极大似然估计。 结构风险最小化是为了防止过拟合而提出的策略，加入了正则化。 贝叶斯估计中的最大后验概率估计，是结构风险最小化的一个例子。 当模型是条件概率分布，损失函数是对数损失函数、模型复杂度由模型的先验概率表...
2019-09-08 14:57:13
202
原创 百面机器学习学习笔记
特征归一化 为了消除数据特征之间的量纲影响，我们需要对特征进行归一化处理，使得不同指标之间具有可比性。 k维度的低纬度向量表示。 word2vec 实际是一种浅层的神经网络结构，cbow和skip-gram LDA, 线性回归分析还是文档主题生成模型。 GAN生成式对抗网络。 准确率的局限性，分类器把所有的样本都预测为负样本也可以获得99%的准确率。 准确率不适用于正负样本分布不均匀...
2018-11-02 10:15:02
1879
原创 统计学习方法学习笔记（第十章 隐马尔可夫模型）
隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，在由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马儿可夫链随机生成的状态的序列，称为观测序列，序列的每一个位置又可以看作是一个时刻。...
2018-10-24 11:01:26
177
原创 统计学习方法学习笔记（第九章 EM算法及其推广）
EM算法与初值的选择有关，选择不同的初值可能得到不同的参数估计值。 EM算法可以用于生成模型的非监督学习。
2018-10-23 16:05:28
230
原创 统计学习方法学习笔记（第八章 提升方法）
对提升方法来说，由两个问题需要回答：一是在每一轮如何改变训练数据的权值或概率分布；二是如何将若分类器组合成一个强分类器。关于第一个问题，adaboost的做法是，提高那些被前一轮弱分类器错误分类样本的权值，而降低那些被正确分类样本的权值。至于第二个问题，即弱分类器的组合，adaboost采取加权多数表决的方法。具体地，加大分类误差率小的弱分类器的权值，使其在表决中起较大的作用，减小分类误差率大的弱...
2018-10-23 15:50:55
156
原创 统计学习方法学习笔记（第七章 支持向量机）
支持向量机是一种二类分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它称为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化。可以形式化为一个求解凸二次优化的问题，也等价于正则化的合页损失函数的最小化问题。支持向量机的学习算法是求解凸二次规划的最优化问题。 线性可分支持向量机，线性支持向量机假设两个空间的元素一一对应，并...
2018-10-23 15:00:42
307
原创 统计学习方法学习笔记（第六章 逻辑斯谛回归模型）
一个时间的几率(odds)是指该事件发生的概率与该事件不发生概率的比值。如果事件发生的概率是p，那么该事件的几率是p/1-p, 二项逻辑斯谛回归模型是一种分类模型，对于这种模型而言，对数几率的值是w点x。 这就是说，在逻辑斯谛回归模型中， 输出Y = 1的对数几率是输入x的线性函数。或者说，输出Y = 1的对数几率是由输入x的线性函数表示的模型，即逻辑斯谛回归模型。 线性函数的值越接近正无穷...
2018-10-22 19:59:33
498
原创 统计学习方法学习笔记（第五章 决策树）
决策树的损失函数通常是正则化的极大似然函数。决策树的策略是以损失函数为目标函数的最小化。 当损失函数确定以后，学习问题就变为在损失函数意义下选择最优决策树的问题。因为从所有可能的决策树中选取最优的选择策略是NP完全问题，所以在现实中决策树学习算法通常采用启发方法，近似求解这一最优化问题，这样得到的决策树是次最优的。 根据信息增益准则特征选择方法是：对训练数据集D,计算其每个特征的信息增益，并比...
2018-10-22 13:58:29
413
原创 统计学习方法学习笔记（第四章 朴素贝叶斯法）
朴素贝叶斯法通过训练数据集学习联合概率分布P(X,Y), 具体地，学习以下先验概率分布以及条件概率分布。先验概率分布为 P(Y = ck); 条件概率分布为p(X = x | Y = ck)； 条件概率分布有指数级量级的参数，其实际参数的估计是不可行的。那么参数个数为K Sj. 朴素贝叶斯法对条件概率分布作了条件独立性的假设，由于这是一个较强的假设，朴素贝叶斯法也由此得名。 朴素贝叶斯法...
2018-10-18 14:05:11
207
原创 统计学习方法学习笔记（第三章 k近邻法）
k近邻法的特殊情况是k=1的情况，称为最近临算法，对于输入的实例点x，最近邻法将训练数据集中与x最邻近点的类作为x的类。 p = 2时，Lp距离称为欧式距离。 p = 1时，称为曼哈顿距离。 p = 无穷时，各个坐标距离的最大值。 k值减小导致过拟合，k太大导致欠拟合。 多数表决规则等价于经验风险最小化。 kd树搜索的平均计算复杂度为O(logN), k近邻法是基本且简单的分类与回归...
2018-10-17 14:23:13
171
原创 leetcode 55. Jump Game
class Solution { public: bool canJump(vector<int>& nums) { int i = 0,n = nums.size() -1; for(int reach = 0;i<=n && i<=reach;i++) reach = max(i+n...
2018-10-10 14:55:04
85
原创 leetcode 4. Median of Two Sorted Arrays
http://windliang.cc/2018/07/18/leetCode-4-Median-of-Two-Sorted-Arrays/ There are two sorted arrays nums1 and nums2 of size m and n respectively. Find the median of the two sorted arrays. The overall...
2018-10-10 10:42:24
142
原创 统计学习方法学习笔记（第二章 感知机）
感知机是二类分类的线性分类模型。 感知机是一种线性分类模型，属于判别模型。感知机模型的假设空间是定义在特征空间中的所有线性分类模型或线性分类器。 超平面Ｓ称为分离超平面（separating hyperplane）。 数据集的线性可分性。 感知机所采用的损失函数是误分类点到超平面Ｓ的总距离。 感知机问题算法是最优化损失函数问题的算法。 感知机学习算法是误分类驱动的，具体采用随机梯度下降...
2018-10-09 17:02:06
126
原创 统计学习方法学习笔记（第一章）
监督学习分为三类，分类问题，监督问题，标注问题。 标注问题也是一个监督学习问题。可以认为标记问题是分类问题的一个推广。 标注问题的输入是一个观测序列，输出的是一个标记序列或状态序列。也就是说，分类问题的输出是一个值，而标注问题输出是一个向量，向量的每个值属于一种标记类型。 标注常用的机器学习方法有：隐性马尔可夫模型、条件随机场。 统计学习三要素：模型，策略，算法 风险期望或者平均损...
2018-10-09 15:30:34
76
原创 leetcode 690. Employee Importance
You are given a data structure of employee information, which includes the employee's unique id, his importance value and his direct subordinates' id. For example, employee 1 is the leader of employe...
2018-09-26 18:07:46
95
原创 leetcode 204. Count Primes
这道题是easy标签的，我的做法效率比较低，涉及到一种经典的找素数的方法，在这里记录一下。 问题一：求前n个数里有几个素数。 解法一：经典算法(埃拉托斯特尼筛法) class Solution { public: int countPrimes(int n) { vector <bool> isprime(n,true); for (int i = 2;...
2018-09-26 11:22:06
82
原创 leetocde 24. Swap Nodes in Pairs
Given a linked list, swap every two adjacent nodes and return its head. Example: Given 1->2->3->4, you should return the list as 2->1->4->3. Note: Your algorithm should use only...
2018-09-25 21:37:12
63
原创 leetcode 19. Remove Nth Node From End of List
Given a linked list, remove the n-th node from the end of list and return its head. Example: Given linked list: 1->2->3->4->5, and n = 2. After removing the second node from the end, t...
2018-09-25 20:58:07
69
原创 leetcode 445. Add Two Numbers II
You are given two non-empty linked lists representing two non-negative integers. The most significant digit comes first and each of their nodes contain a single digit. Add the two numbers and return i...
2018-09-25 19:11:15
74
原创 leetcode 109. Convert Sorted List to Binary Search Tree
Given a singly linked list where elements are sorted in ascending order, convert it to a height balanced BST. For this problem, a height-balanced binary tree is defined as a binary tree in which the ...
2018-09-25 16:44:50
94
原创 leetcode 2. Add Two Numbers
2. Add Two Numbers You are given two non-empty linked lists representing two non-negative integers. The digits are stored in reverse order and each of their nodes contain a single digit. Add the two...
2018-09-25 11:36:50
89
原创 leetcode 876. Middle of the Linked List
Given a non-empty, singly linked list with head node head, return a middle node of linked list. If there are two middle nodes, return the second middle node. 这道题，比较简单，记录链表中间的值，不过还是记录一下快慢指针的做法。 先是我的...
2018-09-05 10:10:39
108
原创 leetcode 234. Palindrome Linked List
Given a singly linked list, determine if it is a palindrome. Example 1: Input: 1->2 Output: false Example 2: Input: 1->2->2->1 Output: true Follow up: Could you do it in O(n) time a...
2018-09-04 21:31:04
75
原创 leetcode 206. Reverse Linked List
Reverse a singly linked list. Example: Input: 1->2->3->4->5->NULL Output: 5->4->3->2->1->NULL 这道题没有做出来，递归还是得多多练习才能掌握。 第一种方法，递归做法。 /** * Definition for singly-link...
2018-09-04 19:55:49
70
原创 leetcode 203. Remove Linked List Elements
Remove all elements from a linked list of integers that have value val. Example: Input: 1->2->6->3->4->5->6, val = 6 Output: 1->2->3->4->5 这道题属于easy,但我做的也不是很快。 我的做法...
2018-09-04 16:27:37
65
原创 leetcode160. Intersection of Two Linked Lists
CSDN博客作为leetcode刷题笔记，以后有机会会补上机器学习的内容和之前kaggle比赛的代码。 这道题有两种解法。第一种是算出两条链表的长度的差值。用比较长的链表移位差值大小，就可以一一比较了。 c++,解法一： /** * Definition for singly-linked list. * struct ListNode { * int val; * ...
2018-09-04 15:42:22
81
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人