- 博客(7)
- 资源 (4)
- 收藏
- 关注
RSS订阅原创 机器学习——岭回归和LASSO回归
1.用矩阵表示多元线性回归Y=BX+aQ(B)=(Y-BX)T(Y-BX)达到最小时的B值。也即是残差平方和最小时。B（Bi）的值。可以证明B的最小二乘估计=（XTX）-1XTy其中（XTX）-1为广义逆。如果X存在线性相关的话，XTX没有逆： 1.出现多重共线性2.当n岭回归（Ridge Regression）先对数据做标准化B(K)=(XTX+kI)X
2016-03-04 10:58:14
6309
原创 机器学习-广义回归模型
广义线性回归模型在R中，用glm()进行拟合，其形式为glm(formula,family=family(link=function),data=);例如logistic回归：glm(Y~X1+X2+X3,family=binomial(link="logit"),data=mydata)1.logistic回归：
2016-03-03 21:58:15
826
原创 机器学习之路——多重共线性
1.什么是多重共线性？自变量与自变量之间的相关性。2.多重共线性对回归模型的影响？我们可能得出单个参数没有一个是显著不同于零的结论。如果存在高度多重共线性，，最小二乘估计可能与被估参数的符号完全相反。3.用计算特征根发现多重共线性。在R中用Kappa()函数，若k1000，存在严重的多重共线性。k(XTX)=max(lambda(XTX))/min(lambda(XTX))
2016-03-03 21:50:30
2567
原创 机器学习之路——回归诊断
回归诊断:帮助我们发现并纠正问题，告诉我们模型是否合适，提供了评价回归模型适应性的必要工具。比如：样品是否符合正态分布假设？是否存在离群群值使模型产生较大误差？线性模型是否合理？误差是否满足独立性（误差不会随着因变量大小而变化）、等方差、正态分布等假设条件？是否存在多重共线性（自变量不独立）？标准方法：R中提供了大量检验回归分析中统计假设的方法。plot（）函数R语言例子：fit
2016-03-03 10:16:35
725
原创 机器学习之路（一元线性回归）
在听完机器学习的课程以后，想在这里整理一下自己从视频里学到的内容，一方面可以复习一下，另一方面可以和大家进行一些交流。一.线性回归和逻辑回归（Linear regression and logistic regression） 回归分析就是利用样本（已知）数据，产生拟合方程，从而对未知数据进行预测。可以用相关系数评价两个变量之间的相关性。 相关系数公
2016-02-26 20:54:01
1257
原创 Big Data: A revolution that transform how we live,work and think？
这本书的中文翻译名为：大数据时代——生、工作、思维的大变革。最近大数据异常火热，各个公司都把大数据挂在嘴边吸引风投，各个专业的学生纷纷转专业到大数据，不少高校开设了相关专业和课程，市场上似乎呈现出一片供不应求的景象。但是，就像有人说的“大数据就像青少年性爱：每个人都在讨论，但没有人真正知道怎么搞。每个人都认为其他人正在做，于是大家都说自己在做……”。到底大数据能不能像IT时代一样迎来一次大的变革—
2015-11-19 10:51:00
741
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人