r语言学习系列15-缺失值处理方法

r语言学习系列15-缺失值处理方法

ID:8816484

大小:196.68 KB

页数:14页

时间:2018-04-08

r语言学习系列15-缺失值处理方法_第1页
r语言学习系列15-缺失值处理方法_第2页
r语言学习系列15-缺失值处理方法_第3页
r语言学习系列15-缺失值处理方法_第4页
r语言学习系列15-缺失值处理方法_第5页
资源描述:

《r语言学习系列15-缺失值处理方法》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库

1、15.缺失值处理方法目录:一.直接删除法二.用均值/中位数/众数填补三.探索变量的相关性插补四.探索样本的相似性填补五.分类树与回归树预测法插补(rpart包)六.多重插补法(mice包)正文:一、直接删除法即直接删除含有缺失值的样本,有时最为简单有效,但前提是缺失数据的比例较少,且缺失数据是随机出现的,这样删除缺失数据后对分析结果影响不大。1.向量删除缺失值x<-c(1,2,3,NA,5)mean(x)#默认不忽略NA值或NaN值,注意与NULL的区别[1]NAmean(x,na.rm=TRUE)#忽略

2、缺失值[1]2.75x1<-x[!is.na(x)]#去掉向量中的NA值x1[1]1235x2<-na.omit(x)#返回去掉NA值的向量x2[1]1235attr(,"na.action")[1]4attr(,"class")[1]"omit"na.fail(x)#若向量有NA值,则返回ErrorErrorinna.fail.default(x):对象里有遺漏值na.fail(x1)#若向量不含NA值,则返回该向量[1]1235attr(na.omit(x),"na.action")#返回向量中NA值

3、的下标[1]4attr(,"class")[1]"omit"x[is.na(x)]<-0#将向量x中的NA值替换为0x[1]123052.删除含缺失值的样本数据用DMwR包实现。library(DMwR)#用自带数据集algae,18个变量,200个观测值library(VIM)sum(!complete.cases(algae))#查看含有缺失值的样本个数[1]16algae1<-na.omit(algae)#直接删除所有含缺失值的样本sum(!complete.cases(algae1))[1]0#只

4、删除缺失值过多的样本:缺失值个数大于列数的20%algae2<-algae[-manyNAs(algae,0.2),]#数据框的“删除行”操作sum(!complete.cases(algae2))[1]14其中,函数manyNAs(x,nORp)用来查找数据框x中缺失值过多(≥缺失比例nORp)的行;nORp默认为0.2,即缺失值个数≥列数的20%注:当删除缺失数据会改变数据结构时,通过对完整数据按照不同的权重进行加权,可以降低删除缺失数据带来的偏差。3.删除变量若数据的某变量(列)有较多的缺失值且对研

5、究目标影响不大时,可以将整列删除,这需要在变量的重要性和观测的数量之间做权衡。4.做统计分析时排除缺失值例如,做线性回归时,设置na.action=na.omit即可:lm(medv~ptratio+rad,data=BostonHousing,na.action=na.omit)二、用均值/中位数/众数填补其优点在于不会减少样本信息,处理简单;其缺点在于当缺失数据不是随机出现时会产成偏误。若某自变量对因变量的影响比较小,那么这种粗略的估计是可以接受的,且有可能会产生令人满意的结果。使用mlbench包中

6、的BostonHousing数据集作为演示数据。由于BostonHousing数据集没有缺失值,为了演示需要,在数据集中随机插入缺失值。通过这种方法,不仅可以评估由数据缺失带来的精度损失,也可以比较不同处理方式的效果好坏。#初始化数据集library(mlbench)data("BostonHousing",package="mlbench")treated<-BostonHousing#14个变量,506个观测值#填充缺失值(随机替换两个变量各40个NA)set.seed(100)treated[sam

7、ple(1:nrow(treated),40),"rad"]<-NAtreated[sample(1:nrow(treated),40),"ptratio"]<-NA#查看缺失状况sum(!complete.cases(treated))#查看缺失值数目[1]75library(mice)md.pattern(treated)#查看缺失模式crimzninduschasnoxrmagedistaxblstatmedvradptratio43111111111111111035111111111111011

8、351111111111111015111111111111002000000000000404080用均值/中位数/众数填补的代码实现:library(Hmisc)treated$ptratio=impute(treated$ptratio,mean)#插补均值treated$ptratio=impute(treated$ptratio,median)#插补中位数treated$ptratio=impute(treated$

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。