用均值替换、回归插补及多重插补进行插补

# 设置工作空间# 把“数据及程序”文件夹拷贝到F盘下，再用setwd设置工作空间setwd("E:\\R_workspace\\R语言数据分析与挖掘实战\\chp4")# 读取销售数据文件，提取标题行inputfile <- read.csv('./data/catering_sale.csv', header = TRUE) View(inputfile)# 变换变量名inputfile <- data.frame(sales = inputfile$'销量', date = inputfile$'日期')View(inputfile)# 数据截取inputfile <- inputfile[5:16, ]View(inputfile)# 缺失数据的识别is.na(inputfile) # 判断是否存在缺失n <- sum(is.na(inputfile)) # 输出缺失值个数n# 异常值识别par(mfrow = c(1, 2)) # 将绘图窗口划为1行两列，同时显示两图dotchart(inputfile$sales) # 绘制单变量散点图boxplot(inputfile$sales, horizontal = TRUE) # 绘制水平箱形图# 异常数据处理inputfile$sales[5] = NA # 将异常值处理成缺失值fix(inputfile) # 表格形式呈现数据# 缺失值的处理inputfile$date <- as.numeric(inputfile$date) # 将日期转换成数值型变量sub <- which(is.na(inputfile$sales)) # 识别缺失值所在行数sub# 将数据集分成完整数据和缺失数据两部分inputfile1 <- inputfile[-sub, ] inputfile2 <- inputfile[sub, ]# 行删除法处理缺失，结果转存result1 <- inputfile1View(result1)# 均值替换法处理缺失，结果转存avg_sales <- mean(inputfile1$sales) # 求变量未缺失部分的均值avg_sales# 用均值替换缺失inputfile2$sales <- rep(avg_sales,n) # 并入完成插补的数据result2 <- rbind(inputfile1, inputfile2) View(result2)# 回归插补法处理缺失，结果转存# 回归模型拟合# 注意：因变量~自变量model <- lm(sales ~ date, data = inputfile1) # 模型预测inputfile2$sales <- predict(model, inputfile2) result3 <- rbind(inputfile1, inputfile2)# 多重插补法处理缺失，结果转存library(lattice) # 调入函数包library(MASS)library(nnet)library(mice) # 前三个包是mice的基础# 4重插补，即生成4个无缺失数据集imp <- mice(inputfile, m = 4) # 选择插补模型# inputfile为原始数据，有缺失fit <- with(imp,lm(sales ~ date, data = inputfile)) # m重复完整数据分析结果池pooled <- pool(fit)summary(pooled)result4 <- complete(imp, action = 3) # 选择第三个插补数据集作为结果

补充：R语言数据缺失值处理（随机森林，多重插补）

缺失值是指数据由于种种因素导致的数据不完整，可以分为机械原因和人为原因。对于缺失值我们通常采用以下几种方法来进行插补。

1.读取数据

通过read.csv函数导入文档，也可以用其他函数读入，如openxlsx::read.xlsx,read.table等。

head()查看数据前几行。

airquality <- read.csv(data.csv)head(airquality)

2.检查数据完整性

首先，summary()查看数据基本信息

summary(airairquality)

可以看到Ozone中存在缺失值NA

通过调用VIM::aggr()查看函数的缺失值（如果包安装较慢，可选用本地安装，链接已附需自行下载）

#install.packages(‘VIM')library(VIM)aggr(airquality)

通过上图，可以看到Ozone和Solar.R存在缺失值。

3.缺失值填补

3.1简单处理填补

（1）删除缺失值

若样本中存在较少缺失值或缺失值比例较小不影响分析结果时，可选择直接将缺失值删除。

dat1 <- na.omit(airquality)

（2）平均值、中位数填补

若不能直接将缺失值删除也可选择平均值、众数、中位数等进行填补

#平均值填补airquality$ Ozone[is.na(airquality$Ozone)] <- mean(airquality $ Ozone,na.rm=T)#中位数填补airquality$ Solar.R[is.na(airquality$ Solar.R)] <- median(airquality$ Solar.R,na.rm = T)#计算缺失值个数，等于0 则不存在缺失值sum(is.na(airquality))#相邻均值填补airquality <- read.csv(data.csv) #重新读入数据for (i in 1:length(airquality$ Ozone)) {airquality$ Ozone[i] <- ifelse(is.na(airquality$ Ozone[i]),mean(c(airquality$ Ozone[i-1],airquality$ Ozone[i+1]),na.rm=T),airquality$ Ozone[i])}

3.2复杂处理填补

（1）K-近邻算法填补

基本思想：对于需要填补的观测值，先利用欧氏距离找到其邻近的K个观测，再将这K个邻近的值进行加权平均进行填补。

原始数据中存在多个缺失值，可以利用DMwR包中的knnImputation()函数进行填补

dat1 <- knnImputation(airquality[,c(1:4)],meth = ‘weighAvg',scale = T)

提取原始数据中的前4列进行填补，meth = 'weighAvg'指使用加权平均的方法进行填补，scale = T指在选取邻近值时，先对数据进行标准化。

aggr(dat1) #查看缺失值分布

（2）随机森林填补缺失值

接下来介绍一个新的填补方法–随机森林填补，随机森林是机器学习中一种常见的方法，以决策树为基分类的器的集成学习模型。

missForest包中missForest()函数可实现随机森林填补，ntree代表模型中的树的棵数，一般情况下，对于高维数据可选择较小的值（如100），以达到快速插补的效果；对于大数据集进行填补时，可能耗时比较多。

library(missForest)dat2 <- missForest(airquality,ntree = 100)

dat2中包含填补好的数据，可利用dat2$ximp查看填补后的值，

head(dat2$ximp)aggr(dat2$ximp)

同时，OOBerror表示袋外填补缺失的误差估计。

dat2$OOBerror

4.多重插补法

多重插补法是在一个缺失的数据集中生成一个完整的数据集，并利用蒙特卡洛的方法进行填补的一种重复模拟的方法。

包mice中的mice()函数可实现对缺失数据的多重插补，原数据集中Ozone和Solar.R变量存在缺失,采用‘rf'法插补。

dat3 <- mice(airquality,m=5,method = ‘rf')

其中，m为生成完整数据集的个数，默认为5. method为插补参数的方法，‘norm.predict'、‘pmm'、‘rf'、‘norm'依次为回归预测法、平均值插补法、随机森林法和高斯线性回归法。

summary(dat3)

通过以下代码可查看填补的值

dat3$ imp$Solar.R

最后选择某一列（如1,2,3）填充到缺失数据集中即可形成完整的数据集.

以上为个人经验，希望能给大家一个参考，也希望大家多多支持。如有错误或未考虑完全的地方，望不吝赐教。