cv.glmnet()预测与使用 "class "和 "response "相反。

Question

我想从lasso logistic回归结果中绘制roc曲线，所以我用type="response "的predict()来得到一个概率，但是，当我把type="class "时，结果却与之相反。

首先，这是我的数据集，我的预测器有2个层次。

selected_data$danger <- factor(selected_data$danger, levels = c(1,0))
lasso_data<-selected_data

str(lasso_data$danger)
# Factor w/ 2 levels "1","0": 1 1 1 1 1 1 1 1 1 1 ...

# partition
input_train <- createDataPartition(y=lasso_data$danger, p=0.8, list=FALSE)
train_dataset <- lasso_data[input_train,]
test_dataset <- lasso_data[-input_train,]

dim(train_dataset)
# [1] 768  62
dim(test_dataset)
# [1] 192  62

我确实运行了两个案例(type = class, response)来比较。

lasso_model <- cv.glmnet( x=data.matrix(train_dataset[,-length(train_dataset)]), y = train_dataset[,length(train_dataset)],
family = "binomial" , type.measure = "auc",alpha=1, nfolds=5)


lasso_pred <- predict(lasso_model, newx=data.matrix(test_dataset[,-length(test_dataset)]),
                      s=lasso_model$lambda.min, type= "class", levels=c(1,0))

lasso_pred_resp <- predict(lasso_model, s="lambda.1se", newx=data.matrix(test_dataset[,-length(test_dataset)]), type="response", levels=c(1,0))


threshold <- 0.5 # or whatever threshold you use
pred <- ifelse(lasso_pred_resp>threshold, 1, 0)


table(lasso_pred, pred)
#           pred
# lasso_pred  0  1
#          0 11 95
#          1 76 10

我不知道为什么会发生这种情况......任何帮助将是非常感激的。

Answer 1

对于R中的逻辑回归，概率或 "响应 "总是指的是第2级的概率，在你的情况下是 "0"。

所以你的预测应该是。

pred <- ifelse(lasso_pred_resp>threshold, 0, 1)

为了避免混淆，你也可以这样做：

lvl <- levels(lasso_data$danger)
pred <- ifelse(lasso_pred_resp>threshold,lvl[2],lvl[1])