＃ 極值標(biāo)準(zhǔn)化處理

scaler ＝ MinMaxScaler（）

scaler．fit（train＿data）

scaled＿train＿data ＝ scaler．transform（train＿data）

scaler＿test＿data ＝ scaler．transform（test＿data）

建立多層感知器模型。

＃ 設(shè)置多層感知器對(duì)應(yīng)的模型

mlp ＝ MLPClassifier（hidden＿layer＿sizes＝（10，）， activation＝＇logistic＇， alpha＝0．1， max＿iter＝1000）

＃ 對(duì)訓(xùn)練集進(jìn)行模型訓(xùn)練

mlp．fit（scaled＿train＿data， train＿target）

＃ 輸出神經(jīng)網(wǎng)絡(luò)模型信息

print（mlp）

輸出模型信息如下。

接下來(lái)使用經(jīng)過訓(xùn)練集訓(xùn)練的模型，對(duì)訓(xùn)練集及測(cè)試集進(jìn)行預(yù)測(cè)。

＃ 使用模型進(jìn)行預(yù)測(cè)

train＿predict ＝ mlp．predict（scaled＿train＿data）

test＿predict ＝ mlp．predict（scaler＿test＿data）

輸出預(yù)測(cè)概率，用戶流失的概率。

＃ 輸出模型預(yù)測(cè)概率（為1的情況）

train＿proba ＝ mlp．predict＿proba（scaled＿train＿data）［：， 1］

test＿proba ＝ mlp．predict＿proba（scaler＿test＿data）［：， 1］

對(duì)模型進(jìn)行評(píng)估，輸出評(píng)估數(shù)據(jù)。

＃ 根據(jù)預(yù)測(cè)信息輸出模型評(píng)估結(jié)果

print（metrics．confusion＿matrix（test＿target， test＿predict， labels＝［0， 1］））

print（metrics．classification＿report（test＿target， test＿predict））

輸出如下。

模型對(duì)流失用戶的f1－score（精確率和召回率的調(diào)和平均數(shù)）值為0．81，效果不錯(cuò)。

此外對(duì)流失用戶的靈敏度recall為0．83，模型能識(shí)別出83％的流失用戶，說(shuō)明模型識(shí)別流失用戶的能力還可以。

輸出模型預(yù)測(cè)的平均準(zhǔn)確度。

＃ 使用指定數(shù)據(jù)集輸出模型預(yù)測(cè)的平均準(zhǔn)確度

print（mlp．score（scaler＿test＿data， test＿target））

＃ 輸出值為0．8282828282828283

平均準(zhǔn)確度值為0．8282。

計(jì)算模型的ROC下面積。

＃ 繪制ROC曲線

fpr＿test， tpr＿test， th＿test ＝ metrics．roc＿curve（test＿target， test＿proba）

fpr＿train， tpr＿train， th＿train ＝ metrics．roc＿curve（train＿target， train＿proba）

plt．figure（figsize＝［3， 3］）

plt．plot（fpr＿test， tpr＿test， ＇b－－＇）

plt．plot（fpr＿train， tpr＿train， ＇r－＇）

plt．title（＇ROC curve＇）

plt．show（）

＃ 計(jì)算AUC值

print（metrics．roc＿auc＿score（test＿target， test＿proba））

＃ 輸出值為0．9149632415075206

ROC曲線圖如下。

訓(xùn)練集和測(cè)試集的曲線很接近，沒有過擬合現(xiàn)象。

AUC值為0．9149，說(shuō)明模型效果非常好。

對(duì)模型進(jìn)行最優(yōu)參數(shù)搜索，并且對(duì)最優(yōu)參數(shù)下的模型進(jìn)行訓(xùn)練。