各位老铁们，大家好，今天由我来为大家分享可解释的人工智能(XAI)：如何使用LIME 和SHAP 更好地解释模型的预测，以及的相关问题知识，希望对大家有所帮助。如果可以帮助到大家，还望关注收藏下本站，您的支持是我们最大的动力，谢谢大家了哈，下面我们开始吧！

# 加载有用的库import pandas as pdfrom sklearn.model_selection import train_test_splitfrom sklearn.ensemble import RandomForestClassifierfrom sklearn.model_selection import cross_val_score`# 读取数据setdf=pd.read_csv(‘./data/diabetes.csv’)# 分离特征和目标变量X=df .drop(columns=’Outcome’)y=df[‘Outcome’]# 创建训练测试数据X_train, X_test, y_train, y_test=train_test_split(X, y,test_size=0.3, stratify=y, random_state=13)# Build模型rf_clf=RandomForestClassifier(max_features=2, n_estimators=100 ,bootstrap=True)# 对测试数据进行预测y_pred=rf_clf.predict(X_test)# 分类报告print(classification_report(y_pred, y_test))rf_clf.fit(X_train, y_train )

SHAP

SHapley Additive exPlanations 的缩写。该方法旨在通过计算每个特征对预测的贡献来解释实例/观察的预测。

# 导入SHAP库import shap# 将JS可视化代码加载到notebookshap.initjs()# 创建explainerexplainer=TreeExplainer(rf_clf)”’计算所有X_test的shap_values而不是单行，以便有更多数据用于绘图.’ ”shap_values=explainer.shap_values(X_test)print(‘变量重要性图-全局解释’)figure=plt.figure()shap.summary_plot(shap_values, X_test)SHAP有很多用于模型解释的可视化图表，但我们将突出显示其中的一些。

特征重要性汇总图

print(‘变量重要性图- 全局解释’)figure=plt.figure()shap.summary_plot(shap_values, X_test)

从上图我们可以得出以下结论：

它显示了从最重要到最不重要（从上到下）的重要功能列表。所有特征似乎对诊断为糖尿病（标签=1）或未诊断为糖尿病（标签=0）的两个类别的贡献相同，因为它们基本上都占据了矩形的50%。根据该模型，葡萄糖是对预测贡献最大的特征。年龄是第二大影响因素，怀孕是第五大预测因素。具体分类结果汇总图

# 摘要图深入研究标签1shap.summary_plot(shap_values[1], X_test)

对于分类问题，每个标签都有一个SHA 值。在我们的示例中，我们使用预测1（真）来显示此类别的结果摘要。该图的表示内容如下：

特征的重要性和排名与摘要图表中的相同。排名越高，重要性越高。图中的每个点代表单个数据实例的特征值。颜色指示该特征是具有高值（红色）还是低值（蓝色）。 X 轴表示对预测输出的正贡献或负贡献。当我们将这些分析应用于特征时，我们得到以下结论：

对于葡萄糖：我们看到大多数高值（红点）对预测输出有正向贡献（x 轴为正）。换句话说，如果单个数据实例的葡萄糖含量较高，则其获得1 结果（诊断为糖尿病）的几率会大大增加，而含量较低（蓝点）的几率较低（负x 轴值））被诊断患有糖尿病的结果。糖尿病的可能性。

对于年龄：对年龄执行相同的分析。年龄越高，数据实例（患者）最有可能被诊断为糖尿病。

另一方面，当涉及未成年人时，该模型似乎很混乱，因为我们可以在垂直线（X 轴=0）的每一侧观察到几乎相同数量的数据点。由于年龄特征似乎使分析变得混乱，我们可以使用下面的相关图来获取更细粒度的信息。

LIME

Local Interpretable Model Agnostic Explanation 的缩写。本地意味着它可以用来解释机器学习模型的单独预测。

使用起来也非常简单，只需要2 个步骤：(1) 导入模块，(2) 使用训练值、特征和目标来拟合解释器。

# 导入LimeTabularExplainer 模块from Lime.lime_tabular import LimeTabularExplainer# 获取类名class_names=[‘Has wedding’, ‘No Diabetes’]# 获取特征名称feature_names=list(X_train.columns)# 使用训练数据集拟合解释器LimeTabularExplainerterpreter=LimeTabularExplainer(X_train.values, feature_names=feature_names, class_names=class_names, mode=’classification’) 在代码中，我们使用class_names 创建两个标签而不是1 和0，因为使用名称会更直观。

解释一下单例

这里的解释是针对测试数据中的单个实例

#对测试数据中的第8个实例进行解释explainer.explain_instance(X_test.iloc[8], rf_clf.predict_proba)#显示模型的解释结果explaination.show_in_notebook(show_table=True, show_all=False)