华泰人工智能系列之二十七：揭开机器学习模型的“黑箱” 本文介绍机器学习解释方法原理，以XGBoost选股模型为例揭开黑箱本文介绍六种机器学习模型解释方法的原理，并以华泰XGBoost选股模型为例，尝试揭开机器学习模型的“黑箱”。机器学习多属于黑箱模型，而资管行业的伦理需要可解释的白箱模型。除传统的特征重要性外，ICE、PDP、SDT、LIME、SHAP都是解释模型的有力工具。揭开选股模型黑箱，我们发现：1）价量类因子的重要性整体高于基本面类因子；2）XGBoost模型以非线性的逻辑使用因子，因子的非线性特点在市值、反转、技术、情绪因子上体现尤为明显。 目前人工智能算法的本质仍是样本拟合，直接使用模型结论可能有凤险目前的人工智能算法，即使是近年来发展迅猛的深度神经网络，和线性回归并无本质上的不同，仍是对样本特征X和标签Y进行拟合，区别无非是机器学习模型的非线性拟合能力更强。人工智能并不具备真正的“智能”。模型只能学习特征和标签的相关关系，但无法挖掘其中的因果关系。如果不将机器学习模型的黑箱打开，不弄清机器学习模型的“思考”过程，直接使用机器学习的判断结果，可能带来较大的风险。 近年来研究者提出诸多机器学习模型解释方法，核心思想各有不同 近年来研究者提出诸多机器学习模型解释方法，除了传统的特征重要性外，ICE、PDP、SDT、LIME、SHAP都是揭开机器学习模型黑箱的有力工具。 【更多详情，请下载：华泰人工智能系列之二十七：揭开机器学习模型的“黑箱”】