如何解释AI做出的决策?一文梳理算法应用场景和可解释性( 三 )


本文希望采用一个基本的RNNarchitechure与SHAP相结合 , 它应该能够达到与RETAIN相当的性能水平 , 以帮助直接比较有效性解释方法 , 而不会因为过度追求可解释性而影响了模型本身的性能 。 具体的 , 本文基本RNN模型的内部状态由门控递归单元(GRU)组成 , 通过迭代以下方程定义:
如何解释AI做出的决策?一文梳理算法应用场景和可解释性
文章图片