(上)基于网络结构约束的可解释性神经网络

开发机器学习算法来解决现实生活问题时,模型的预测精准度和可解释性是两个最重要的目标。深度学习中的神经网络一般具有高精准性,但由于模型复杂往往难以解释本文为了加强神经网络模型的可解释性,我们考虑下列网络结构化约束:a)稀疏加性子网络:b)正交投影;c)光滑函数,并提出一种新的可解释神经网络(英文缩写为S0SxNN)。

s0SxNN的模型参数通过批量梯度下降算法和 Cayley变换进行估计,一些重要的超参则通过网格搜索来优化在数值实验中,我们将 SOSXNI与几种经典的机器学习方法进行比较,包括 Lasso、SWM、随机森林和多层感知机。实验结果表明,S0SxNN在保持较高预测精确度的同时,大幅度提升了模型的可解释性,因此可用作代理模型来有效逼近复杂的函数关系。最后,我们通过美国P2P借贷公司 Lending Club的一组真实数据来演示S0SxNN模型的应用。


Experience it now and start the journey of digital transformation !