随着机器学习（ML）领域的深入发展，机器人在教育、引导、医疗方面都有巨大的应用。但如今人们不仅关注于机器人执行任务的准确和效率，更希望理解其决策的原因和行动，从而判断是否信任答案，而这正也是可解释人工智能（XAI）所要研究的问题。XAI 主要解决以下问题：对于使用者而言某些机器学习模型如同黑盒一般，给它一个输入，决策出一个结果。比如大部分深度学习的模型，没人能确切知道它决策的依据以及决策是否可靠。