可解释人工智能（XAI）：企业就绪的人工智能指南 第1张视觉分析
可解释人工智能（XAI）：企业就绪的人工智能指南 第2张情景分析

可解释人工智能（XAI）：企业就绪的人工智能指南 第3张Source: Fiddler Labs

XAI对每个特征进行分析，并分析其对结果的影响。通过这种分析，用户可以创建新的场景，了解改变输入值如何影响输出。在上面的例子中，用户可以看到对预测贷款风险有积极/消极影响的因素。

XAI的目的不是提高性能，而是解释具体的决定或建议是如何达成的。它帮助人类了解人工智能如何/为何以某种方式行事，并在人类和人工智能模型之间建立起信任。XAI的主要优点是：

随着人工智能越来越多地融入我们的生活，人工智能伦理的重要性也在增加。然而，高级人工智能模型的复杂性和缺乏透明度使人们对这些模型产生怀疑。在不了解它们的情况下，人类无法决定这些人工智能模型是否对社会有益、值得信赖、安全和公平。因此，人工智能模型需要遵循特定的道德准则。Gartner将人工智能的道德规范归纳为五个主要部分：

XAI的主要目的之一是帮助AI模型为这五个组成部分服务。人类需要对人工智能模型有深刻的理解，以了解它们是否遵循这些组成部分。人类无法信任一个不知道如何工作的人工智能模型。通过了解这些模型的工作方式，人类可以决定人工智能模型是否遵循这五个特征。

大多数XAI供应商提出不同的解释界面，以澄清复杂的AI模型。一些例子的供应商包括：