是的，我们应该要求决策型人工智能（特别是那些对人类产生重大影响的系统）对其判断提供可理解的解释。这不仅是伦理上的要求，也具有重要的实际意义。以下是一些关键原因：
信任与接受度：
- 建立信任：人们更可能信任一个能够解释其推理过程的系统。黑箱操作会引发怀疑和不安。
- 促进采纳：如果用户（医生、法官、贷款审批员等）理解AI为什么做出某个建议，他们更可能接受和使用它，而不是盲目服从或完全拒绝。
责任归属与问责：
- 识别错误：当AI出错时，解释有助于识别问题根源（是数据问题、算法偏差还是其他原因？），便于修复和改进系统。
- 明确责任：在AI辅助或主导的决策导致负面后果时，解释有助于厘清责任（是开发者、部署者、数据提供者还是使用者的责任？）。没有解释，问责变得非常困难。
公平性与偏见检测：
- 揭露歧视：解释可以帮助检测AI决策中可能存在的偏见或不公平性。如果AI基于种族、性别等受保护特征做出歧视性决策，解释可以揭示这种模式。
- 确保合规：有助于验证AI决策是否符合法律法规（如反歧视法）和伦理规范。
安全性：
- 发现安全隐患：理解AI的决策逻辑有助于发现可能导致危险或意外行为的系统缺陷或边界情况。
持续改进：
- 反馈与优化：解释为人类专家提供了反馈的基础。他们可以评估AI推理的合理性，提供纠正，从而帮助改进模型。
- 领域知识融合：人类专家可以结合领域知识，判断AI的推理是否符合现实逻辑，或发现其知识盲区。
用户权利与透明度：
- 知情权：受AI决策影响的个人有权知道影响其生活的决策是如何做出的。这是透明度和数据主体权利（如欧盟GDPR中的“解释权”）的基本要求。
- 申诉与质疑：解释使个人能够理解决策依据，并在认为决策不公时进行申诉或质疑。
面临的挑战：
- 技术难度：对于复杂的模型（如深度神经网络），提供既准确又易于人类理解的解释本身就是一个技术挑战（可解释人工智能领域的研究重点）。简单的解释可能不完整或不准确。
- 性能权衡：有时，追求更高的可解释性可能会牺牲模型的最佳性能或预测精度。
- “解释”的定义：什么样的解释才算“可理解”？是针对专家还是普通用户？解释的深度和形式需要根据场景调整。
- 恶意利用：过度详细的解释可能被恶意利用，用于“欺骗”系统或发现漏洞。
结论：
尽管存在挑战，但要求关键领域的决策型AI提供可理解的解释是必要且值得追求的。这关乎信任、公平、责任和安全。我们应该努力开发更可解释的模型（如可解释AI技术），并在法律、伦理和标准层面推动对AI可解释性的要求。解释的质量和形式可以根据决策的重要性和影响的严重程度进行调整，但不能完全缺失。最终目标是实现负责任、可信赖且透明的人工智能。
同时，也要认识到，AI的解释可能无法完全等同于人类的逻辑推理，并且在某些情况下，解释本身也可能存在局限性。因此，对AI解释的解读也需要保持批判性思维。
