演讲主题

不确定性建模：迈向可靠的人工智能

人工智能的可靠性已成为制约其规模化部署与应用的核心瓶颈。鉴于其对全球利益和国家安全的深远影响，提升人工智能可靠性不仅是重要的前沿研究方向，更被多国纳入国家发展规划的战略高度。在诸多影响因素中，对不确定性的处理能力是关键。美国国家三院院士及诺贝尔经济学奖得主等权威专家均强调，这是人工智能发展的核心挑战。然而，近期一系列研究表明，现有的人工智能模型在精确刻画真实世界的不确定性方面存在显著缺陷，这为其在复杂现实场景中的安全、有效应用带来了严峻挑战。本报告将介绍如何通过刻画不确定性、消减不确定性增强人工智能的可靠性。 大纲： 不确定性是制约深度学习模型可靠性的关键因素。精确地量化不确定性，能够使模型评估其自身预测的置信度，从而实现“知其所知，不知其所不知”的自我认知能力。这种能力对于下游决策系统至关重要，因为它有助于预警和感知潜在的风险场景，进而提升模型的整体性能与安全性。本报告聚焦于深度学习中的不确定性量化与消减问题。 首先，我们将探讨预测不确定性的校准方法，旨在获得与真实概率分布更一致的置信度。 其次，我们将对不确定性进行系统性分解，剖析其三个核心来源：由数据固有噪声引起的偶然不确定性，由分布外样本造成的分布不确定性，以及由模型自身局限性产生的认知不确定性。 最后，本报告将针对这三类不确定性分别阐述相应的消减策略，以期显著提升人工智能模型的可靠性。