DMIR实验室

7月9日上午，2023年第四届全国大数据与人工智能科学大会“因果学习与可解释性专题论坛”在贵阳市贵州群升豪生大酒店举办。本次论坛由DMIR实验室郝志峰老师和蔡瑞初老师共同组织，邀请了清华大学长聘副教授崔鹏、浙江大学副教授况琨和上海交通大学长聘副教授张拳石做主题报告，探讨了因果学习与可解释性在人工智能领域的最新研究进展和应用前景。

汕头大学校长、广东工业大学郝志峰教授首先主持了论坛。崔鹏老师带来了题为《因果启发的稳定学习》的报告。他首先指出当前统计机器学习所依赖的关联统计存在稳定性不足、可解释性不佳、公平性缺失和可回溯性不明确等问题，而因果统计具有更好的理论基础来保证这些“四性”。接着，他在报告中着重探讨了将因果推理引入预测性问题的稳定学习理论和方法，并阐述了在解决风险敏感领域的稳定性、可解释性、公平性和可回溯性等方面所面临的机会和挑战。最后，他展示了一些因果推理在预测性问题中的应用，并讨论了解决OOD泛化问题的机会和挑战。

图1 | 郝志峰老师作主持

图2 | 崔鹏老师作学术报告

紧接着，蔡瑞初老师主持了论坛的第二个报告，况琨老师带来了《基于工具变量的因果推断和因果可泛化学习》的报告。他首先通过一系列决策的场景引入因果效应的介绍。接着，他介绍了在如何平衡混淆变量方面的工作，并讨论了在大数据时代这些工作面临的新挑战，包括如何自动分离混淆变量、如何消除未观察到的混淆变量、如何解决连续或者复杂的因果效应三大问题。最后，他从因果推断中的工具变量视角出发，重点探讨了领域泛化问题中存在的偏差问题，提出了因果可泛化学习机制。

图3 | 蔡瑞初老师作主持

图4 | 况琨老师作报告

张拳石老师分享了《可解释性博弈交互：统一体系与去芜存菁》的相关工作。首先，他介绍了他的团队在构建神经网络可解释性理论方向上的研究成果。并指出目前大多数可解释性算法过于注重工程实现，迎合人类主观认知，缺乏统一的理论基础，从而影响了算法的严谨性和可解释性研究的进一步发展。接着，他分享了团队近年来在博弈交互的理论框架下进行的研究，包括统一解释神经网络的归因权重、对抗鲁棒性、泛化能力以及模型建模的视觉概念分类等方面。最后，他介绍了如何考虑输入图像的视觉美观性，为神经网络的可解释性提供更全面的理论基础。

图5 | 张拳石老师作报告

图6 | 与会人员听取报告

图7 | 提问互动环节

图8 | 提问互动环节

此次论坛的成功举办为研究者们提供了一个交流思想、分享成果的平台，促进了因果学习与可解释性领域的创新与合作，为人工智能的发展和应用提供了宝贵的思想碰撞和合作机会。

图9 | 合照

全国大数据与人工智能科学大会（CSIAM-BDAI）自2018年起、迄今已举办四届，大会邀请了众多从事大数据和人工智能科学相关领域的著名专家学者参与会议并作报告，每年一届大会参与者上千人，已经成为学界和业界有影响力的盛会！大会旨在深入研讨大数据与人工智能领域的热点话题，为我国大数据分析方法与人工智能算法发展构筑理论基础，助力创新型国家建设。