欢迎访问广东工业大学数据挖掘与信息检索实验室!
CaMal系列讲座 | 黄维然、郝悦行应邀到DMIR实验室作学术讲座
2023-01-04 10:08  

     12月27日上午,上海交通大学清源研究院副教授黄维然、康奈尔大学郝悦行应邀到访DMIR实验室并作学术讲座。

   黄老师以“Theoretical Insights into Self-Supervised Contrastive Learning”为题,从理论角度分析自监督对比学习并介绍自监督对比学习的可迁移性。

4AEC07

   关于自监督对比学习的理论分析,黄老师首先定义了图像之间的augmented distance,并用(σ,δ)-增广定量刻画数据增广,进而提出影响自监督对比学习泛化性的三个关键因素:正样本对齐(Alignment of positive samples)类中心错开(Divergence of class centers)增广后的数据聚焦(Concentration of augmented data)。接着,黄老师证明了算法 SimCLR/MoCo 和 Barlow Twins均隐式地优化了前两个因素,并用实验验证更sharp的concentration导致了更好的泛化性。

   关于自监督对比学习的迁移性,黄老师指出对比学习无法学习增广不变(augmentation-invariant) 的特征,这限制了对比学习的可迁移性。针对这一问题,黄老师介绍了一种可以与SimCLR、MoCo等对比学习算法集成的新方法——Augmentation-robust Contrastive Learning(ArCL),并通过实验证明ArCL方法显著提高了对比学习的可迁移性。


9B15D

   郝博士报告的主题是“AI-Based Healthcare for Future Aging Society”。郝博士专注于研究健康智能 (Health Intelligence),将“以人为主的设计 (Human-Centered Design)”作为基底,涵盖三个主要领域:健康人工智能 (AI in Health)、精准健康 (Precision Health) 和 (患者) 体验设计 (Experience Design)

20F3CA

   在健康人工智能领域,郝博士介绍了人工智能在医疗中作为助手、观察者和对话组织者的角色,涉及共享决策制定(Shared Decision Making,SDM)、临床决策支持工具(Decision Support Tool,DST)和基于物联网的人工智能药物管理系统等项目。在共享决策制定(Shared Decision Making,SDM)人工智能系统原型项目中,郝博士讲解了3阶段研究患者评估 (Patient Assessment)AI风险评估 (AI Risk Evaluation)患者最终决策 (Patient End Decision)
   关于(患者)体验设计领域,郝博士介绍了使用大语言模型 (Large Language Model,LLM) 分析处理 Cancer Research UK (CRUK) 在线癌症论坛数据的过程。

2F9C3

   最后,她指出将人工智能融入医疗实践后健康智能 (Health Intelligence) 将达到的5个“I”:Intelligent(智能),Inclusive(包容),Individual(个体化),Interactive(互动),Immersive(沉浸式)。
   本次报告内容充实,学术气氛浓郁。与会师生们与黄老师、郝博士展开了深入探讨,感到受益匪浅。
   CaMal (Causal Modeling and Machine Learning) 是DMIR实验室发起的国际因果关系与机器学习研讨会以及系列学术活动的简称。CaMal系列活动秉持学术至上、形式自由的原则,邀请国内外相关领域的一线学者展开交流合作,致力于推动因果关系、机器学习及相关领域的研究与探讨。



关闭窗口