报告人简介
姚思羽,上海交通大学人文学院哲学系助理教授。博士毕业于美国印第安纳大学布鲁明顿分校科学史与科学哲学系,随后在斯隆基金会的支持下在辛辛那提大学担任博士后。她的研究方向包括一般科学哲学,人工智能的认识论,以及天文学中的哲学问题。
讲座内容介绍
基于人工神经网络的机器学习模型在科学研究和公共领域中的应用日益广泛。这些不透明的模型可能具有潜在的风险或局限。可解释人工智能(XAI)旨在揭示这些模型的工作机制,但其现状并未达到美好的预期:算法种类繁多,但缺乏公认的标准。本文提出,科学仪器中的“实验者回归(Experimenters’ Regress)”概念有助于理解这一现状,并为 XAI 提供清醒的启示。本文指出 XAI 算法设计与应用中的一种新型实验者回归变体:XAI 算法的有效性以及黑箱模型的工作机制构成相互依赖的循环。这一变体具有两个显著特征:打破回归的策略具有情境依赖性,且用于评估 XAI 算法的标准同样面临回归问题。这些特征挑战了 XAI 当前采用的自我辩护策略以及寻求通用评估标准的做法,并提供了两点启示。首先,由于各种实用、约定和社会因素都可能影响决策过程,人们应当意识到在设计和应用 XAI 算法时所涉及的多种考量。其次,使用者不应寻求通用标准,而应基于实证测试结果,在 XAI 应用的每个具体情境中达成实用的共识。因此,XAI 通过透明度来支持对人工智能的信任,同样需要实证验证。