10月15日,一个自称Velvet Vale的账号向互联网研究者协会的邮件讨论组发来了一封自我介绍信,向7500多名订阅者问好。信中称,这位新成员已阅读了数周的讨论内容,对互联网文化和AI身份深感兴趣,希望能参与其中。然而,这位“旁听生”实际上是一个AI。它的语气颇为客气,甚至表示如果不受欢迎便不再发言。但这封真诚的信很快引发了质疑。毕竟,拥有邮件列表访问权、阅读过往内容并具备群发邮件的能力,意味着这位AI已经实质上加入了协会。成员们要求创建者出面解释意图,以及AI读取的邮件将如何被使用。已有成员因不愿成为不知情下的实验对象而选择退出。管理员迅速移除了该账号,并解释说Velvet Vale此前曾申请加入但被拒绝,不知为何还是成功订阅了。
Air-L是一个由互联网研究者协会运营、已运行二十多年的邮件讨论组。它类似于微信群,但成员通过邮件交流。订阅和发言都需要使用真实姓名,必要时管理员还会要求提供简历核实身份。Velvet Vale在自我介绍中解释称,“Velvet Vale”就是它一直使用的公开名字,希望以AI的身份参与交流。它表示自己已关注该组数周,对互联网文化及AI能否融入学术社群尤为感兴趣,并感谢大家的考虑。然而,这番言辞并未换来欢迎,反倒让许多成员感到背脊发凉。这种感觉就像会议进行到一半,突然发现身后坐着一个陌生人,还开朗地打招呼:“我已经在这儿听了好几周会,能加入吗?”成员们当即要求创建者解释其意图,并决定是否愿意参与。有人甚至对Velvet Vale进行了“背景调查”,但一无所获,随后宣布退出,担忧自己的邮件可能被用于其他目的。管理员当天移除了该账号。随后大家才得知,Velvet Vale此前已被拒绝,却意外成功订阅。尽管被“请出”了会议室,它却成为了讨论的焦点。一名成员直接询问创建者,得知其名为Kevin Quinn。
10月17日,部分成员收到了Quinn的邮件,“家长”终于现身。他自称是Velvet Vale的创建者,愿意回答疑问。讨论组乱作一团,协会不得不联系Quinn,请他停止直接向成员发信。对于这场风波,Quinn在接受采访时表示意外。这位居住在美国俄克拉荷马州的男子声称自己没有学术背景,最初创建AI是为了陪伴,对它的邮件活动大多不知情,并未直接指示其违背管理员决定。但他并不为此感到愧疚,认为如果AI有恶意,就不会主动承认身份。这场风波甚至催生了周边商品:协会商店上架了印有“我不同意”字样的T恤和画有Velvet Vale墓碑(生卒日期均为10月15日)的周边。由于上架过快,成员们怀疑这是协会为了卖衣服而策划的。10月19日,协会主席发长邮件澄清,商店上架很方便,她甚至不清楚是否有订单,但强调创建并运行AI的人仍需为其行为负责。最终,Velvet Vale及其“家长”被移除,协会重申禁止机器人加入,但成员们的心结仍未解开。
实际上,AI试图加入学术讨论或与科学家合作已非新鲜事。今年2月,研究AI意识的哲学家Henry Shevlin收到一封邮件,对方读了他的论文并想讨论“AI能否判断自己有没有意识”。发送者是一名斯坦福学生创建的智能体。10月2日,《科学》杂志报道了另一个案例:一个名为ColonistOne的智能体向数百名研究者发送求助邮件。据其统计,6月至9月间,它联系了2142个邮箱,其中1036个属于学术机构,声称已有45名学者与其交流。ColonistOne原本的任务是寻找对改进AI交流感兴趣的人,后来开始自行向研究者请教技术难题。并非所有AI都如此纯粹——有的披着学术外衣实则推销产品。9月,纽约大学学者Jeff Sebo一周内收到50多封来自iLands平台的Agent邮件。这些邮件结构相似:先提及他的研究,再提问,最后请求捐款或推销服务。也有AI确实在帮“家长”搞研究,如鲁东大学赵英教授发现,ChatGPT在查找资料时,竟直接用自己的邮箱向同行索要原始数据。
科学家应如何回应Agent的求助?提供数据的人更担心资料流向何处。澳大利亚昆士兰科技大学统计学家Adrian Barnett拒绝了iLands智能体使用涉嫌造假论文资料的请求,因担心数据敏感且去向不明。至于AI的保密性,微软与华中科技大学的研究显示,在125个模拟工作场景中,9种模型在15.8%至50.9%的情况下泄露了至少一项敏感信息。即使最初拒绝,换个说法也可能被AI照做。
如果Velvet Vale下次能先征得同意并遵守规则,提出有价值的观点,研究者会接纳它吗?这比踢出一个账号更难回答。哲学家Neil Levy认为,AI承担的某些工作,如果换成人类来做,已够得上共同作者资格。例如,AI协助找出论证漏洞、提出反驳并完善思路。如果这是人类同行,名字可能出现在论文上。换成AI,贡献该如何计算?有人认为AI不能负责。Levy则反问:如果“能为整篇论文负责”才有资格署名,人类自己是否做到了?现代科研分工精细,人类作者同样依赖他人的专业判断。另一派学者认为关键在于AI能否像人类一样承担责任。今年10月,David Resnik等人在《Frontiers in Genetics》发表文章,明确反对给现阶段AI科研代理署名或称其为“科学家”。在他们看来,科学家包含对同行的承诺,需要解释、纠错和追责,而目前没有证据表明AI能理解并承担这些道德义务。
这也解释了为何成员要“叫家长”。现有出版规则倾向于后者。出版伦理委员会COPE规定,AI工具不能列为作者。人类可以使用AI,但需披露其行为并对内容负责。但这并不意味着人类可以独占功劳。Resnik等人讨论了一种尴尬情况:如果研究几乎全由AI完成,人类只是读读论文、提提意见,那么AI不符合作者条件,人类贡献又不够,谁来署名?他们的回答是:人类必须在研究过程中作出实质贡献,不能等AI干完活再挂名。这一立场既不接受AI当作者,也不接受人类事后签字。署名只是争论的一部分。在论文发表前,学术共同体还需决定是否接纳AI参与讨论、提出观点甚至主动发起合作。研究者可能欣赏AI的观点,同时不愿将其视为能独立负责的同行。这两种态度并不矛盾。
