加拿大枪击案受害者家属起诉OpenAI,指控其未能阻止悲剧

2月10日,加拿大卑诗省山城Tumbler Ridge发生一起骇人听闻的大规模枪击事件,造成包括5名年龄在12至13岁的学生和一名39岁的教学助理在内的8人死亡。涉事枪手为18岁的Jesse Van Rootselaar,他在事件发生后自杀身亡。
此后,受害者家属对人工智能公司OpenAI提起诉讼,指控其未能阻止这场悲剧的发生。Cia Edmonds代表她12岁的女儿Maya Gebala提起了这项民事诉讼。Maya在枪击事件中身中三枪,包括头部和颈部,遭受了“灾难性的脑损伤”,并留下了永久性的认知和身体残疾。她的妹妹Dahlia Gebala虽未受伤,但出现了创伤后应激障碍(PTSD)、焦虑和抑郁等症状。
诉讼文件显示,枪手Jesse Van Rootselaar在2025年6月曾多次使用ChatGPT描述涉及枪支暴力的场景。OpenAI的自动化审查系统曾标记了这些对话活动,并封禁了该用户的账户。然而,根据诉讼内容,OpenAI认为这些活动并未显示出“可信或迫在眉睫的计划”,因此没有将此事通知加拿大当局。
“OpenAI曾有机会通知当局,甚至可能阻止这场悲剧的发生,”卑诗省省长David Eby在与OpenAI首席执行官Sam Altman会面后告诉记者。Eby认为,由公司自行决定是否报告暴力内容的做法“是不可接受的,这需要改变”。
诉讼进一步指控,在第一个账户被封禁后,枪手能够创建第二个ChatGPT账户,并继续规划涉及枪支暴力的场景。诉讼声称,OpenAI“拥有关于枪手长期策划大规模伤亡事件的具体知情权”,但“未采取任何措施来应对这一知情权”。
根据诉讼文件,有十二名OpenAI员工曾标记枪手的帖子,认为其“表明了对他人造成严重伤害的迫在眉睫的风险”,并建议通知加拿大执法部门。然而,诉讼称,联系当局的请求被“拒绝”,唯一采取的行动只是封禁了Rootselaar的账户。
OpenAI此前曾表示,之所以未通知警方,是因为该账户未达到其关于可信或迫在眉睫的严重身体伤害计划的门槛。但诉讼认为,OpenAI在将ChatGPT推向市场前,并未进行充分的安全研究,其行为“对原告和整个社区来说都是应受谴责和道德上令人厌恶的”。
该诉讼由律师事务所Rice Parsons Leoni & Elliott LLP代理,其在声明中表示:“本次诉讼的目的是了解Tumbler Ridge大规模枪击事件如何以及为何发生,追究责任,寻求赔偿,并帮助防止加拿大再次发生大规模枪击暴行。”
事件发生后,OpenAI首席执行官Sam Altman于3月4日与加拿大人工智能部长Evan Solomon和卑诗省省长David Eby进行了虚拟会晤。据《华尔街日报》报道,Altman承诺将加强关于可能有害互动内容的通知警方协议,并向Tumbler Ridge社区道歉。
David Eby表示,在与Altman的通话中,“所有人都认识到道歉远远不够,但同时也是完全必要的。”他强调,AI监管的现状“行不通,过去行不通,而且它确实带来了可能再次失败的威胁。因此,变革需要紧急做出。”
OpenAI在一份发给加拿大官员的公开信中表示,公司已在近期实施了一系列变更,包括聘请“心理健康和行为专家”来评估案例,并使向警方推荐的标准“更加灵活”。公司称,根据新指导方针,他们本应报告枪手的ChatGPT账户。OpenAI还将与加拿大执法部门建立直接联系点,以便快速标记任何“可能导致现实世界暴力的”未来潜在案件。
然而,Eby省长也指出,除了OpenAI的责任外,还需要关注心理健康支持的不足以及枪手获取枪支的问题。他警告说,其他拥有类似聊天机器人的公司尚未改变其政策,表明监管框架的紧迫性。
加拿大人工智能部长Evan Solomon已要求OpenAI追溯性地应用新的安全标准,并审查先前标记的案例,以确定是否遗漏了应报告给皇家骑警(RCMP)的事件。诉讼中的指控尚未在法庭上得到检验。
评论
加入讨论
请登录后发表评论
还没有评论
登录成为第一个评论的人。