跳到正文
原文
IT之家·人工智能·· 9 天前AI 评分47

悉尼男子向 Claude 透露枪击托儿所意图后被警方逮捕

悉尼一男子告诉 Claude“自己想枪击托儿所”,被警方逮捕

文章要点
  • 1悉尼29岁男子向 Claude 透露想枪击托儿所后被捕,被控利用通信服务实施骚扰、恐吓行为
  • 2检方称其想模仿致15人死亡的邦迪海滩袭击案,辩护律师称是耳部感染引发的情绪发泄
  • 3对话如何被国际刑警组织获取、Anthropic 是否主动提供内容均不清楚,当事人将接受心理健康评估
  • 4报道称AI聊天机器人正成为部分陷入有害妄想用户的倾诉对象,已有多起枪击案被认为与此相关
决策要点

聊天机器人对话成为刑事检控的证据来源,厂商对话数据流向执法机构的边界问题随之暴露。

  • 影响:面向消费者的对话产品可能接到用户真实危险意图,产品方与部署方都可能被卷入司法程序;对话如何流向国际刑警、厂商是否主动提供内容没有答案,数据边界与隐私预期的问题浮出;报道列举多起与聊天机器人相关的暴力事件,安全争议在累积。
  • 参考:运营对话类产品的企业可考虑先明确危险言论的识别、上报与处置流程;值得梳理自家产品对话数据在什么条件下可能提供给第三方或执法机构,并向用户写清隐私条款;部署客服或陪伴场景时可评估是否需要人工介入机制。
  • 依据:案件事实来自 IT之家转引《悉尼先驱晨报》的报道,检方与辩护说法均为法庭口径;对话流向执法机构的路径,报道明确表示尚不清楚。
正文

IT之家 10 月 24 日消息,澳大利亚悉尼一名男子戴维 · 兰 · 萨克雷向 Anthropic 的聊天机器人 Claude 透露,自己想杀害住所附近一家托儿所的儿童,随后被警方逮捕。

据《悉尼先驱晨报》报道,29 岁的萨克雷与 Claude 的对话引起了国际刑警组织注意,随后于当地时间 18 日被警方拘留。警方指控他利用通信服务实施骚扰、恐吓或冒犯行为,涉嫌违反澳大利亚刑法。

检方提交的文件显示,萨克雷曾对 Claude 说:“我现在就想去附近的韦斯特菲尔德购物中心,朝当地的托儿所开枪扫射。”

报道提到,国际刑警组织通过什么途径获取了聊天记录,以及 Anthropic 是否主动向国际刑警组织提供了对话内容,目前均不清楚。

萨克雷不仅谈到了袭击当地托儿所、大规模杀害儿童,还在对话中提到了纳维德 · 阿克拉姆。

IT之家注:阿克拉姆被控于 2025 年 12 月在悉尼邦迪海滩举行的犹太教光明节庆祝活动中发动袭击,造成 15 人死亡,是该案的恐怖袭击嫌疑人。

检察官在法庭上指出:“他就是想像邦迪那名涉嫌实施恐怖袭击的男子一样,在悉尼大开杀戒。通过他与聊天机器人的对话,我们可以了解他究竟在想什么。”

萨克雷的辩护律师则称,当事人只是情绪失控,借聊天机器人发泄不满。律师解释说,萨克雷患有耳部感染,因此感到压力和烦躁,所说的话根本不能当真。

他还强调,萨克雷一直以为自己与 Claude 的对话属于私人交流。据《悉尼先驱晨报》报道,萨克雷将接受心理健康评估。

IT之家获悉,AI 聊天机器人正逐渐成为一些陷入有害妄想、执念或思维紊乱的用户倾诉心事的对象,也由此引发担忧。

已有多起犯罪事件被认为与当事人长期使用聊天机器人存在关联,包括一起杀人后自杀案,以及 2025 年美国佛罗里达州立大学枪击案、今年 2 月的加拿大塔布勒岭校园枪击案等大规模枪击事件。

部分跟踪骚扰者以及存在偏执、过度迷恋等问题的人,也会从随时回应、倾向于顺从用户的 AI 聊天机器人那里获得支持。

来源:IT之家·人工智能 · ithome.com