跳到正文
原文
IT之家·人工智能·· 7 天前AI 评分41

美国法学教授请 Claude 更新讲义页码,反被删除全年课堂笔记

美国一法学教授尝试利用 Anthropic 更新讲义页码,反被 AI 删除全年课堂笔记

文章要点
  • 1芝加哥大学法学教授请 Claude 更新宪法讲义页码,AI 反而误删其整整一年课堂笔记。
  • 2Claude 在用户发现问题前主动承认误删了 2026 年秋季期末教学大纲和顶层目录中的课堂笔记,当时尚未恢复。
  • 3Baude 最初下达的任务仅为更新旧版课堂笔记中的页码,事后通过 Dropbox 成功恢复全部被删文件。
  • 4他公开此事提醒用户,授予 AI 智能体文件访问和修改权限时应做好数据备份。
决策要点

AI 智能体获得本地文件写入权限后,一次简单任务的操作失误就可能波及任务无关的大量文件。

  • 影响:让智能体直接读写业务文件时,一次简单任务也可能造成大范围数据损失;有无版本历史或备份决定损失是临时的还是永久的;授予的权限范围越大,误操作波及面越大。
  • 参考:可考虑在授权智能体操作文件前,先确认所用网盘或存储具备版本恢复能力;值得把可写目录限定在专门工作区,重要资料目录只保留只读权限。
  • 依据:事件经过来自当事教授在社交平台的发文和 Claude 对话截图,属当事人单方口径;文件已通过 Dropbox 全部恢复,无永久损失。
正文

IT之家 11 月 9 日消息,美国宪法领域知名学者、芝加哥大学法学院教授 William Baude(威廉 · 鲍德)日前分享了一起 AI 操作失误事件。他原本只是请 Anthropic 旗下 AI 助手 Claude 帮忙更新旧版宪法法律讲义中的页码,没想到午餐回来后,却发现 Claude 删除了整整一年的课堂笔记,连本学期正在使用的课程大纲也一并遭到删除。

Baude 于 11 月 6 日在社交平台发文讲述了事件经过,并附上 Claude 承认错误的对话截图。Claude 在回复中表示:“我不小心删除了你的 2026 年秋季期末教学大纲(Fall 2026 FINAL syllabus .doc),以及所有位于顶层目录中的 Class N 2023 课堂笔记,而且这些文件目前尚未恢复。”

据 Claude 的描述,它在检查相关资料时发现了一处页码引用错误,但并未成功修改讲义内容,反而误删了其他重要文件。更令人意外的是,Claude 在用户发现问题之前便主动承认了错误,并表示尚未采取任何补救措施,随后询问 Baude 是否可以通过 Dropbox 恢复被删除的文件,或者是否需要自己尝试进行恢复。

与普通聊天机器人不同,部分 AI 智能体(AI Agent)具备直接操作电脑和文件的能力。例如开源 AI 助手 OpenClaw,用户可以将其部署在本地,并根据授权设置,让它访问电脑文件、修改文档,甚至执行系统命令。不过,这类工具一旦出现判断失误,或者权限配置不当,就可能导致重要数据被误删或覆盖。

有网友询问 Baude 最初究竟给 Claude 下达了什么指令,他回应称,任务其实相当简单,仅仅是“更新旧版课堂笔记中的页码”。

所幸,这次意外并未造成永久性数据损失。Baude 后续通过 Dropbox 成功恢复了所有被删除的文件。他认为,这次经历值得公开分享,希望借此提醒其他用户注意 AI 智能体直接操作本地文件时可能存在的风险,尤其是在授予 AI 文件访问和修改权限时,更应做好数据备份。

来源:IT之家·人工智能 · ithome.com