OpenRouter 将对所有推理请求进行儿童性虐待材料(CSAM)筛查
CSAM Screening Across OpenRouter
- 1OpenRouter 将对所有经过其服务的推理请求进行 CSAM 实时筛查,被标记内容可能保留供人工审查
- 2筛查比对已知 CSAM 的哈希指纹,分类器可识别尚未入库的可疑内容,被标记只代表疑似而非认定
- 3筛查同样适用于 ZDR 零数据保留流量,除用户主动存储或 CSAM 审查、上报和法律保存外,处理后不留存
- 4按美国法律,提供商获知相关线索须尽快上报 NCMEC CyberTipline,被上报材料须在提交后保存一年
OpenRouter 把儿童安全合规嵌入推理链路,ZDR 零保留承诺新增了筛查与上报所需的法定例外。
- 影响:依赖 ZDR 隔离敏感数据的团队需要重读条款,被标记内容可能被保留审查;各模型厂商与上游提供商的筛查和保留做法不同,选型时的数据流评估要多问一层;CSAM 上报与一年期保存是法定义务,不因 ZDR 免除。
- 参考:可考虑让法务或安全团队核对更新后的条款与 ZDR 说明,确认例外范围可接受;涉及图像或视频生成的场景,值得按 NCMEC 指南检查哈希比对与分类器等儿童安全措施是否到位;有严格保留要求的组织可先比对各提供商政策再决定路由。
- 依据:OpenRouter 官方公告说明筛查方式与条款更新;上报义务和一年保存期引自 18 U.S.C. § 2258A;NCMEC 指南为官方转引,筛查误报率等效果数据原文未给出。
OpenRouter 将在所有推理请求经过我们服务时对其进行儿童性虐待材料(CSAM)筛查。筛查在请求处理过程中即时进行。被标记为潜在 CSAM 的内容可能会被保留以供人工审核,并在法律要求时进行报告和留存。
CSAM 筛查的工作方式
- 已知 CSAM 检测。即时筛查包括将相关内容与先前已识别 CSAM 的哈希值(数字指纹)进行比对。
- 疑似新 CSAM 的审核。我们可能会开始保留被标记为潜在 CSAM 的内容以供人工审核,包括与已知哈希值不匹配的内容。标记仅表示疑似材料;其本身并不构成对内容为 CSAM 的认定。
哈希匹配可检测已知材料,而分类器可以识别尚未加入哈希数据库的疑似材料。美国国家失踪与受剥削儿童中心(NCMEC)建议将哈希和图像分类器作为处理图像和视频的服务(包括生成式 AI 服务)的基本儿童安全措施(NCMEC 指南)。
筛查同样适用于 ZDR 流量
CSAM 筛查也将适用于受 OpenRouter 零数据保留(ZDR)政策覆盖的请求。
我们正在更新文档和相关条款,以明确 OpenRouter 自身的保留承诺:
对于受 OpenRouter ZDR 政策覆盖的推理内容,我们在处理完成后不会保留提示词或响应,除非您明确选择让我们存储它们,或者为 CSAM 审核、报告及相关法律留存而需要保留。
这些 CSAM 条款并不授权出于无关目的对 ZDR 推理内容进行普遍保留。OpenRouter 不将输入或输出用于模型训练的承诺继续保持不变(OpenRouter 隐私政策)。
报告与留存要求
CSAM 报告和留存义务是既定的法律义务。ZDR 不会免除这些义务。
根据美国法律,受管辖的提供商在获知表明特定明显违法行为的事实或情况后,必须尽快向 NCMEC 的 CyberTipline 报告。所报告的内容及某些相关背景材料必须在提交后保存一年。该要求适用于已报告的材料,而非每一个被标记待审核的项目(18 U.S.C. § 2258A(a) and (h))。
提供商政策可能有所不同
模型实验室和提供商可能使用不同的筛查和保留方法。有些可能会在内容被标记之前将其保留一段时间以运行自动安全检查。这些做法与 OpenRouter 的即时筛查是分开的,并受适用的模型和提供商政策约束。
OpenRouter 记录了提供商政策,以便用户了解适用于其请求的要求。在选择模型或提供商时,请查看这些政策,尤其是当您的组织有特定的数据保留要求时。
展望未来
AI 正在开启令人振奋的可能性,而围绕前沿模型的做法也在迅速演变。我们正在更新文档和相关条款,以说明 OpenRouter 的即时筛查、对被标记内容的可能保留,以及提供商政策的呈现方式。一如既往,我们会随时向您通报。
来源:OpenRouter:Blog(Announcements) · openrouter.ai