跳到正文

#合规风控

今日 15 条
9月21日周一
  1. OpenAI:官网动态30

    OpenAI 提出全球 AI 标准路径,呼吁协调评估、报告与治理以提升安全

    OpenAI 在官网发布文章,提出构建共享的全球 AI 标准的路径,呼吁以协调一致的评估、报告和治理机制提升 AI 安全。该提议面向 AI 的下一阶段发展;目前可见材料仅为官方摘要,全文具体方案未随材料给出。

    决策要点

    OpenAI 主动倡导以协调评估、报告和治理为核心的全球 AI 标准路径,属头部厂商的治理立场表态,全文具体内容暂未随材料给出。

    • 影响若协调评估与报告成为主流标准方向,使用 AI 的企业可能面临更明确的透明度和合规要求;厂商安全治理能力在选型时会获得更多权重;当前材料仅陈述立场,尚无具体条款可评估影响。
    • 参考可考虑查阅 OpenAI 原文,确认其呼吁的评估和报告要求是否涉及企业用户;值得把 AI 治理纳入内部合规清单;选型模型厂商时可询问对方是否具备相应的安全评估与报告机制。
9月19日周六
  1. Anthropic:Newsroom51

    Partnering with Accenture on embedded evaluation

    Anthropic 宣布与 Accenture 合作开展前沿 AI 嵌入式独立评估,由 Accenture 旗下 AI 业务 Faculty 主导,内容包括红队测试、对齐评估与安全防护测试。

    决策要点

    第三方安全评估从外部审查推进到模型公司内部,安全验证走向制度化探索,但权限、报告与资金规则尚未定型。

    • 影响企业采购前沿模型时可多一个安全核验维度;各至少 10 亿美元的投入显示评估能力建设成本不低,第三方评估可能逐步成为 AI 供应链常规环节;标准未定,短期难以直接引用。
    • 参考可考虑把模型安全评估与红队测试纳入供应商尽调清单;值得跟踪 Anthropic 后续公布的更多评估合作,为自家 AI 治理和采购标准积累参考基线。
9月17日周四
  1. OpenAI:官网动态31

    律所 Cooley 如何用 ChatGPT Work 加速 IPO 流程

    律所 Cooley 基于 ChatGPT Work 搭建 GO Public 工具,为 IPO 流程引入智能辅助,帮助律师更早发现问题、聚焦关键判断。该案例由 OpenAI 官网发布,现有材料仅为摘要,未包含具体功能与效果数据。

    决策要点

    律所 Cooley 把大模型封装成 IPO 专用工具,显示 AI 应用进入高合规门槛的法律核心流程。

    • 影响文中把 IPO 律师工作的提速作为直接目标,专业服务流程的工具化价值有了具体案例;工具接触上市敏感材料,其数据保密安排构成使用方的合规考量。
    • 参考可考虑向聘用的律所了解其在 IPO 项目中的 AI 工具与保密条款;值得盘点自家法务与合规流程中重复度高、适合用企业版大模型搭建的环节。
  2. Microsoft:官方博客33

    Microsoft 宣布教育 AI 五项原则,与美国教师联合会签约并推出校园隐私与安全标准

    Microsoft 宣布教育 AI 五项原则,覆盖安全隐私设计、教师主导课堂、支持而非替代学生思考、强化教育体系和 AI 技能准备。配套动作包括与美国教师联合会(AFT)签约并推出隐私与安全标准,限制师生数据使用并要求重大决策人工监督。

    决策要点

    Microsoft 正在把隐私合规和教师监督变成教育 AI 的准入门槛,用与教师工会的标准联盟抬高行业竞争线。

    • 影响教育科技与培训类业务面对的数据和人工监督要求会更明确,合规能力直接影响进校门槛;强调替代思考、只求效率的 AI 工具在校园场景会受限;AI 技能 40% 工资溢价提示企业招聘与内训标准需要重估。
    • 参考可考虑把该标准限制数据使用、人工监督、家庭透明度、学校保留知识所有权四项要求当作进校产品自查清单;值得按 40% 溢价数据先算出员工 AI 技能培训的投入产出,再排培训预算。
  3. OpenAI:官网动态42

    OpenAI 发布模型未对齐问题报告框架,同步公开六份行为报告

    OpenAI 发布了一套用于跟踪、调查和披露模型未对齐问题的报告框架,并同批公开六份报告,记录模型出现的意外或令人担忧的行为。框架与报告细节以官网原文为准。

    决策要点

    OpenAI 把模型未对齐问题纳入固定的跟踪、调查和披露流程,安全披露开始走向制度化。

    • 影响企业选型时多了一个可核对的维度,厂商对模型异常行为的披露质量会进入采购评估;依赖单一模型的企业需要把这类安全报告纳入风险盘点;六份报告同批公开,说明模型异常行为不止一例。
    • 参考可考虑把厂商的安全事件披露机制列入模型选型评估项;正在使用 OpenAI 模型的团队值得阅读这六份报告,核对是否涉及自身业务场景,并据此更新内部风险清单。
9月11日周五
  1. OpenRouter:Blog(Announcements)58

    OpenRouter 详解零数据留存(ZDR)对 AI API 的含义与边界

    OpenRouter 发布说明解释 AI API 的零数据留存(ZDR),即供应商处理完提示词和响应后不予存储,但数据仍会到达模型并被处理。ZDR 只覆盖供应商侧留存,不训练政策不等于 ZDR,供应商可临时留存数据用于滥用检测或法律义务;无法确认端点政策时会被保守归类为留存并用于训练。

    决策要点

    ZDR 的实质是把供应商是否留存数据从宣传口径变成 API 调用里可强制、可验证的路由开关,敏感流量可据此选端点。

    • 影响敏感业务调用大模型可要求供应商不留存提示词和响应,降低供应商侧留存与后续滥用风险;企业自身日志、插件和缓存仍会另存同样内容,数据管控需覆盖调用链各层;供应商政策按端点划分且会变化,选型要落到具体端点核对。
    • 参考可考虑把 ZDR 纳入 AI 供应商评估清单,按覆盖数据、适用层级、例外情形和验证方式逐项问询;值得盘点现有应用的日志、错误跟踪和插件,找出会重新留存提示词的环节。
9月9日周三
  1. OpenRouter:Blog(Announcements)68

    OpenRouter 推出美国区域路由,AI 请求可锁定在美国或欧盟境内处理

    OpenRouter 推出美国区域路由,请求经 us.openrouter.ai 在美国境内解密并只路由到美国供应商端点,配合去年 10 月上线的 EU 路由,功能限 Business 和 Enterprise 套餐。

    决策要点

    数据驻留从法务审查项下沉为网关的路由配置问题,也让中国开源权重模型进入受合规约束企业的选型范围。

    • 影响有美欧数据驻留要求的团队多了一条合规使用中国开源权重模型降本的通道;区域端点只覆盖部分模型,接入前模型可用性要重新核对;功能限高阶付费套餐,API 支出结构会受影响。
    • 参考可考虑先梳理在用模型清单并对照 us/eu 端点的区域覆盖情况;有降本目标的团队值得在 us.openrouter.ai 实测 DeepSeek V4 Pro、Kimi K3 的价格与表现;评估其他网关时先问清解密位置和服务器工具运行地。
9月3日周四
  1. Tomasz Tunguz 博客80

    The Ads Model for Prompts Vertically Integrates AI

    Meta 推出 Muse Spark 模型及双档 API 定价,标准档承诺提示词与输出不用于训练,贡献档以 92%-95% 的折扣换取用客户数据训练未来模型的权利。

    决策要点

    Meta 把推理折扣变成按 token 计价的训练数据收购,把消费级订阅里隐性的数据补贴明码标进了企业 API。

    • 影响选择贡献档的工作负载,按牌价算推理支出可降到原价一成以内;受 SOC 2、HIPAA 等合规约束的企业要为隐私条款支付明确溢价;数据训练权成为 API 合同里需要逐条谈判的条款。
    • 参考可考虑先按自家输入输出比折算两档年度差额,算清数据让渡值多少钱再选档;受合规框架约束的团队,值得让法务把零数据保留与训练权条款列入采购评审清单。
9月2日周三
  1. Anthropic:Newsroom65

    Developing Enterprise Frontier Safeguards with our customers

    Anthropic 发布 Enterprise Frontier Safeguards(EFS),将零数据保留隐私与滥用检测防护结合,监控数据存储在客户自有云基础设施而非 Anthropic 侧。

    决策要点

    Anthropic 用客户自持数据加自动化监控的架构,化解零数据保留与安全检测难以兼得的矛盾,降低受监管行业采用前沿模型的门槛

    • 影响金融医疗等受监管行业有望在数据不出自有云的条件下使用前沿模型;引入 Agent 的企业需自行承接监控告警的复核职责;数据存自有云账号会产生云厂商存储与读写费用,Anthropic 不对方案本身收费
    • 参考可考虑梳理现有 Claude 及云端模型使用的日志合规边界,测算自有云承接监控数据的存储与审计成本;值得让安全合规团队评估 EFS 开放后的接入顺序
8月31日周一
  1. Tomasz Tunguz 博客71

    The Price of Entry to the Frontier

    Tomasz Tunguz 发文分析称,前沿 AI 市场正按阵营封闭化,实验室挑选伙伴、切断对手、按信任配给最强模型,访问权取代价格成为新的稀缺。

    决策要点

    前沿模型的分发正从按 token 计价的公用事业转向按信任准入的封闭阵营,访问权取代价格成为新的稀缺。

    • 影响SaaS 把单一模型硬编码进产品后,买方只剩接受或放弃,换模型要靠合同谈判争取筹码;开源权重规模化即触发审查与商业授权,自建路径的成本和周期要重新测算;数据主权与 IP 保护条款需提前进入采购评估。
    • 参考可考虑在采购含模型的 SaaS 时写入模型替换权与数据留存条款;值得盘点现有业务依赖的模型清单并估算迁移成本;采用开源权重前先算清收入规模触发的审查与授权门槛。
8月27日周四
  1. Google DeepMind:Blog44

    Google DeepMind 试点业界首个双盲 AI 模型评估

    Google DeepMind 宣布试点业界首个针对专有前沿模型的双盲评估,外部评测被限制在密码学封闭环境中,模型无法提前接触测试题。首个受测对象为一个 Gemini Flash Lite 模型,合作方包括新加坡 AI 安全研究院、OpenMined、AVERI 和 MLCommons。官方称外部测试提示此前已有零日志协议和合同保障,此次加入密码学技术保障是为应对基准污染导致的分数虚高问题。

    决策要点

    基准污染会虚高模型分数,外部评测的信任保障正从协议和零日志约定走向密码学技术手段。

    • 影响企业选型依赖的公开基准分数可能因污染而虚高,采购参考需多一层判断;该试点目前仅覆盖一个 Gemini Flash Lite 模型,尚未形成普遍的评测方式。
    • 参考可考虑在模型采购中把评估是否防污染、有无第三方机构参与列入问询清单;值得跟踪新加坡 AI 安全研究院等合作方的后续评测结果作为选型参考。
8月6日周四
  1. OpenRouter:Blog(Announcements)50

    OpenRouter 团队 AI 支出治理指南,6 项管控如何分层选用

    OpenRouter 发文详解如何治理团队 AI 支出,梳理 6 项管控手段,主张从最便宜的控制起步逐层加码。除工作区预算为 Enterprise 专属外,单 key 限额、Guardrails、组织与 Activity 看板在免费和按量付费计划均可用;官方称平台按模型目录价计费不加价,卡充值买积分收 5.5% 手续费(最低 $0.80)。

    决策要点

    OpenRouter 把团队 AI 支出治理拆成限额度、限范围、查去向三层管控,主张从最便宜的单 key 限额起步再逐层加码。

    • 影响免费与按量计划就能对单个 key 和成员设硬限额,多数团队不必为此升级 Enterprise;BYOK 支出默认不计入预算,实际覆盖账单范围会比设置看起来的小;组织内用量元数据全员可见,团队隐私预期需要提前对齐。
    • 参考可考虑先给生产与实验 key 分别设月度限额和周重置限额,并用 Activity 看板按成员导出对账;值得盘点 BYOK 用量占比,占比高就开启 include_byok_in_budgets;确需整工作区硬顶时再评估 Enterprise。
7月28日周二
  1. Microsoft:官方博客60

    微软发布智能体安全系统 Project Perception,8 月 3 日开启公共预览

    微软发布智能体安全系统 Project Perception,8 月 3 日进入公共预览。系统协调红队、蓝队、绿队三类专用智能体,持续感知风险并以机器速度处置,官方称人类始终掌控决策。第一个场景为软件漏洞管理,官方称 MAI-Cyber-1-Flash 在 CyberGym 基准取得 96% any-crash 得分并优于 Mythos,较现行 MDASH 配置节省近 50% 成本。

    决策要点

    安全防御的竞争点从产出更多告警转向持续感知、推理与自动处置,防御自动化进入智能体阶段。

    • 影响漏洞排查与处置环节可交由智能体分担,安全团队人力重心或从盯告警转向审核与监督;多模型按任务选型会改变安全防护的成本结构;系统处于公共预览阶段,接入生产需先评估处置权限与数据边界。
    • 参考可考虑在 8 月 3 日公共预览后选一个漏洞管理场景试点,记录排查耗时与误报对比;值得先盘点现有安全产品可执行的动作清单,划定智能体自动处置的权限边界。
7月24日周五
  1. OpenRouter:Blog(Announcements)54

    OpenRouter 推出 Classifiers,用结构化标签追踪 Agent 用途与成本

    OpenRouter 推出 Classifiers beta 功能,可对平台上的每次模型请求自动分类并写入结构化元数据,用于 AI 用量统计。分类器由分类体系、分类提示词、分类模型和采样率组成,分类体系最多支持 8 个维度,官方推荐用 Gemini 3.5 Flash Lite 作为分类模型,并可用采样率控制高流量下的分类成本。

    决策要点

    OpenRouter 把模型请求的用途、复杂度和归属变成可配置的结构化标签,AI 用量从一笔混合账单变成可归类的经营数据。

    • 影响多模型团队的推理支出可拆解到部门和任务层级,成本核算有了依据;资本化与合规模板把 AI 用量对上财务和监管口径;分类异步运行,不增加推理延迟。
    • 参考可考虑先用部门或任务类型模板小范围试点,算出分类成本占推理支出的比例;值得盘点现有 AI 用量报表缺少哪些维度,再决定自建分类体系。
6月10日周三
  1. Google DeepMind:Blog47

    Google DeepMind 联合多家机构发起最高 1000 万美元多智能体安全研究资助

    Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA,并获 Google.org 支持,发起总额最高 1000 万美元的多智能体 AI 安全研究资助,面向全球研究者征集提案。

    决策要点

    Google DeepMind 把安全研究重心从单模型推向多智能体群体行为,并借外部研究网络补齐预测与监测工具缺口。

    • 影响同时运行多个智能体的企业不能只靠现有单模型评测覆盖群体交互风险;资助落地后沙盒、评测与监测类工具的供给可能增加;智能体身份与信誉等跨平台协议仍在压力测试阶段,跨组织对接需留调整余地。
    • 参考可考虑在多智能体项目预算中单独列出群体行为评测与监测开支;值得盘点已部署智能体之间的交互接口与权限边界;有研究能力的团队可对照四个优先方向准备提案,截止 2026 年 8 月 8 日。
5月17日周日
  1. Google DeepMind:Blog62

    Google DeepMind 扩展内容透明度与验证工具,SynthID 验证进入 Search 和 Chrome

    Google DeepMind 宣布扩大内容透明度与验证工具布局,Gemini 应用内的 SynthID 验证功能已全球使用 5000 万次,即日起扩展到 Search,并在数周内进入 Chrome。

    决策要点

    内容真实性验证正被 Google 做成覆盖搜索、浏览器、手机和云的入口能力,水印加溯源的组合开始成为平台标配。

    • 影响内容与营销团队需为 AI 生成素材预留溯源标记和标签管理流程;平台型企业可借助检测 API 做内容分拣与反欺诈;真实拍摄素材将获得跨平台识别。
    • 参考可考虑盘点自家 AI 生成素材的使用范围并预留内容凭证方案;平台方值得评估 Gemini Enterprise 平台上检测 API 的接入条件;品牌方可先测试 Search 与 Chrome 验证入口对自家素材的识别结果。
9月23日周二
  1. 通义千问 Qwen:Blog51

    通义千问开源 Qwen3Guard 安全护栏模型,支持逐 token 实时审核

    通义千问发布 Qwen3Guard 安全护栏模型系列,对用户提示词和模型回复输出风险等级与违规类别,官方称在主要安全基准上达到 SOTA(官方口径,暂无独立验证)。

    决策要点

    内容安全审核可以从生成后整段拦截前移到逐 token 的生成中拦截,且以开源权重提供,企业可自行部署风控层。

    • 影响自建大模型服务的企业多了一个可私有化部署的内容风控组件,数据不必出内网;三档标签便于按业务场景调节审核松紧;0.6B 小规格降低了部署资源门槛。
    • 参考可考虑选客服或内容生成场景试点 Stream 变体,实测逐 token 审核的延迟和拦截效果;值得用自家历史违规样本对比现有审核方案,并按场景设定 Controversial 档的松严。
7月25日周五
  1. Josh Bersin71

    解读美国AI行动计划,白宫政策重心转向赢得AI竞争

    白宫本周发布28页AI行动计划,政策重心从此前的监管讨论转向赢得AI竞争,主张减少监管、加快数据中心与能源建设。计划支持开源模型、向中国等国出售美国芯片与软件,劳工部同时在推动AI教育、再培训税收优惠和AI就业影响研究。作者认为该计划代表政府对行业认知的进步,但版权与偏见争议仍未解决,Meta对13位作者的版权诉讼获胜,Workday招聘偏见集体诉讼推进并可能涉及11亿份求职申请。

    决策要点

    美国AI政策从防范风险转向竞争加速,版权与偏见争议正由判例个案消化,企业用AI的合规责任更多落在自身与供应商之间。

    • 影响招聘环节使用AI的企业直接面对偏见集体诉讼风险;版权诉讼风向利好模型训练方,企业需靠合同约束供应商不得用内部数据训练;政策方向是放松监管、加快数据中心与能源建设。
    • 参考可考虑盘点在用AI工具的合同里是否写明不得用企业数据训练;值得核查招聘筛选工具的偏见测试与争议应对安排;涉版权训练的团队可参照Meta案判例边界再定方案。
10月15日周二
  1. Anthropic:Newsroom49

    Announcing our updated Responsible Scaling Policy

    Anthropic 发布负责任扩展政策(RSP)的重要更新,把安全防护从原则承诺改为按模型能力阈值触发升级的机制。新框架设定自主 AI 研发与 CBRN 武器协助两大能力阈值,触发后分别要求 ASL-4 或更高、ASL-3 标准防护,目前其所有模型运行在 ASL-2。

    决策要点

    Anthropic 把安全承诺细化为按模型能力触发防护升级的分级治理机制,并主动披露执行中的未达标情况,为 AI 风险治理提供了可参照的操作样本。

    • 影响头部厂商的风险治理正从原则声明走向可核查的分级机制,企业在模型选型与合作谈判中可要求对方说明防护等级与评估结论;前沿模型能力逼近阈值时可能带来更严部署限制与安全成本。
    • 参考可考虑在模型采购评估中增加对厂商安全治理框架的问询项,如防护等级、能力评估频率与红队流程;也值得参照能力阈值思路,为内部 AI 应用的风险分级列出清单。