跳到正文

政策合规

各国 AI 监管、备案要求、数据安全、知识产权与劳动用工规则的落地动态——企业能做什么、必须做什么。

37条精选相关主题碳硅组织数据报告

最新精选

第 21–37 条 · 共 37 条
10月13日周二
  1. 欧盟 AI Act 官方69

    欧盟就简化 AI Act 实施规则达成政治协议,高风险规则自 2027 年 12 月 2 日起分阶段适用

    欧盟委员会欢迎欧洲议会与欧盟理事会就简化 AI Act 实施规则达成的政治协议,为高风险 AI 系统设定分阶段时间表,目的是让欧盟企业更易执行,同时保留对社会安全与基本权利的保护。

    决策要点

    欧盟把 AI Act 高风险义务改为分阶段时间表,两类系统分别推迟到 2027 年底和 2028 年,给企业换来了明确的过渡窗口。

    • 影响生物识别、教育、就业、移民与边境管控等高风险场景的合规节点定在 2027 年 12 月 2 日;电梯、玩具等产品内嵌 AI 推迟到 2028 年 8 月 2 日;在欧盟有业务的企业可据此安排合规预算与上市节奏。
    • 参考在欧盟销售或部署 AI 的企业可对照两类日期盘点自家系统清单,列出生物识别、就业等受影响场景,并核查电梯玩具类产品是否内嵌 AI,再排技术标准跟踪与整改预算。
  2. 欧盟 AI Act 官方61

    欧盟委员会推出数字简化一揽子方案,修订AI法案并整合数据与网络安全规则

    欧盟委员会于2025年11月通过Digital Omnibus,对数据、网络安全与隐私规则提出修订,并针对AI法案提出系列修正案,修正案于5月达成政治协议、2026年7月27日生效。

    决策要点

    受Draghi报告推动,欧盟数字监管从立规转向简化整合,合规义务的口径与申报通道在合并收缩。

    • 影响在欧经营企业的合规路径会更集中,泄露与事件报告改单一入口、三部数据法规合并可减少重复义务;依赖第三国ICT供应商的企业将面对新的可信供应链安全框架。
    • 参考可考虑由合规团队对照单一报告入口、数据法案合并与P2B废除逐项核对现有流程;AI法案合规项目值得按修正案生效时间重排;第三国供应商依赖高的企业可先做供应链安全盘点。
10月12日周一
  1. 欧盟 AI Act 官方68

    欧盟发布AI生成内容标记与标注行为准则,约190家企业和组织已签署

    欧盟发布AI生成内容透明度行为准则,为AI Act第50条的标注与检测义务提供欧盟范围内认可的合规框架。准则分两部分,提供商须让AI输出的音频、图像、视频和文本以机器可读格式标记且可检测,部署方须标注深度伪造及涉及公共利益的AI生成文本。签署方可以依赖准则措施展示合规并加入协作工作组,不签署者须向市场监管机构逐案自证;截至2026年7月底约190家公司和组织已签署,欧盟还发布了配套标注图标。

    决策要点

    欧盟为AI内容标注义务提供了签署即可依赖的合规路径,签署与否将决定企业面对监管审查的方式与成本。

    • 影响在欧盟提供生成式AI服务的企业面临双轨选择,签署准则可降低行政负担并获得成员国间一致的确定性;不签署则须逐案向各国市场监管机构自证措施充分;部署方还需对深度伪造和公共议题AI文本履行标注义务。
    • 参考涉及欧盟业务的企业可先核对自身属提供商还是部署方,再比对准则条款与现有标注能力;值得测算签署与逐案自证的合规成本差,并参考已签署的约190家同行名单。
  2. 欧盟 AI Act 官方68

    欧盟委员会发布AI Act禁止性AI实践指南,明确有害操纵、社会评分等禁区

    欧盟委员会发布AI Act下被禁止AI实践的官方指南,梳理有害操纵、社会评分、实时远程生物识别等不可接受的AI做法。AI Act将AI系统分为禁止、高风险和透明度义务等风险类别,指南提供法律解释与实务示例,帮助相关方理解并遵守要求。指南不具约束力,权威解释权保留给欧盟法院,官方提供多语种版本下载。

    决策要点

    欧盟把禁止类AI红线的解释口径具体化,面向欧盟市场开展AI业务的企业有了可对照的合规参考。

    • 影响在欧盟提供或部署AI系统的企业可按指南排查自身场景是否落入有害操纵、社会评分等禁止类红线;因指南不具约束力,边缘案例的最终认定以欧盟法院解释为准。
    • 参考值得先排查面向欧盟用户的AI功能是否涉及社会评分、实时远程生物识别等被禁做法;可考虑让法务对照指南中的实务示例,复核操纵性设计或生物识别相关功能的边界。
10月8日周四
  1. GitHub Blog60

    GitHub 发布 AI 密钥检测模型,称可阻止的密钥数量将翻倍以上

    GitHub 发布基于 ModernBERT 的 AI 通用密钥检测模型,用代码上下文识别数据库 URL、Kubernetes Secret 清单等场景中的密码类密钥,官方称单批评估不到 2 毫秒,可使可阻止的密钥数量增加一倍以上。

    决策要点

    密钥防护的矛盾在于预防可随算力扩展、善后仍随人力走,GitHub 的应对是把拦截做成平台默认能力而非开发者纪律。

    • 影响AI 代理已参与三分之一 PR,凭据暴露量随代码量增长,而人工撤销平均约 40 天形成长敞口;推送保护目前只拦约 30% 新检测密钥,官方称新模型可使拦截数量翻倍;功能消耗 AI credits,防护成本需计入 AI 用量预算。
    • 参考可考虑先盘点自家仓库的密钥暴露与撤销耗时基线,再评估 GitHub Secret Protection 套餐与新模型的匹配度;已购组织值得把 AI credits 消耗纳入预算,并试用 Copilot CLI 的 /security-review 在推送前查密钥。
10月7日周三
  1. Anthropic:Newsroom62

    Expanding the Cyber Verification Program

    Anthropic 发布扩展版 Cyber Verification Program,将 Project Glasswing 与原有 CVP 合并为 Defense。

    决策要点

    对安全工作的模型开放从一刀切拦截转向分级审核,经核验的安全团队可获得更少拦截的前沿模型能力。

    • 影响自有安全团队在 SOC、事件响应、漏洞验证等场景可申请对应层级能力;接入默认要求数据保留,涉敏环境需先过合规评估;该计划已在 Vertex AI 与 Microsoft Foundry 等渠道可用。
    • 参考可考虑先盘点安全团队的日常场景并申请 Defense 层级,官方称数天内回复;受监管环境值得等待 EFS 零保留方案后再定接入与数据边界。
10月1日周四
  1. Google DeepMind:Blog74

    Google DeepMind 发布前沿模型 Gemini 4 Argon,先向受信任网络防御者开放

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,主打真实软件工程、法律与财务等企业知识工作以及网络安全防御中的长程复杂任务,目前通过 Fairwind Program 向受信任的网络防御者开放,后续将先覆盖付费 API 客户与 Google AI Ultra 订户。

    决策要点

    Google 把新一代前沿模型的主打场景放在长程编码、企业知识工作与网络防御,并用分阶段受控发布控制放开节奏。

    • 影响官方定价为长输出智能体场景提供了新的成本参照;上线分阶段推进,先覆盖付费 API 客户与 Google AI Ultra 订户,多数企业需等开放;无护栏网络防御版本仅面向受信任防御者。
    • 参考可考虑等付费 API 开放后,选一个代码迁移或财务法务类流程做能力与成本实测对比;值得把缓存输入计价与 1M 输出上限纳入长会话成本测算。
9月9日周三
  1. OpenRouter:Blog(Announcements)68

    OpenRouter 推出美国区域路由,AI 请求可锁定在美国或欧盟境内处理

    OpenRouter 推出美国区域路由,请求经 us.openrouter.ai 在美国境内解密并只路由到美国供应商端点,配合去年 10 月上线的 EU 路由,功能限 Business 和 Enterprise 套餐。

    决策要点

    数据驻留从法务审查项下沉为网关的路由配置问题,也让中国开源权重模型进入受合规约束企业的选型范围。

    • 影响有美欧数据驻留要求的团队多了一条合规使用中国开源权重模型降本的通道;区域端点只覆盖部分模型,接入前模型可用性要重新核对;功能限高阶付费套餐,API 支出结构会受影响。
    • 参考可考虑先梳理在用模型清单并对照 us/eu 端点的区域覆盖情况;有降本目标的团队值得在 us.openrouter.ai 实测 DeepSeek V4 Pro、Kimi K3 的价格与表现;评估其他网关时先问清解密位置和服务器工具运行地。
9月3日周四
  1. Tomasz Tunguz 博客80

    The Ads Model for Prompts Vertically Integrates AI

    Meta 推出 Muse Spark 模型及双档 API 定价,标准档承诺提示词与输出不用于训练,贡献档以 92%-95% 的折扣换取用客户数据训练未来模型的权利。

    决策要点

    Meta 把推理折扣变成按 token 计价的训练数据收购,把消费级订阅里隐性的数据补贴明码标进了企业 API。

    • 影响选择贡献档的工作负载,按牌价算推理支出可降到原价一成以内;受 SOC 2、HIPAA 等合规约束的企业要为隐私条款支付明确溢价;数据训练权成为 API 合同里需要逐条谈判的条款。
    • 参考可考虑先按自家输入输出比折算两档年度差额,算清数据让渡值多少钱再选档;受合规框架约束的团队,值得让法务把零数据保留与训练权条款列入采购评审清单。
  2. Google DeepMind:Blog66

    Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber,主打智能体工作流与网络安全

    Google DeepMind 9 月 2 日发布 Gemini 3.8 Flash 与 3.8 Flash Cyber,官方称前者为迄今最强推理与编程模型。3.8 Flash 定价与 3.7 Flash 持平,每百万输入 token $0.75、输出 $3.75,HLE-Verified 得分 54.9%,这是六周内第三个 Flash 版本。

    决策要点

    Google 在六周内第三次更新 Flash 线,同价位提升推理与编程能力,并把网络安全模型改为向可信防御者受控开放。

    • 影响用 Flash 系模型承担编程或智能体任务的企业可在同价位评估升级,但高投入档位会消耗更多 token,需重算单位成本;Cyber 版仅向可信防御者开放,多数企业需先取得 Fairwind 资格。
    • 参考可考虑在现有工程或智能体流程中对比 3.8 Flash 与 3.7 Flash 的产出质量与 token 消耗再决定迁移;安全团队可评估 Fairwind 计划的申请条件与适用场景。
9月2日周三
  1. Anthropic:Newsroom65

    Developing Enterprise Frontier Safeguards with our customers

    Anthropic 发布 Enterprise Frontier Safeguards(EFS),将零数据保留隐私与滥用检测防护结合,监控数据存储在客户自有云基础设施而非 Anthropic 侧。

    决策要点

    Anthropic 用客户自持数据加自动化监控的架构,化解零数据保留与安全检测难以兼得的矛盾,降低受监管行业采用前沿模型的门槛

    • 影响金融医疗等受监管行业有望在数据不出自有云的条件下使用前沿模型;引入 Agent 的企业需自行承接监控告警的复核职责;数据存自有云账号会产生云厂商存储与读写费用,Anthropic 不对方案本身收费
    • 参考可考虑梳理现有 Claude 及云端模型使用的日志合规边界,测算自有云承接监控数据的存储与审计成本;值得让安全合规团队评估 EFS 开放后的接入顺序
7月28日周二
  1. Microsoft:官方博客60

    微软发布智能体安全系统 Project Perception,8 月 3 日开启公共预览

    微软发布智能体安全系统 Project Perception,8 月 3 日进入公共预览。系统协调红队、蓝队、绿队三类专用智能体,持续感知风险并以机器速度处置,官方称人类始终掌控决策。第一个场景为软件漏洞管理,官方称 MAI-Cyber-1-Flash 在 CyberGym 基准取得 96% any-crash 得分并优于 Mythos,较现行 MDASH 配置节省近 50% 成本。

    决策要点

    安全防御的竞争点从产出更多告警转向持续感知、推理与自动处置,防御自动化进入智能体阶段。

    • 影响漏洞排查与处置环节可交由智能体分担,安全团队人力重心或从盯告警转向审核与监督;多模型按任务选型会改变安全防护的成本结构;系统处于公共预览阶段,接入生产需先评估处置权限与数据边界。
    • 参考可考虑在 8 月 3 日公共预览后选一个漏洞管理场景试点,记录排查耗时与误报对比;值得先盘点现有安全产品可执行的动作清单,划定智能体自动处置的权限边界。
7月21日周二
  1. Google DeepMind:Blog76

    Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 与安全模型 3.5 Flash Cyber

    Google DeepMind 发布 Gemini 3.6 Flash 和 3.5 Flash-Lite,主打智能体场景的 token 效率与低延迟,即日起经 Gemini API、Gemini Enterprise 和 Gemini app 提供。

    决策要点

    Google 此轮把 Flash 系列的竞争点放在单位任务成本上,用 token 效率和更低定价争夺规模化智能体负载。

    • 影响跑批量智能体和文档处理的企业可重算模型成本账本,输出 token 用量与单价同时下降会改变单任务成本结构;Flash Cyber 只对政府和可信伙伴有限开放,一般企业暂无法获得;旗舰 3.5 Pro 尚未上线,升级窗口还没到。
    • 参考可考虑把现有智能体工作流在 3.6 Flash 和 3.5 Flash-Lite 上各跑一轮对比,记录 token 消耗、延迟与任务成功率再定切换;高吞吐场景值得先按 350 output tokens/s 和 $2.5/1M 输出价测算单条任务成本。
5月25日周一
  1. Anthropic:Engineering72

    How we contain Claude across products

    Anthropic 发文讲解如何为 claude.ai、Claude Code 与 Claude Cowork 三款产品构建智能体安全隔离,主张环境层硬边界优先于模型层行为约束。

    决策要点

    智能体安全的主战场正从约束模型行为转向环境层硬隔离,人工审批这道防线在规模化使用下会迅速失效。

    • 影响企业部署智能体的风险上限取决于授予的权限边界而非模型表现;自研代理与集成层是复盘中反复出事的环节;强隔离会同时挡住 EDR 等宿主监控,合规可见性需提前规划。
    • 参考可考虑先统计自家智能体的权限批准率,判断人工监督是否已失效;按使用者技术能力匹配隔离强度,非技术岗位配只读挂载加默认断网方案;值得把出口域名白名单当作能力授予清单逐项复核。
5月17日周日
  1. Google DeepMind:Blog62

    Google DeepMind 扩展内容透明度与验证工具,SynthID 验证进入 Search 和 Chrome

    Google DeepMind 宣布扩大内容透明度与验证工具布局,Gemini 应用内的 SynthID 验证功能已全球使用 5000 万次,即日起扩展到 Search,并在数周内进入 Chrome。

    决策要点

    内容真实性验证正被 Google 做成覆盖搜索、浏览器、手机和云的入口能力,水印加溯源的组合开始成为平台标配。

    • 影响内容与营销团队需为 AI 生成素材预留溯源标记和标签管理流程;平台型企业可借助检测 API 做内容分拣与反欺诈;真实拍摄素材将获得跨平台识别。
    • 参考可考虑盘点自家 AI 生成素材的使用范围并预留内容凭证方案;平台方值得评估 Gemini Enterprise 平台上检测 API 的接入条件;品牌方可先测试 Search 与 Chrome 验证入口对自家素材的识别结果。
3月25日周三
  1. Anthropic:Engineering71

    How we built Claude Code auto mode: a safer way to skip permissions

    Anthropic 为 Claude Code 推出 auto mode,把逐条权限审批交给基于模型的分类器,在人工确认与 --dangerously-skip-permissions 全跳过之间提供中间方案。

    决策要点

    把审批权交给分类器是让智能体长时间自主运行可用的务实折中,但 17% 的漏放率说明它替代的是无人值守,不是高风险操作的人工把关。

    • 影响长任务的重复审批成本可明显下降,适合低风险环境先行;官方公布的 17% 漏放率意味着生产与共享基础设施仍应保留人工审批;可信边界默认只信任当前 git 仓库,企业需按自身环境补齐配置。
    • 参考可考虑在非生产环境选长任务场景试点 auto mode,先在 environment 槽位写清可信域名、云存储与代码组织;值得对比开启前后的审批耗时与拦截记录,高危生产操作保留强制人工规则。
10月20日周一
  1. Anthropic:Engineering65

    Beyond permission prompts: making Claude Code more secure and autonomous

    Anthropic 为 Claude Code 推出两项基于沙箱的新功能,沙箱 bash 工具以研究预览形式提供并已开源,Claude Code on the web 让会话在云端隔离沙箱中运行。

    决策要点

    Claude Code 把安全模型从逐条审批转向系统级沙箱边界,用隔离换更少弹窗和更高的智能体自主度。

    • 影响使用编码智能体的开发团队审批打断会减少,开发节奏与安全可同时改善;沙箱运行时开源后,自建智能体的企业可直接复用这套隔离方案;接入前需重新梳理允许访问的目录与网络域名清单。
    • 参考可考虑在 Claude Code 中运行 /sandbox 试点一个低风险仓库并记录弹窗变化;自建智能体的团队值得评估其开源沙箱代码能否复用;网页版可先在不含敏感凭证的项目上试用。