跳到正文

政策合规

各国 AI 监管、备案要求、数据安全、知识产权与劳动用工规则的落地动态——企业能做什么、必须做什么。

67条精选相关主题碳硅组织数据报告

最新精选

第 61–67 条 · 共 67 条
9月2日周三
  1. Anthropic:Newsroom65

    Developing Enterprise Frontier Safeguards with our customers

    Anthropic 发布 Enterprise Frontier Safeguards(EFS),将零数据保留隐私与滥用检测防护结合,监控数据存储在客户自有云基础设施而非 Anthropic 侧。

    决策要点

    Anthropic 用客户自持数据加自动化监控的架构,化解零数据保留与安全检测难以兼得的矛盾,降低受监管行业采用前沿模型的门槛

    • 影响金融医疗等受监管行业有望在数据不出自有云的条件下使用前沿模型;引入 Agent 的企业需自行承接监控告警的复核职责;数据存自有云账号会产生云厂商存储与读写费用,Anthropic 不对方案本身收费
    • 参考可考虑梳理现有 Claude 及云端模型使用的日志合规边界,测算自有云承接监控数据的存储与审计成本;值得让安全合规团队评估 EFS 开放后的接入顺序
7月28日周二
  1. Microsoft:官方博客60

    微软发布智能体安全系统 Project Perception,8 月 3 日开启公共预览

    微软发布智能体安全系统 Project Perception,8 月 3 日进入公共预览。系统协调红队、蓝队、绿队三类专用智能体,持续感知风险并以机器速度处置,官方称人类始终掌控决策。第一个场景为软件漏洞管理,官方称 MAI-Cyber-1-Flash 在 CyberGym 基准取得 96% any-crash 得分并优于 Mythos,较现行 MDASH 配置节省近 50% 成本。

    决策要点

    安全防御的竞争点从产出更多告警转向持续感知、推理与自动处置,防御自动化进入智能体阶段。

    • 影响漏洞排查与处置环节可交由智能体分担,安全团队人力重心或从盯告警转向审核与监督;多模型按任务选型会改变安全防护的成本结构;系统处于公共预览阶段,接入生产需先评估处置权限与数据边界。
    • 参考可考虑在 8 月 3 日公共预览后选一个漏洞管理场景试点,记录排查耗时与误报对比;值得先盘点现有安全产品可执行的动作清单,划定智能体自动处置的权限边界。
7月21日周二
  1. Google DeepMind:Blog76

    Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 与安全模型 3.5 Flash Cyber

    Google DeepMind 发布 Gemini 3.6 Flash 和 3.5 Flash-Lite,主打智能体场景的 token 效率与低延迟,即日起经 Gemini API、Gemini Enterprise 和 Gemini app 提供。

    决策要点

    Google 此轮把 Flash 系列的竞争点放在单位任务成本上,用 token 效率和更低定价争夺规模化智能体负载。

    • 影响跑批量智能体和文档处理的企业可重算模型成本账本,输出 token 用量与单价同时下降会改变单任务成本结构;Flash Cyber 只对政府和可信伙伴有限开放,一般企业暂无法获得;旗舰 3.5 Pro 尚未上线,升级窗口还没到。
    • 参考可考虑把现有智能体工作流在 3.6 Flash 和 3.5 Flash-Lite 上各跑一轮对比,记录 token 消耗、延迟与任务成功率再定切换;高吞吐场景值得先按 350 output tokens/s 和 $2.5/1M 输出价测算单条任务成本。
5月25日周一
  1. Anthropic:Engineering72

    How we contain Claude across products

    Anthropic 发文讲解如何为 claude.ai、Claude Code 与 Claude Cowork 三款产品构建智能体安全隔离,主张环境层硬边界优先于模型层行为约束。

    决策要点

    智能体安全的主战场正从约束模型行为转向环境层硬隔离,人工审批这道防线在规模化使用下会迅速失效。

    • 影响企业部署智能体的风险上限取决于授予的权限边界而非模型表现;自研代理与集成层是复盘中反复出事的环节;强隔离会同时挡住 EDR 等宿主监控,合规可见性需提前规划。
    • 参考可考虑先统计自家智能体的权限批准率,判断人工监督是否已失效;按使用者技术能力匹配隔离强度,非技术岗位配只读挂载加默认断网方案;值得把出口域名白名单当作能力授予清单逐项复核。
5月17日周日
  1. Google DeepMind:Blog62

    Google DeepMind 扩展内容透明度与验证工具,SynthID 验证进入 Search 和 Chrome

    Google DeepMind 宣布扩大内容透明度与验证工具布局,Gemini 应用内的 SynthID 验证功能已全球使用 5000 万次,即日起扩展到 Search,并在数周内进入 Chrome。

    决策要点

    内容真实性验证正被 Google 做成覆盖搜索、浏览器、手机和云的入口能力,水印加溯源的组合开始成为平台标配。

    • 影响内容与营销团队需为 AI 生成素材预留溯源标记和标签管理流程;平台型企业可借助检测 API 做内容分拣与反欺诈;真实拍摄素材将获得跨平台识别。
    • 参考可考虑盘点自家 AI 生成素材的使用范围并预留内容凭证方案;平台方值得评估 Gemini Enterprise 平台上检测 API 的接入条件;品牌方可先测试 Search 与 Chrome 验证入口对自家素材的识别结果。
3月25日周三
  1. Anthropic:Engineering71

    How we built Claude Code auto mode: a safer way to skip permissions

    Anthropic 为 Claude Code 推出 auto mode,把逐条权限审批交给基于模型的分类器,在人工确认与 --dangerously-skip-permissions 全跳过之间提供中间方案。

    决策要点

    把审批权交给分类器是让智能体长时间自主运行可用的务实折中,但 17% 的漏放率说明它替代的是无人值守,不是高风险操作的人工把关。

    • 影响长任务的重复审批成本可明显下降,适合低风险环境先行;官方公布的 17% 漏放率意味着生产与共享基础设施仍应保留人工审批;可信边界默认只信任当前 git 仓库,企业需按自身环境补齐配置。
    • 参考可考虑在非生产环境选长任务场景试点 auto mode,先在 environment 槽位写清可信域名、云存储与代码组织;值得对比开启前后的审批耗时与拦截记录,高危生产操作保留强制人工规则。
10月20日周一
  1. Anthropic:Engineering65

    Beyond permission prompts: making Claude Code more secure and autonomous

    Anthropic 为 Claude Code 推出两项基于沙箱的新功能,沙箱 bash 工具以研究预览形式提供并已开源,Claude Code on the web 让会话在云端隔离沙箱中运行。

    决策要点

    Claude Code 把安全模型从逐条审批转向系统级沙箱边界,用隔离换更少弹窗和更高的智能体自主度。

    • 影响使用编码智能体的开发团队审批打断会减少,开发节奏与安全可同时改善;沙箱运行时开源后,自建智能体的企业可直接复用这套隔离方案;接入前需重新梳理允许访问的目录与网络域名清单。
    • 参考可考虑在 Claude Code 中运行 /sandbox 试点一个低风险仓库并记录弹窗变化;自建智能体的团队值得评估其开源沙箱代码能否复用;网页版可先在不含敏感凭证的项目上试用。