跳到正文
11月2日 · 周一

最新精选

10月27日周二
  1. OpenRouter:Blog(Announcements)61

    OpenRouter 将对所有推理请求进行儿童性虐待材料(CSAM)筛查

    OpenRouter 宣布对平台所有推理请求进行 CSAM(儿童性虐待材料)实时筛查,在请求处理过程中执行,被标记内容可能保留供人工审查。筛查包括比对已知 CSAM 哈希并用分类器识别未入库的可疑内容,NCMEC 指南将哈希与图像分类器列为生成式 AI 服务的基本儿童安全措施。

    决策要点

    OpenRouter 把儿童安全合规嵌入推理链路,ZDR 零保留承诺新增了筛查与上报所需的法定例外。

    • 影响依赖 ZDR 隔离敏感数据的团队需要重读条款,被标记内容可能被保留审查;各模型厂商与上游提供商的筛查和保留做法不同,选型时的数据流评估要多问一层;CSAM 上报与一年期保存是法定义务,不因 ZDR 免除。
    • 参考可考虑让法务或安全团队核对更新后的条款与 ZDR 说明,确认例外范围可接受;涉及图像或视频生成的场景,值得按 NCMEC 指南检查哈希比对与分类器等儿童安全措施是否到位;有严格保留要求的组织可先比对各提供商政策再决定路由。
10月23日周五
  1. TechCrunch · AI77

    中国黑客攻破 IT 巨头 ConnectWise,数千家企业遭窥探

    微软称中国国家级关联黑客攻入 IT 管理与远程访问厂商 ConnectWise 的云备份服务,窃取应用凭据后窥探了约 2,250 家组织。黑客用 AI 智能体以每分钟近 3,000 次登录尝试的速度发起攻击,速度来自开源 AI 框架 ARTEX,同一软件近期还被用于攻击韩国金融系统,其中许多机构缺少多因素认证。

    决策要点

    供应商侧凭据失窃叠加 AI 智能体批量入侵,守方留给检测和响应的时间很少,单点供应商失陷可波及数千家依赖企业。

    • 影响依赖云备份和远程访问供应商的企业可能因供应商凭据失窃被直接读取邮件和文件;环境缺少多因素认证时损失代价更高;分钟级攻击节奏考验内部告警与响应流程。
    • 参考可考虑排查是否使用 ConnectWise 或同类云备份与远程访问服务,并跟踪供应商泄露通报;也可盘点邮件和核心系统的多因素认证覆盖率,把特权账号与服务凭据列入优先核查清单。
10月21日周三
  1. Anthropic:Newsroom67

    Anthropic 详解 Claude 文本水印工作原理

    Anthropic 宣布未来 Claude 模型的文本输出将自带水印,用于判断内容由 Claude 参与生成的可能性,以遵守欧盟 AI 法案。水印基于 Google DeepMind 2024 年 Nature 论文提出的 SynthID-Text 方法,只改变选词随机性的来源,官方称不影响输出质量、速度与价格,也无隐藏字符或可追溯到个人与组织的信息。

    决策要点

    文本水印把 AI 是否参与写作变成可事后检验的属性,生成内容标识正从厂商自愿转为欧盟法规下的默认动作。

    • 影响用 Claude 生成或改写的外发内容将默认带可检测标识,内容合规与审计流程需要纳入;水印全球生效,不限欧盟业务范围;官方称水印不增加 token、不影响速度与价格,成本影响可忽略。
    • 参考可考虑盘点用 Claude 生成或改写后对外发布的内容清单,决定是否需要主动声明 AI 参与;有欧盟合规义务的企业可登记申请检测 API 私测;值得提醒审核团队,水印检测与第三方 AI 检测软件的结论并不等同。
10月19日周一
  1. 欧盟 AI Act 官方64

    欧盟发布 AI Act 首项协调标准 EN 18286:2026,高风险 AI 质量体系合规有官方路径

    欧盟委员会在《欧盟官方公报》发布首项支持 AI Act 的协调标准 EN 18286:2026,采用该标准的高风险 AI 提供商将被推定符合第 17 条质量管理体系要求。

    决策要点

    欧盟高风险 AI 合规从原则要求进入可操作阶段,质量管理体系建设有了官方认可的具体落地路径。

    • 影响计划向欧盟投放高风险 AI 系统的企业有了可循的 QMS 建设路径;已有 ISO/IEC 42001 或行业体系的企业可叠加集成,免于另建并行双体系;合规节奏需对齐 2027 年 12 月与 2028 年 8 月两个适用时点。
    • 参考可考虑对照 EN 18286 与现有 ISO/IEC 42001 或行业质量体系的差距,评估叠加集成的改造成本;计划进入欧盟市场的团队值得把体系搭建或认证排期放在 2027 年要求生效之前。
10月17日周六
  1. The Decoder:AI News78

    中国拟收紧开源权重模型及23项关键AI技术的出口管制

    中国商务部和科技部发布技术出口管制目录修订草案,将大模型、智能体、算力集群和数据处理领域的23项关键AI技术纳入限制,可自主编写或改动恶意软件攻击关键基础设施、军方或政府机构的AI工具被禁止出口。

    决策要点

    中国并非立即关停开源模型,而是建立可随时收紧的出口许可机制,给权重类AI技术跨境流动留下政策开关。

    • 影响在境外本地服务器部署中国受控开源模型的路线需出口许可,自托管的连续性取决于许可发放;API与SaaS调用暂不受限;欧盟依赖开源模型保主权的技术路线承压。
    • 参考可考虑盘点对开源权重模型的境外部署清单,区分本地自托管与API调用;评估供应商时值得把模型来源地的出口管制风险纳入选型标准。
10月13日周二
  1. 欧盟 AI Act 官方61

    欧盟 AI Office 上线 AI Act 投诉工具,受理 AI 提供方与部署方违规投诉

    欧盟 AI Office 上线 AI Act 投诉工具,个人和组织可就 AI 系统提供方或部署方涉嫌违反 AI Act 的行为向 AI Office 提交投诉。

    决策要点

    欧盟把 AI Act 从条文推进到可操作的投诉入口,用户和合作方都能借正式渠道触发 AI Office 介入。

    • 影响在欧盟提供或部署 AI 系统的企业,其用户和合作方现在有了直接向 AI Office 投诉的正式渠道;投诉保密处理,经投诉人同意可转介成员国市场监督机构;合规记录和部署留痕会影响投诉应对。
    • 参考可考虑对照第 85 条与第 53 至 55 条范围,自查欧盟业务所用 AI 系统是否存在可被投诉的违规风险;值得预先指定对接 AI Office 的负责人并准备响应流程与证据清单。
  2. 欧盟 AI Act 官方61

    欧盟委员会认定AI生成内容透明度自愿守则充分覆盖AI Act第50条义务

    欧盟委员会7月8日发布意见,认定AI生成内容透明度自愿守则充分覆盖AI Act第50(2)、(4)、(5)条义务,AI Board于次日通过其充分性评估。该自愿守则面向生成式AI系统(含通用AI系统)提供方以及生成深度伪造和特定文本的AI系统部署方,邀请其签署以展示合规,适用范围覆盖全欧盟且不限设立地点;官方同时说明签署不构成合规的结论性证据,AI Office将考虑至少每两年推动守则正式更新。

    决策要点

    欧盟以官方意见背书AI生成内容透明度自愿守则,使其成为全欧盟范围履行AI Act透明度义务的实际参照。

    • 影响面向欧盟市场提供或部署生成式AI的企业,无论设立在何处均受AI Act透明度义务约束;签署守则可作为展示合规的途径,但不构成合规的结论性证据;AI Office拟至少每两年推动守则更新,相关做法会随标准和技术演进调整。
    • 参考可考虑先核对自身生成式AI产品是否落入第50(2)、(4)、(5)条义务范围,再评估签署守则所需的内容标识改造;值得让法务与产品团队对照守则文本盘点现有标识与披露机制。
  3. 欧盟 AI Act 官方67

    欧盟发布人工智能法案第 50 条透明度义务官方指南,界定 AI 提供者与部署者义务范围

    欧盟官方发布人工智能法案(AI Act)第 50 条透明度义务实施指南,界定 AI 系统提供者与部署者的义务适用范围。指南正文与欧盟委员会批准其内容的通报文件已在数字战略官网开放下载,具体义务解释以指南原文为准。

    决策要点

    AI 法案第 50 条的合规边界有了官方解释文本,在欧盟提供或部署 AI 的企业可据此对齐自身义务。

    • 影响在欧盟提供或部署 AI 系统的企业有了官方解释口径,可据此核对第 50 条义务是否适用于自身;指南区分提供者与部署者两类主体,角色定位对应不同合规责任;文件公开可下载,法务与合规团队可直接取用原文。
    • 参考可考虑由合规团队下载指南与批准通报原文,对照自家 AI 产品在欧盟场景下属于提供者还是部署者;值得把第 50 条透明度义务的范围核对纳入面向欧盟市场的产品合规清单。
  4. 欧盟 AI Act 官方81

    欧盟 AI Act 自 2026 年 8 月 2 日起执行,AI 内容透明度新规同日生效

    欧盟委员会宣布自 2026 年 8 月 2 日起,由 AI Office 联合各国监管机构执行 AI Act,透明度新规同日生效,聊天机器人和交互式 AI 须告知用户对话对象是 AI 而非人类,深度伪造内容须加标注,AI 生成或改动的内容须携带机器可读标记以便检测。

    决策要点

    欧盟 AI Act 进入执行阶段,面向用户的 AI 披露与内容标注从自愿做法变成有执法通道支撑的法定义务。

    • 影响面向欧盟用户的聊天机器人与 AI 生成内容产品需要补齐告知和标注能力;内容生产流程要加入机器可读标记;官方投诉、举报通道同步上线,合规瑕疵更容易被外部追责。
    • 参考可考虑先盘点面向欧盟用户的产品里哪些涉及聊天机器人或 AI 生成内容,测算标注与告知缺口;值得对照官方透明度指南和 GPAI 行为准则逐条核对自身义务范围。
  5. 欧盟 AI Act 官方73

    欧盟 AI Omnibus 法案生效,高风险 AI 规则适用推迟至 2027 年 12 月

    欧盟 AI Omnibus 于 2026 年 7 月 27 日在欧盟全境生效,对 AI Act 作定向简化并延长多项合规期限,同时保留安全与基本权利保障。

    最新进展10月13日 13:27欧盟就简化AI规则达成政治协议

    决策要点

    欧盟给高风险 AI 合规大限松绑、减轻中小企业义务,监管底线并未撤除,是一次为创新让路的定向简化。

    • 影响做欧盟市场高风险 AI 业务的企业合规窗口延长,排期与预算可按新节点重算;中小规模企业义务简化并可用监管沙盒降低试错成本;生成亲密内容类 AI 被划入红线,平台内基于通用模型的系统面临 AI Office 更多监管。
    • 参考可考虑按 2027 年 12 月与 2028 年 8 月两个节点重排欧盟高风险 AI 合规项目;符合 SMC 条件的在欧主体值得核对能否套用简化义务;内容生成类产品线先自查是否触及新禁令。
10月12日周一
  1. 欧盟 AI Act 官方68

    欧盟发布AI生成内容标记与标注行为准则,约190家企业和组织已签署

    欧盟发布AI生成内容透明度行为准则,为AI Act第50条的标注与检测义务提供欧盟范围内认可的合规框架。准则分两部分,提供商须让AI输出的音频、图像、视频和文本以机器可读格式标记且可检测,部署方须标注深度伪造及涉及公共利益的AI生成文本。签署方可以依赖准则措施展示合规并加入协作工作组,不签署者须向市场监管机构逐案自证;截至2026年7月底约190家公司和组织已签署,欧盟还发布了配套标注图标。

    决策要点

    欧盟为AI内容标注义务提供了签署即可依赖的合规路径,签署与否将决定企业面对监管审查的方式与成本。

    • 影响在欧盟提供生成式AI服务的企业面临双轨选择,签署准则可降低行政负担并获得成员国间一致的确定性;不签署则须逐案向各国市场监管机构自证措施充分;部署方还需对深度伪造和公共议题AI文本履行标注义务。
    • 参考涉及欧盟业务的企业可先核对自身属提供商还是部署方,再比对准则条款与现有标注能力;值得测算签署与逐案自证的合规成本差,并参考已签署的约190家同行名单。
  2. 欧盟 AI Act 官方68

    欧盟委员会发布AI Act禁止性AI实践指南,明确有害操纵、社会评分等禁区

    欧盟委员会发布AI Act下被禁止AI实践的官方指南,梳理有害操纵、社会评分、实时远程生物识别等不可接受的AI做法。AI Act将AI系统分为禁止、高风险和透明度义务等风险类别,指南提供法律解释与实务示例,帮助相关方理解并遵守要求。指南不具约束力,权威解释权保留给欧盟法院,官方提供多语种版本下载。

    决策要点

    欧盟把禁止类AI红线的解释口径具体化,面向欧盟市场开展AI业务的企业有了可对照的合规参考。

    • 影响在欧盟提供或部署AI系统的企业可按指南排查自身场景是否落入有害操纵、社会评分等禁止类红线;因指南不具约束力,边缘案例的最终认定以欧盟法院解释为准。
    • 参考值得先排查面向欧盟用户的AI功能是否涉及社会评分、实时远程生物识别等被禁做法;可考虑让法务对照指南中的实务示例,复核操纵性设计或生物识别相关功能的边界。
已经到底了