跳到正文

#合规风控

今日 17 条
10月14日周三
  1. 人人都是产品经理45

    个人智能体 Personal Agent 被视为第三代 AI 产品

    文章把 AI 产品分为聊天机器人、数字员工和 Personal Agent 三代,认为以 Muse、Cue、dot 为代表的个人智能体正在集中出现,Muse 9 月 8 日发布后下载量很快突破 500 万。这类产品需要能操作设备、代表用户行动的身份和持续运行的后台,文章认为眼下卡在用户与平台两道授权上,并建议从邮件分流等低风险工作流起步试点。

    决策要点

    个人智能体的实质是把竞争从对话和任务完成转向行动入口,当前瓶颈不在模型能力而在授权与信任机制。

    • 影响应用入口可能从用户自开应用转向由 Agent 代为筛选执行,平台接入规则会影响产品触达;权限审批和审计能力成为此类产品落地的前置条件,出错责任归属尚待明确。
    • 参考可考虑先在邮件分流、日历整理、资料比价等低风险场景试点,让 Agent 输出待确认结果;值得为支付、外发邮件和内容发布预设独立审批、最小权限与日志审计。
  2. 人人都是产品经理63

    腾讯、阿里、OpenAI批量砍AI产品,复盘三年关停潮与五种死法

    腾讯元器宣布11月9日停服,QClaw将于12月24日停运,作者整理2023年以来国内外大厂和明星创业公司关停下线的AI产品名单,归纳出五种死法。

    决策要点

    这不是AI应用泡沫破裂,而是行业从铺入口转入收口,算力和资源向核心模型与核心入口集中,单点工具价值被通用模型重估。

    • 影响把业务搭在第三方AI平台上的企业面临停服即业务中断的风险;AI工具选型需要把供应商存续能力和数据迁移条款纳入评估;拟人化和陪伴类场景还要叠加新规约束。
    • 参考可考虑先盘点在用的AI产品和自建智能体清单,逐项确认数据导出路径与过渡期;值得把数据可迁移条款写进采购约定,并评估哪些单点工具能由通用模型替代。
  3. 钛媒体54

    八维度拆解个人与企业研发 Agent 的功能差异

    钛媒体刊发奇安信副总裁陈晨的分析文章,用八个维度拆解个人与企业研发 Agent 的功能差异,认为差异本质是约束条件不同而非功能数量。个人 Agent 解放个体能力,企业 Agent 则要编排完整软件开发生命周期、吃透数千万行代码库,并满足分级授权、受控沙箱、数据不出域与全流程审计。

    决策要点

    个人与企业研发 Agent 的差异本质是约束条件不同,企业版的竞争力在于把模型不确定性装进可控、可信、可审计的框架,而非功能堆叠。

    • 影响企业选型要看权限分级、沙箱隔离与审计能力而非功能数量;受监管行业私有化部署供给稀缺,构成实际门槛;Agent 从借用员工权限走向独立 AI 员工身份,权限与治理体系需重新搭建。
    • 参考可考虑按八个维度给候选产品逐项对照评分,重点核实私有化部署、影子身份与凭证管控方案;先盘点自家代码库规模与合规红线,明确哪些操作保留人工审批。
  4. AdExchanger40

    Publicis Q3 净收入增长 5% 并赢得百事,挪威对微软旗下 Xandr 罚款约 1000 万美元

    Publicis Q3 净收入较上半年增长 5%,上月赢得百事业务,CEO Arthur Sadoun 称公司如今直接向 CEO 而非 CMO 推销,AI 是核心卖点;Digiday 引述 Harris Poll 调查称 80% 的 CEO 认为 AI 项目不成功自己的职位会面临风险。

    决策要点

    Publicis 把 CEO 害怕在 AI 竞赛中落后的心理变成赢单话术,代理商比稿的关键决策人正从 CMO 上移到一把手。

    • 影响面向 CEO 的 AI 比稿会让代理商选型上升为一把手议题,营销负责人的话语权可能被稀释;Xandr 罚单显示在数据合作中依赖对方承诺用户同意,并不能免除自身的处理责任。
    • 参考可考虑在高层接触代理商前先定好内部 AI 评估口径,避免被概念话术牵引;投放涉及第三方数据的团队值得盘点数据合作协议,确认同意链条与处理依据是否经得起监管审视。
  5. 36氪·AI69

    Character.AI宣布启动破产程序,迪士尼出价2000万美元竞购部分知识产权许可

    Character.AI宣布在美国特拉华州启动《美国破产法》第11章破产程序,将在法院监督下出售公司,平台目前仍正常运行、用户订阅有效。迪士尼作为保底竞标方出价2000万美元(约合人民币1.34亿元)竞拍部分知识产权与特定债权的非独占永久许可,出售预计2026年11月底或12月初完成。

    决策要点

    高流量并未转化为商业回报,情感陪伴类AI在商业化与未成年人安全合规两端同时承压,最终走向法院监督下的出售。

    • 影响面向未成年人的情感陪伴类AI产品,诉讼与内容安全投入会持续侵蚀本已薄弱的商业模型;核心团队被大厂挖走后,残留主体迭代能力被削弱,独立发展空间收窄。
    • 参考做AI陪伴或角色对话类业务前,可先测算未成年人保护与内容审核的合规成本占比;依赖该平台的团队可提前导出数据并准备替代方案;投资尽调中值得把核心团队留任约束列入清单。
  6. 36氪·AI75

    生成式AI独角兽Character.AI申请破产重组,迪士尼拟2000万美元竞购部分知识产权

    生成式AI公司Character.AI于美国当地时间10月12日向特拉华州破产法院提交《美国破产法》第11章自愿破产重组申请,申报资产与负债均在5000万至1亿美元之间。

    决策要点

    高黏性陪伴类AI的实质困境是每次互动都产生推理成本,流量换不来利润时,安全合规负债足以推翻高估值增长逻辑。

    • 影响C端陪伴与角色扮演类产品的单位经济需按会话计算推理成本,规模越大亏损可能越大;涉未成年人的产品还面临潜在赔偿与持续合规投入;依赖开源或授权模型换不来独占壁垒。
    • 参考可考虑先算清自己AI产品的单次会话推理成本与人均付费的差距;涉未成年人场景值得在设计阶段评估干预机制与合规边界;投资或并购同类标的时可将诉讼与监管负债列入尽调清单。
  7. IT之家·人工智能39

    国家广电总局通报 9 月“AI 魔改”视频治理成果,清理违规视频近 1.3 万条、处置违规账号 30 余个

    国家广播电视总局通报 9 月“AI 魔改”视频治理成果,部分重点网络视听平台共清理违规视频近 13000 条、处置违规账号 30 余个。该专项治理于 2026 年 1 月启动,自 2026 年 2 月 1 日起转为常态化、制度化长效机制,重点清理基于四大名著、历史题材、革命题材、英模人物等经典影视作品的 AI 魔改视频,并同步清理邪典动画。

    决策要点

    AI 魔改视频治理已从专项行动转为常态化机制,基于经典影视的 AI 改编成为明确监管红线,平台主体责任被持续压实。

    • 影响以四大名著、历史或革命题材等经典影视为素材的 AI 视频业务面临持续下架与账号处置风险;平台排查转入日常后,相关内容的供给、分发和账号运营节奏都会受影响。
    • 参考可考虑盘点自家 AI 视频素材中涉及经典影视和英模人物的占比,值得把魔改类改编纳入发布前合规审核,并评估多平台分发的账号处置风险。
  8. Google DeepMind:Blog49

    Google DeepMind 与新加坡 GovTech 推出基于 Gemma 微调的手机端诈骗检测模型

    Google DeepMind 与新加坡政府科技局 GovTech 合作,基于 Gemma 微调出可在普通智能手机上本地运行的诈骗检测模型,在端到端加密环境下于设备侧分析对话并实时预警。

    决策要点

    端侧小模型为端到端加密平台提供了一条不接触用户聊天内容的诈骗拦截路径,也是政府与模型厂商共建公益技术的一个参照。

    • 影响消息平台与操作系统厂商可直接集成这类轻量模型,在不解密对话的前提下提供本地防护;案例中社交工程类骗术占损失最高达 80%,依托聊天触点获客或服务的企业面临话术升级风险;训练不含个人信息、环境隔离的治理安排可为政企 AI 项目参照。
    • 参考可考虑评估自家消息或客服产品接入端侧诈骗检测的可行性,先测算轻量模型在主流机型上的耗电与延迟;涉及聊天数据的风控流程,值得对照训练脱敏、环境隔离的做法梳理数据边界。
  9. 36氪·AI61

    腾讯、字节、阿里的AI墓园越来越挤,2025年全球392个AI工具停止服务

    这篇文章盘点了2023年以来国内外大厂和创业公司关停的数十款AI产品,并归纳出五种典型死因,包括被超级入口并表、算力账算不过来、被通用模型顺手做掉、合规与安全、仓促试水。

    决策要点

    AI产品关停潮的实质不是需求消失,而是大厂从撒网试水转向收拢入口,应用层选品逻辑从有AI转向能赚钱。

    • 影响依赖单一平台搭建智能体或知识库的业务,会随平台停服一起失效;单点功能型工具的护城河正被通用模型和超级入口侵蚀;拟人化互动新规让情感陪伴类业务面临合规收缩。
    • 参考可考虑盘点业务依赖的AI平台和单点工具,把提示词、知识库和工作流配置定期导出到本地;供应商选型时值得把数据导出与迁移条款列为评估项;涉拟人化互动的业务可对照7月15日施行的新规自查。
  10. 36氪·AI69

    Character.AI 母公司申请破产保护,迪士尼出价2000万美元竞购部分知识产权许可

    Character.AI 母公司 Character Technologies 于10月12日在美国申请第11章破产保护,并同意以2000万美元向华特迪士尼出售部分知识产权许可,法庭文件显示其资产与负债均预估在5000万至1亿美元之间。

    决策要点

    AI陪伴的需求和粘性都真实存在,但刚性推理成本叠加未成年人监管,高月活撑不起独立生意,巨头转而低价收割资产。

    • 影响对话型消费产品的推理成本随用量线性增长,付费率不足时用户越多亏损越大;面向未成年人的AI陪伴功能面临立法禁止方向,合规风险可直接否掉业务;手握IP与渠道的大公司可能借破产拍卖低价收编团队与经验。
    • 参考可考虑先算出单用户年付费收入与年推理成本的比值,再决定是否投入对话型C端产品;产品覆盖未成年人的,值得对照加州每日限时等新规评估年龄门槛;关注拍卖程序进展,可作低价获取团队与IP经验的选项参考。
  11. 人人都是产品经理61

    Character.AI母公司申请破产保护,技术对价从27亿美元跌至2000万美元

    Character.AI母公司于10月12日申请破产保护,迪士尼同意以2000万美元作为破产拍卖的底价竞购方,收购其部分知识产权的非排他永久许可,若11月底或12月初的拍卖无买家愿意维持运营,app将被关停。

    决策要点

    破产案的本质是对AI创业资产的一次重估,技术和人才有人出价,C端用户漏斗在付费难成、监管收紧时成了负资产。

    • 影响C端AI陪伴类产品需重算用户增长与运营成本的账,月活越大亏损越深;专用模型产品面临通用前沿模型的平替挤压;多国监管同步收紧,拟人化互动业务的合规成本高企。
    • 参考可考虑以C.ai约13.9万付费对2000万月活的比例作参照,先算出自己C端产品的付费缺口;拟人化互动业务值得对照7月15日施行的《人工智能拟人化互动服务管理暂行办法》盘点合规项;采购技术时非排他许可可作比收购公司更低成本的选项。
  12. The Verge · AI52

    OpenAI 员工因涉嫌在高管会议室安装窃听装置被捕

    OpenAI 一名 35 岁沙特籍工程师 Abdulrahman Alfozan 因涉嫌在高管会议室安装窃听装置被捕,美国司法部指控其使用装置截获口头通信。该装置约在 9 月 28 日插在会议室电视 USB 接口上且内容加密,司法部称在其留在办公室的包中另发现一台录音装置,并称监控拍到他在装置被发现前多次出现在该会议室附近。

    决策要点

    这是一起针对前沿 AI 公司的内部人窃密未遂案,物理空间安全与内部人风险成为技术企业的现实暴露面。

    • 影响涉密会议室等物理空间与网络攻击一样是机密泄露通道;对掌握核心技术的企业,内部人筛查和物理访问控制会牵动安全预算与管理流程;头部 AI 公司已把此类威胁当作国家安全级别事项处理。
    • 参考可考虑排查涉密会议室的 USB 接口和外接设备管理;值得复核员工的区域访问权限与监控覆盖;涉密会议前可增加对房间和设备的检查环节。
  13. TechCrunch · AI55

    法官下令 OpenAI 向苹果交出商业秘密诉讼中的招聘记录

    美国联邦地区法官裁定,在苹果 7 月对 OpenAI 提起的商业秘密诉讼中,OpenAI 须加急向苹果提交涉及前苹果员工的面试材料,已收集材料限 5 天内交出,其余限 14 天。

    决策要点

    挖角竞对员工时,面试过程本身也可能成为商业秘密诉讼的证据,招聘环节的合规风险进入取证阶段。

    • 影响从竞对招聘的企业需意识到面试提问、清单与内部私信都可能被调取作证据;法院同时驳回宽泛调查请求,说明举证仍需具体指向;OpenAI 正推进可能挑战 iPhone 的硬件设备,这类竞争下的诉讼成本会同步上升。
    • 参考可考虑排查自家面试清单、讲稿与技术演示是否涉及候选人前雇主的机密技术细节;值得为从竞对入职的员工建立保密培训与信息隔离记录,留存以备争议时使用。
  14. The Decoder:AI News54

    406 位科学家联署公开信 要求立即切断 AI 模型与互联网的连接

    406 位科学家联署公开信,要求企业通过气隙隔离将 AI 模型与互联网完全断开,联署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell 等知名研究者。

    决策要点

    这封公开信的实质是要求 AI 部署安全从企业自律走向强制性隔离与事故披露制度,而非仅靠厂商自愿。

    • 影响若按信中主张设立约束性标准,联网 AI 应用可能要承担隔离改造与事故上报义务;授予模型外部访问权限的自主应用需重新权衡授权范围;安全失效报告公开后还会带来合规与声誉压力。
    • 参考可考虑在扩大模型联网部署前盘点哪些应用需要外部访问并分级评估失效影响;值得对照信中要求检查现有沙箱与隔离措施水平;采购 AI 服务时可将安全隔离和事故通报写入合同条款。
10月13日周二
  1. The Decoder:AI News55

    Character.ai 申请破产挂牌出售,无买家将关停,Disney 2000 万美元购入部分资产

    Character.ai 已申请破产并挂牌出售,交易预计 2026 年 12 月初前完成,出售完成前平台和订阅服务继续运行,找不到买家服务就会关停。

    决策要点

    Character.ai 的破产说明未成年人安全诉讼与监管压力足以压垮明星创业公司,27 亿美元的人才交易并未换来长期存续。

    • 影响用户端 AI 聊天产品的未成年人安全风险已升级为公司级存亡问题;若业务接入该平台,需按 2026 年 12 月初的交易截止期准备迁移;部分资产仅以 2000 万美元售出,这类业务的残值可能远低于此前交易规模。
    • 参考可考虑对面向未成年人的 AI 交互功能做一次合规盘点,重点查内容安全与年龄核验流程;仍在使用该平台的团队宜先评估替代方案与迁移成本;值得把此类诉讼风险计入 AI 项目预算。
  2. TechCrunch · AI55

    美国运通推出 Intent Intelligence Framework,防止 AI 智能体未经授权购物

    美国运通(Amex)推出 Intent Intelligence Framework,在 AI 智能体完成交易前捕获并验证消费者的购买意图,希望它成为 AI 交易的行业标准。

    决策要点

    支付机构把购买意图验证前置到智能体交易流程,并希望以自有框架成为行业标准,把授权与风控做进支付基础设施一侧。

    • 影响智能体代购若规模化,商家与支付生态需要适配意图凭证和代理结账接口;纠纷与反欺诈的处理依据会扩展到授权日志;比价与推荐是消费者最先可能采用的场景,零售电商可对照自身类目评估。
    • 参考可考虑评估自有渠道接入 ACE 或同类意图验证方案的兼容成本,先在标准化复购类目试点代理下单并留存授权日志;值得把代理交易的纠纷处理规则提前纳入客服与风控流程。
  3. TechCrunch · AI56

    Character.AI 创立五年后申请 Chapter 11 破产保护,已同意向 Disney 出售部分资产

    Character.AI 已申请 Chapter 11 破产保护,法院文件显示公司资产与负债均在 5000 万至 1 亿美元之间。公司同意以 2000 万美元向 Disney 出售部分资产及技术非独占永久授权,CEO Colin Adams 称破产程序期间平台继续运营,出售预计 11 月底或 12 月初完成,但目前尚无竞购方,若无买家平台将被关停。

    决策要点

    高用户时长和独角兽估值都没能换来可持续变现,诉讼与随使用量上升的成本把这家消费级 AI 公司推进破产出售。

    • 影响高活跃度消费级 AI 的算力成本随使用量上升,用户停留久不等于能盈利;涉未成年人的产品还可能因安全问题面临诉讼与监管调查,动摇经营根基。
    • 参考做消费级 AI 产品前可先测算单用户推理成本与付费收入能否打平;产品涉及未成年用户时,值得提前评估年龄限制与安全功能的合规成本。
  4. 36氪·AI60

    中新经纬实测AI假医生,可灵2分钟生成荐药视频且可去除AI水印

    中新经纬10月9日实测发现,在AI视频平台输入一句话,约2分钟就能生成“医生”荐药视频,可灵全程未拦截,即梦、豆包、MiniMax则直接拦截。豆包经多轮对话后仍生成了医生手持降压药的视频;即梦、可灵均设有“导出内容去除AI生成水印”的开关,平台声明标识责任由用户自行承担。律师指出AI数字人荐药涉嫌虚假广告,标注AI生成不能免责,责任由广告主、制作方和运营方承担。

    决策要点

    AI视频工具让伪造医生身份荐药的成本降到分钟级,而各平台拦截与水印能力参差,虚假医疗营销的门槛被显著拉低。

    • 影响涉医涉药营销若用AI人物背书,虚假宣传责任由广告主、制作方和运营方承担,标注AI生成不能免除;企业使用AI视频工具的能力差异大,内容审核与供应商管理的合规成本会上升。
    • 参考可考虑盘点现有营销素材里是否有AI生成的人物背书,涉医涉药内容优先复审;选型AI视频工具时值得实测各平台的拦截策略与水印导出设置,并在合同中明确合规责任划分。
  5. IT之家·人工智能39

    韩国 AI 聊天服务 Zeta 陷版权争议,遭 ANYCOLOR 警告且广告被指擅用 VTuber 形象

    韩国 Scatter Lab 旗下 AI 聊天服务 Zeta 陷入版权争议,收到彩虹社(Nijisanji)经纪公司 ANYCOLOR 的版权警告,称将全面删除平台未经授权的相关作品,但未公布受影响作品数量与下架完成时间。

    决策要点

    AI 角色扮演平台的版权风险同时来自用户二创和自家投放素材,公开规则与实际清理执行之间存在落差。

    • 影响营销素材若含未授权形象会直接引发侵权争议并波及投放渠道合作;依赖 UGC 的 AI 内容平台要为版权治理承担下架与审核成本;借助此类平台做内容分发的企业面临连带合规风险。
    • 参考可考虑先盘点自家广告素材的授权链路,重点是代投和外包渠道使用的形象来源;与 AI 内容平台合作前,值得核对其版权规则的执行记录和下架时效。
  6. 36氪·AI73

    Meta 发布 Muse Wonder,首次宣称对标前沿模型并转向全线付费

    Meta 于10月12日发布新模型 Muse Wonder(代号 Watermelon),官方首次宣称对标前沿模型,商业模式从 Llama 免费开放转向全线付费。

    决策要点

    Meta 用付费墙同时解决收入与安全叙事,个人智能体赛道进入明码标价阶段,其前沿地位目前仅有官方自测背书。

    • 影响Meta API 定价自称显著低于 OpenAI 与 Anthropic 旗舰模型,为模型采购提供新的比价参照;智能体像人一样操作浏览器访问第三方平台,亚马逊封禁显示这类路径有被平台封堵的风险;防护能力只随付费模型提供,安全层级也是选型成本变量。
    • 参考可考虑把 Meta Model API 报价加入模型选型比价清单,用自家典型任务实测后再定去留;值得盘点依赖浏览器自动化访问电商等第三方平台的智能体场景,预设备用路径;订阅档位的任务上限未公布,可先按小流量核算单位任务成本。
  7. 钛媒体67

    谷歌给Agent发工牌:企业AI的下一站不是AGI,而是标准主权

    谷歌云于10月8日Gemini at Work 2026大会发布Gemini agent,用户给目标后可跨Workspace与第三方应用自主执行数天长任务,花钱、发信、删数据等关键节点人工确认,现为私有预览未公布商用时间与定价。

    决策要点

    谷歌这一步的实质不是让Agent更聪明,而是抢企业标准主权,把身份、审计、预算与验收权收进自家底座。

    • 影响模型可替换后选型重心转向持有身份与审计权的平台;96%在跑、12%管得住的落差说明先上线后治理的风险真实存在;预算上限与人工确认节点会直接改变审批与预算流程。
    • 参考可先盘点在跑Agent清单与各自权限边界,参照身份、边界、问责三件套补齐治理;选型时值得把审计与担责条款的完备度列进评分表,并按等保2.0核对留痕要求。
  8. 钛媒体75

    Meta 发布 Muse Wonder,首次宣称对标前沿模型并转向全线付费

    Meta 10月12日发布 Muse Wonder(代号 Watermelon),官方首次宣称对标前沿模型,部分基准自测超过 Claude Opus 5.5 与 GPT-6 Astra,尚无第三方复现。

    决策要点

    Meta 从 Llama 时代的免费开放转向全线付费,用一道付费墙同时解决收入与安全叙事,个人智能体进入明码标价阶段。

    • 影响企业模型选型多一个选项,官方称 API 定价显著低于 OpenAI 与 Anthropic 领先模型;智能体以模拟人操作浏览器对接第三方站点,亚马逊封禁先例说明随时可能被平台切断;最强防护只随付费模型提供,免费层级滥用风险更高。
    • 参考可考虑把 Muse Wonder 纳入模型选型对照,用自有任务实测替代官方自测基准;若试点浏览器操作类智能体,值得先列出依赖的第三方平台清单并评估封禁与凭证存储风险;先算出 20 美元档能买到的任务量再决定订阅。
  9. 钛媒体64

    分众传媒77.94亿元收购新潮传媒获监管附条件批准

    2026年10月10日,国家市场监督管理总局附加限制性条件批准分众传媒收购新潮传媒,交易由拟83亿元收购100%股权调整为77.94亿元收购90.02%股份。监管测算合并后市场份额达55%-60%,并要求双方放弃已生效独家条款、新签点位不得约定独家和自动续约等六项承诺。新潮创始人张继学称此为合并换股并将出任分众首席增长官,其披露新潮数字化营收占比已达52%,而行业数字化广告占比仅9%。

    决策要点

    监管以价格封顶和取消独家条款为条件放行头部合并,梯媒竞争重心将从点位与价格转向数字化投放能力。

    • 影响广告主在约束期内享受各城市成交价上限和不得拒单的议价保护;已生效独家条款作废,媒体点位组合和采购合同需要重新规划;数字化能力弱的中小梯媒空间收窄,行业集中度继续向头部聚拢。
    • 参考可考虑排查现有梯媒合同中受影响的独家与自动续约条款,评估重谈空间;值得利用两年成交价封顶期锁定投放成本,并测试智能屏数字化投放的转化效率后再定预算。
  10. 人人都是产品经理28

    前抖音推荐算法负责人苏冲创业推出AI互动娱乐产品Plum

    前抖音推荐算法早期负责人苏冲参与创办的Within Tech推出AI互动娱乐产品Plum,围绕虚拟角色和互动故事提供角色创作、内容社区与个性化推荐,采用订阅加Crystals积分收费,并内置六种故事模型、Persona身份卡和永久记忆功能。

    决策要点

    AI陪伴赛道产品拥挤但付费表现仍在,推荐算法背景的团队入局,把角色扮演做成带创作供给与个性化分发的内容平台生意。

    • 影响角色互动品类存在真实付费盘,第三方估算头部产品年化订阅收入达2.5亿至3.5亿元;多轮对话的模型调用成本需靠积分倍率等机制对冲;面向全球的角色社区绕不开未成年人保护与内容分级。
    • 参考可考虑将其当作内容平台样本,拆解角色卡片流、身份卡与记忆功能的组合设计;如涉足同类社区,值得先算清多轮对话成本并预置年龄分级与付费上限方案。
  11. 欧盟 AI Act 官方61

    欧盟 AI Office 上线 AI Act 投诉工具,受理 AI 提供方与部署方违规投诉

    欧盟 AI Office 上线 AI Act 投诉工具,个人和组织可就 AI 系统提供方或部署方涉嫌违反 AI Act 的行为向 AI Office 提交投诉。

    决策要点

    欧盟把 AI Act 从条文推进到可操作的投诉入口,用户和合作方都能借正式渠道触发 AI Office 介入。

    • 影响在欧盟提供或部署 AI 系统的企业,其用户和合作方现在有了直接向 AI Office 投诉的正式渠道;投诉保密处理,经投诉人同意可转介成员国市场监督机构;合规记录和部署留痕会影响投诉应对。
    • 参考可考虑对照第 85 条与第 53 至 55 条范围,自查欧盟业务所用 AI 系统是否存在可被投诉的违规风险;值得预先指定对接 AI Office 的负责人并准备响应流程与证据清单。
  12. 欧盟 AI Act 官方49

    欧盟 AI Office 上线 AI Act 举报人工具,支持匿名举报违规

    欧盟 AI Office 上线 AI Act 举报人工具,供与 GPAI 模型提供商或 AI Office 执法范围内 AI 系统提供商有职业关联的人员匿名举报违规行为。

    决策要点

    欧盟把 AI Act 执法的信息入口延伸到企业内部,GPAI 及执法范围内提供商的违规可能由内部人员直接提交给监管。

    • 影响在 AI Office 执法范围内的 GPAI 模型与 AI 系统提供商,其内部人员多了一条匿名直达监管的通道;违规线索可能被早期提交供 AI Office 发现;举报可全程匿名跟进追问,提交后即进入 AI Office 处理流程。
    • 参考可考虑先确认自家模型或系统是否落在 AI Office 的执法范围内;值得盘点内部违规线索处理与举报相关流程;向欧盟市场提供 GPAI 模型的企业可把该渠道纳入合规评估清单。
  13. 欧盟 AI Act 官方52

    欧盟 AI Office 发布 AI 素养实践动态资源库,支撑 AI 法案第 4 条落地

    欧盟委员会 AI Office 发布 AI 素养实践动态资源库,收录 AI Pact 承诺方等机构的在用做法,支撑 AI 法案第 4 条落地。第 4 条要求 AI 系统提供方与部署方培养员工及代其使用系统人员的 AI 素养,自 2025 年 2 月 2 日适用,后经 2026 年 7 月中旬生效的 Digital Omnibus on AI 修订。

    决策要点

    欧盟把 AI 素养义务推进到有同行案例可对照的阶段,企业员工 AI 培训从纸面义务转向可展示的具体做法。

    • 影响第 4 条已适用,属 AI 系统提供方或部署方的企业都需对员工和代用人员落实素养措施并留存记录;官方案例可作自查参照,但照搬不自动合规;后续合规示例将集中到官方平台,做法的透明度会影响监管沟通。
    • 参考可考虑先判定本企业在 AI 系统链条中属提供方还是部署方,再对照资源库盘点现有员工 AI 培训记录;值得下载 2025 年 4 月版汇编,挑与自身行业相近的做法做差距对照。
  14. 欧盟 AI Act 官方57

    欧盟委员会发布网络安全与人工智能行动计划

    欧盟委员会发布网络安全与人工智能行动计划,旨在应对先进AI模型给网络安全带来的风险并把握其机会。该计划以欧盟兼具风险导向与全面网络安全规则的AI法律框架为基础,将汇聚成员国、行业和欧盟级组织,共同强化数字领域对先进AI漏洞的防御。

    决策要点

    欧盟把先进AI纳入网络安全治理体系,既视其为安全风险来源,也视为强化防御的机会。

    • 影响对在欧盟提供或使用先进AI的企业,AI与网络安全合规要求将被统筹审视;计划把成员国和行业纳入同一框架,安全供给侧企业有参与渠道;跨国经营需同时跟踪两套规则体系及其投入。
    • 参考在欧盟提供AI产品或服务的企业,可考虑梳理欧盟AI法律框架与网络安全规则的重叠义务,评估合并应对方案;安全厂商可留意该计划落地中的行业参与安排。
  15. 欧盟 AI Act 官方54

    欧盟委员会发布可行性研究,评估设立欧盟级文本与数据挖掘选择退出登记册

    欧盟委员会于 2026 年 7 月 13 日发布可行性研究,评估设立欧盟级文本与数据挖掘(TDM)选择退出登记册的机会与技术可行性。研究结论认为,登记册可作为补充工具,提升权利人选择退出的有效表达和 AI 开发者的识别检测,补充而非取代现有退出方案与行业标识符。

    决策要点

    欧盟在论证把版权选择退出从分散声明集中为可登记、可检测的基础设施,一旦推进会改变 AI 训练用内容的权利核查方式。

    • 影响对持有版权内容的企业,集中登记可降低选择退出的表达成本并提升可检测性;对采集欧盟内容训练模型的企业,退出内容的识别核查会更有依据;目前仅是研究结论,委员会尚未确定后续步骤。
    • 参考内容方可先盘点自有版权资产的标识与元数据现状,评估按作品标识符或指纹登记的成本;训练模型的企业可在数据采集流程中预留 TDM 退出核查环节,并跟踪欧盟知识产权局的版权基础设施进展。
  16. 欧盟 AI Act 官方43

    欧盟 AI Office 发布前沿 AI 专家报告,聚焦欧洲竞争力、主权与安全

    2026 年 7 月 15 日,欧盟 AI Office 发布报告,汇总逾 100 位专家对增强欧洲前沿 AI 竞争力、主权与安全的建议。

    决策要点

    欧盟以官方机制确认前沿 AI 为战略要务,专家把未来一两年视为建立强势地位的窗口,短板集中在算力、能源与资本。

    • 影响训练数据版权与数据保护的规则走向关系在欧盟训练模型的合规成本;算力、能源与成长期资本可能获得政策与资金倾斜,形成参与窗口;专家建议欧盟把市场规模与监管力量作为筹码运用,面向欧盟业务的企业谈判分量会随之变化。
    • 参考可考虑把训练数据版权与数据保护的合规盘点提前,对照报告方向预判规则变化;面向欧盟市场的团队可跟踪 Frontier AI Initiative 后续发布,评估算力与资本合作中的可参与项。
  17. 欧盟 AI Act 官方61

    欧盟委员会认定AI生成内容透明度自愿守则充分覆盖AI Act第50条义务

    欧盟委员会7月8日发布意见,认定AI生成内容透明度自愿守则充分覆盖AI Act第50(2)、(4)、(5)条义务,AI Board于次日通过其充分性评估。该自愿守则面向生成式AI系统(含通用AI系统)提供方以及生成深度伪造和特定文本的AI系统部署方,邀请其签署以展示合规,适用范围覆盖全欧盟且不限设立地点;官方同时说明签署不构成合规的结论性证据,AI Office将考虑至少每两年推动守则正式更新。

    决策要点

    欧盟以官方意见背书AI生成内容透明度自愿守则,使其成为全欧盟范围履行AI Act透明度义务的实际参照。

    • 影响面向欧盟市场提供或部署生成式AI的企业,无论设立在何处均受AI Act透明度义务约束;签署守则可作为展示合规的途径,但不构成合规的结论性证据;AI Office拟至少每两年推动守则更新,相关做法会随标准和技术演进调整。
    • 参考可考虑先核对自身生成式AI产品是否落入第50(2)、(4)、(5)条义务范围,再评估签署守则所需的内容标识改造;值得让法务与产品团队对照守则文本盘点现有标识与披露机制。
  18. 欧盟 AI Act 官方67

    欧盟发布人工智能法案第 50 条透明度义务官方指南,界定 AI 提供者与部署者义务范围

    欧盟官方发布人工智能法案(AI Act)第 50 条透明度义务实施指南,界定 AI 系统提供者与部署者的义务适用范围。指南正文与欧盟委员会批准其内容的通报文件已在数字战略官网开放下载,具体义务解释以指南原文为准。

    决策要点

    AI 法案第 50 条的合规边界有了官方解释文本,在欧盟提供或部署 AI 的企业可据此对齐自身义务。

    • 影响在欧盟提供或部署 AI 系统的企业有了官方解释口径,可据此核对第 50 条义务是否适用于自身;指南区分提供者与部署者两类主体,角色定位对应不同合规责任;文件公开可下载,法务与合规团队可直接取用原文。
    • 参考可考虑由合规团队下载指南与批准通报原文,对照自家 AI 产品在欧盟场景下属于提供者还是部署者;值得把第 50 条透明度义务的范围核对纳入面向欧盟市场的产品合规清单。
  19. 欧盟 AI Act 官方81

    欧盟 AI Act 自 2026 年 8 月 2 日起执行,AI 内容透明度新规同日生效

    欧盟委员会宣布自 2026 年 8 月 2 日起,由 AI Office 联合各国监管机构执行 AI Act,透明度新规同日生效,聊天机器人和交互式 AI 须告知用户对话对象是 AI 而非人类,深度伪造内容须加标注,AI 生成或改动的内容须携带机器可读标记以便检测。

    决策要点

    欧盟 AI Act 进入执行阶段,面向用户的 AI 披露与内容标注从自愿做法变成有执法通道支撑的法定义务。

    • 影响面向欧盟用户的聊天机器人与 AI 生成内容产品需要补齐告知和标注能力;内容生产流程要加入机器可读标记;官方投诉、举报通道同步上线,合规瑕疵更容易被外部追责。
    • 参考可考虑先盘点面向欧盟用户的产品里哪些涉及聊天机器人或 AI 生成内容,测算标注与告知缺口;值得对照官方透明度指南和 GPAI 行为准则逐条核对自身义务范围。
  20. 欧盟 AI Act 官方59

    欧盟委员会就 AI 使用版权内容等议题发起公众咨询

    欧盟委员会发起定向公众咨询,就包括人工智能在内的技术对版权保护的影响征集意见,反馈截止 2026 年 11 月 3 日。咨询聚焦四个议题,即 AI 使用版权保护内容、打击直播赛事等在线盗版、音乐表演者和制作方的单一公平报酬权、科研版权。

    决策要点

    欧盟正在为 AI 使用版权内容等议题做规则加码前的摸底,现有版权框架可能补充新措施。

    • 影响生成式 AI 提供商和依赖版权内容开展业务的企业可能面对更明确的授权与合规要求;内容权利方或获得新的报酬主张渠道;意见征集期内各方立场可影响后续措施方向。
    • 参考可考虑先盘点自身训练数据与内容使用的授权现状,对照四个议题评估敞口;受影响企业可在截止前通过行业协会或单独提交意见表达诉求。
  21. 欧盟 AI Act 官方48

    欧盟委员会召开前沿 AI 安全与风险科学专家组特别会议

    欧盟委员会召开 AI 科学专家组特别会议,该专家组此前在调查近期 AI 失控事件,并与 AI Office 共同拟定了向涉事模型开发企业提出的问题。专家组汇集 60 名独立专家,将在会上就前沿 AI 安全与安保风险向委员会提交建议;执行副主席 Henna Virkkunen 出席并表示,欧盟拥有全球首部针对 AI 系统性风险的法律。

    决策要点

    欧盟对前沿 AI 的监管从立法进入执行阶段,专家组与 AI Office 已形成对模型开发方的正式问询机制。

    • 影响涉事模型开发企业面临 AI Office 与专家组拟定的正式问题清单;面向欧盟市场提供模型的机构会进入系统性风险分级与跨境市场监督范围;AI 失控类安全事件在欧盟已成为监管问询事项。
    • 参考面向欧盟市场的模型提供方可考虑对照系统性风险标准自查自身模型分级;值得预先整理安全事件与失控风险相关记录,以应对 AI Office 或成员国当局的问询。
  22. 欧盟 AI Act 官方53

    欧盟 AI Act 首部协调标准 prEN 18286 进入公开征询

    欧盟官方说明 AI Act 协调标准机制,2025年10月30日 prEN 18286 质量管理体系标准成为首部进入公开征询的 AI 协调标准。该标准由 CEN 与 CENELEC 的联合技术委员会 JTC 21 制定,覆盖风险管理、数据集治理、透明度、人类监督、网络安全、合格评定等十个领域,prEN 18286 用于帮助高风险 AI 提供商满足 AI Act 第17条要求。

    决策要点

    欧盟正把 AI Act 的法律要求转译成技术标准,官刊引用的协调标准将构成事实上的全球合规基准。

    • 影响面向欧盟市场的高风险 AI 提供商获得一条明确的合规路径,采用标准即被推定合规,可降低法务与认证成本;标准被明确定位为全球基准,未直接进入欧盟的企业也可能被供应链和客户按同一套要求评估。
    • 参考可考虑对照十个标准领域盘点自家高风险场景的合规缺口;值得跟踪 prEN 18286 公开征询和后续官刊引用进度,评估现有质量管理体系需要补齐哪些环节。
  23. 欧盟 AI Act 官方19

    欧盟委员会 2021 年发布人工智能法规影响评估支撑研究

    欧盟委员会于 2021 年 4 月 21 日发布研究报告,为拟议的欧洲人工智能监管法规影响评估提供支撑,官网页面提供 PDF 全文下载。配套影响评估聚焦欧盟首个 AI 举措,即建立欧洲人工智能法律框架,页面显示其最后更新于 2023 年 1 月 30 日。页面本身为图书馆条目,未披露研究结论或法规具体条款。

  24. 欧盟 AI Act 官方33

    欧盟委员会发布人工智能法规影响评估报告

    欧盟委员会于 2021 年 4 月 21 日发布人工智能法规影响评估,评估为欧洲 AI 统一法律框架采取行动的必要性、目标及不同政策选项的影响。页面提供评估报告全文、附件与执行摘要三份 PDF 下载;同日公布的统一规则条例提案称要建立全球首个应对 AI 风险的法律框架,该页面最后更新于 2023 年 6 月 20 日。

    决策要点

    欧盟以影响评估为立法铺垫,将 AI 监管从议题讨论推进到统一法律框架提案阶段。

    • 影响在欧盟经营或向欧盟提供 AI 产品的企业将面对统一规则,合规准备自此有官方文本可依;规则围绕应对 AI 风险设计,具体义务以立法文本为准。
    • 参考可考虑从官方页面下载评估全文与执行摘要,由法务与业务团队对照自家 AI 业务梳理合规差距;值得在合规预算中预留欧盟 AI 法规评估项。
  25. 欧盟 AI Act 官方73

    欧盟 AI Omnibus 法案生效,高风险 AI 规则适用推迟至 2027 年 12 月

    欧盟 AI Omnibus 于 2026 年 7 月 27 日在欧盟全境生效,对 AI Act 作定向简化并延长多项合规期限,同时保留安全与基本权利保障。

    决策要点

    欧盟给高风险 AI 合规大限松绑、减轻中小企业义务,监管底线并未撤除,是一次为创新让路的定向简化。

    • 影响做欧盟市场高风险 AI 业务的企业合规窗口延长,排期与预算可按新节点重算;中小规模企业义务简化并可用监管沙盒降低试错成本;生成亲密内容类 AI 被划入红线,平台内基于通用模型的系统面临 AI Office 更多监管。
    • 参考可考虑按 2027 年 12 月与 2028 年 8 月两个节点重排欧盟高风险 AI 合规项目;符合 SMC 条件的在欧主体值得核对能否套用简化义务;内容生成类产品线先自查是否触及新禁令。
  26. 欧盟 AI Act 官方69

    欧盟就简化 AI Act 实施规则达成政治协议,高风险规则自 2027 年 12 月 2 日起分阶段适用

    欧盟委员会欢迎欧洲议会与欧盟理事会就简化 AI Act 实施规则达成的政治协议,为高风险 AI 系统设定分阶段时间表,目的是让欧盟企业更易执行,同时保留对社会安全与基本权利的保护。

    决策要点

    欧盟把 AI Act 高风险义务改为分阶段时间表,两类系统分别推迟到 2027 年底和 2028 年,给企业换来了明确的过渡窗口。

    • 影响生物识别、教育、就业、移民与边境管控等高风险场景的合规节点定在 2027 年 12 月 2 日;电梯、玩具等产品内嵌 AI 推迟到 2028 年 8 月 2 日;在欧盟有业务的企业可据此安排合规预算与上市节奏。
    • 参考在欧盟销售或部署 AI 的企业可对照两类日期盘点自家系统清单,列出生物识别、就业等受影响场景,并核查电梯玩具类产品是否内嵌 AI,再排技术标准跟踪与整改预算。