跳到正文

#政策合规

今日 3 条
10月12日周一
  1. 欧盟 AI Act 官方55

    欧盟委员会 AI Office 执行 AI Act,可评估和处罚通用大模型

    欧盟委员会设立 AI Office 作为 AI Act 的执行核心,重点监管通用大模型(GPAI),拥有评估模型、调取资料、要求整改、限制模型公开可用和直接罚款的权力。

    决策要点

    欧盟把 AI Act 的执行集中到 AI Office,通用大模型厂商面对的是具备评估、调查和罚款实权的单一监管入口。

    • 影响面向欧盟市场提供通用大模型的企业将面对模型评估、技术文档调取和直接罚款的监管实权;修订后的 AI Act 强调规则简化与创新友好;AI Pact、沙盒等机制允许企业提前对接合规准备。
    • 参考可考虑先核对自家模型是否属于通用大模型监管范围并备齐技术文档;值得通过 AI Pact 报名参与活动,提前熟悉行为准则与沙盒的落地细节。
  2. The Decoder:AI News46

    白宫撤回禁令,恢复英国 AI 安全研究所对前沿模型的早期访问权限

    白宫撤回此前决定,英国 AI 安全研究所(AISI)将恢复获得 Anthropic、Google DeepMind 和 OpenAI 新模型的早期访问,据每日电讯报报道。

    决策要点

    前沿模型的安全测评准入已成外交博弈对象,英美监管路线分歧公开化,但第三方独立测评机制暂时得以保留。

    • 影响监管准入政策可在数周内反转,依赖前沿模型的跨国业务需预设访问中断的预案;英国酝酿的关键基础设施安全事件报告新规将抬高相关运营方的合规成本。
    • 参考可考虑为跨境模型依赖的业务准备访问受限的替代方案;值得跟踪英国后续安全措施细则,先盘点现有 AI 系统的安全事件上报流程能否满足更严格标准。
  3. Meta AI:Research Blog34

    Meta 更新隐私政策,2026 年 7 月 23 日生效并明确 AI 数据用途

    Meta 隐私政策更新版标注自 2026 年 7 月 23 日起生效,说明其如何收集、使用、共享、保留和转移用户信息。

    决策要点

    这份政策把公开内容与 AI 互动写入 AI 开发的数据来源,跨产品、跨公司的数据打通与全球传输是默认安排。

    • 影响在 Meta 投放广告的企业,站外数据用于广告个性化的口径被政策明确;数据全球传输与向其他 Meta 公司共享是常规安排;业务出售或转移时用户数据可随交易移交。
    • 参考可考虑梳理品牌在 Meta 平台的账号与广告数据范围;值得评估广告定向对第三方站外数据的依赖;接入集成伙伴前先确认可获得的用户信息边界。
  4. 36氪·AI48

    北京亦庄试点为AI虚拟人发放身份凭证,AI歌手尤里持证可接商演

    北京亦庄监管沙盒于2026年6月11日向AI歌手尤里发放身份凭证和商业数字演出准入证书,试点为AI虚拟人建立行政登记,每个虚拟形象必须绑定运营公司。凭证把责任穿透到具名运营方,不赋予虚拟人独立法律身份,数字居民只是行政称谓。

    决策要点

    北京试点把虚拟人当作可识别的商业主体来管,责任穿透到具名运营公司,发放的是合规工具而非法律人格。

    • 影响运营虚拟人的企业可借此获得数字钱包和商业合作资质,但须证明角色权利与技术稳定并保留可追责的责任人;面部数据集中入库和肖像归属未明,会带来数据安全与肖像权的合规成本。
    • 参考可考虑先梳理自有虚拟形象的权属链条与所用真人肖像授权,评估是否申报亦庄沙盒证书;值得把面部特征数据的存储安全与泄露预案列入合规清单,再定商业化节奏。
  5. DataGuidance:AI15

    DataGuidance 法律法规对比工具覆盖含 AI 主题的 300+ 辖区

    DataGuidance 提供法律法规对比工具,支持对 300+ 个司法辖区的法律进行跨辖区比较,可比主题包括 AI、营销、人力资源和雇佣法。平台称有 2000+ 名专家就最新法律和辖区提供本地化指引,并称拥有覆盖面最广的监管情报数据库;该功能可免费试用,页面注明无需信用卡。页面其余部分主要为 Cookie 同意公告及 Pendo、Cloudflare、OneTrust 等第三方服务的说明。

  6. Every40

    Google 服务条款禁止利用其内容开发 AI 模型,新版 2026年7月30日生效

    Google 发布 2026年7月30日生效的服务条款,禁止用户利用其服务中的 AI 生成内容开发机器学习模型或相关 AI 技术,也禁止对 Google 机器学习模型做逆向工程以提取商业秘密。

    决策要点

    这次条款的实质是把 AI 内容使用边界和商家用户的风险分配写成合同基线,任何依赖 Google 服务的业务流程都受它约束。

    • 影响抓取 Google 服务内容或用其 AI 生成内容训练自有模型的做法被明文排除,相关数据与研发流程要先核对边界;企业账号适用商家用户条款,违法使用引发的三方索赔需向 Google 赔偿,而 Google 自身赔付上限取 500 美元与前 12 个月付费的 125% 中较高者。
    • 参考可考虑盘点业务中是否存在自动抓取 Google 服务内容用于模型训练或索引的流程;值得让法务确认企业账号下的赔偿义务与争议管辖安排,评估是否需要在客户合同中做相应衔接。
  7. Every21

    Google 隐私政策披露数据收集范围,公开信息可用于训练 Gemini 等 AI 模型

    Google 隐私政策说明其在用户使用服务时收集的信息类型与用途,涵盖用户创建的邮件、照片和文档,设备与应用信息,搜索观看等活动记录,以及 GPS、IP 地址和周边 Wi-Fi 等位置数据。

    决策要点

    这份政策把 Google 的数据用途清单以官方文本固定下来,公开网络内容进入 AI 训练和跨服务关联都被写成明面条款。

    • 影响企业在公开网络发布的内容按政策可能用于训练 Gemini 等 AI 模型;员工用无痕浏览不等于数据不流向 Google,第三方网站仍会回传信息;广告合作端有敏感类别排除和不共享个人身份信息的承诺,可作营销合规参照。
    • 参考可考虑盘点公司在用的 Google 服务清单,标注哪些涉及 Analytics、Chrome 同步和登录账号的数据关联;值得核对外发内容中哪些属于公开网页,再决定披露口径。
  8. IT之家·人工智能45

    微软总裁布拉德·史密斯称 AI 受到的监管甚至不如牛奶和洗衣机

    据《卫报》报道,微软总裁布拉德·史密斯表示,人工智能受到的监管甚至不如牛奶和洗衣机,业界应制定更多安全规格约束 AI。他提出,若失控的智能体入侵其他企业并造成损害,持有该智能体的公司需要承担责任,并呼吁各大企业设置终止开关,让 AI 失控时暂停运行。

    决策要点

    头部厂商高管主动呼吁为 AI 补安全规格、定责任归属,监管讨论正从外部施压转向业界自己提方案。

    • 影响企业持有或部署的智能体若失控致损,或需由持有方承担责任;终止开关这类暂停机制可能进入安全要求;监管呼声升温,涉及 AI 的业务合规成本值得重新估算。
    • 参考可考虑盘点公司内部正在运行的 AI 智能体清单,为关键系统预留人工暂停入口;值得把智能体失控致损的责任条款写进采购与部署合同。
  9. IT之家·人工智能42

    英国将加强网络防御,AI 国务大臣呼吁人工智能企业加大安全保障力度

    英国将加强网络防御,AI 国务大臣纳拉扬将呼吁前沿 AI 研发企业加大系统安全保障力度,并表示英国不能完全依赖科技巨头对模型的自我监管。

    决策要点

    英国政府释放的信号是从依赖企业自我监管,转向国家主导的安全审查与本土 AI 基础设施建设。

    • 影响前沿模型在英部署可能面对更多政府审查与部署前改动要求;企业采购模型时需把供应商安全治理状况纳入合规评估;模型完成高阶网络任务能力快速上升,会同步抬高企业自身的安全风险面。
    • 参考可考虑把 AISI 报告中的能力数字纳入模型采购与安全评估清单;在英有业务的企业值得先盘点所依赖的前沿模型和数据流,预估监管趋严后的合规成本。
  10. The Verge · AI39

    特朗普推动把 AI 改称“超级智能”,硅谷巨头相继跟进

    特朗普宣布把 AI 更名为“超级智能”,并发布行政令要求政府机构改用这一术语,马斯克、纳德拉等硅谷高管相继跟进。马斯克承诺把 SpaceXAI 改名 SpaceXSI,Benioff 宣布 Salesforce 的 AIForce 更名 SIForce,Nvidia 宣布投入 10 亿美元用于科学进步,其中包含“超级智能研究”。

    决策要点

    更名的实质是政治站队而非技术演进,硅谷头部公司借改术语向特朗普政府表态,大众市场仍沿用 AI。

    • 影响行政令要求政府机构改用新词,与政府做生意的供应商面临文案和投标材料的术语切换成本;高管跟进的姿态在作者笔下带有向政府示好色彩,口径选择本身会成为政治信号。
    • 参考可考虑盘点涉及美国政府业务的提案、合同与产品文档中的术语清单,评估新旧词并用的过渡方案;是否在品牌传播中跟进更名,值得先纳入政府事务与公关的口径预案。
10月11日周日
  1. 钛媒体71

    工信部等四部门拟禁止全隐藏式门把手,收紧汽车创新设计与测试验证管理

    工业和信息化部等四部门发布关于汽车产品创新设计和研发测试验证管理的通知征求意见稿,拟提高创新设计安全环保要求并强化产品准入前测试验证。文件拟禁止配备全隐藏式门把手,行车时不得使用零重力座椅等功能,准入前须完成不低于3万公里可靠性验证,环境适应性验证周期不少于1年,OTA升级验证材料留存不少于6年。

    决策要点

    监管把创新的安全验证门槛写进准入规则,车企靠压缩开发周期抢上市节奏的做法面临硬约束。

    • 影响研发排期要为3万公里路试和不少于1年环境试验预留时间,新品上市节奏可能放慢;智驾相关宣传术语须与国标分级一致,模糊表述存在虚假广告与侵害知情权风险;企业不得直接采信供应商验证报告,验证责任回到整车厂。
    • 参考可考虑按征求意见稿重排新品研发计划,先算出3万公里路试与两冬一夏试验对上市节点的影响;值得让法务参与宣传物料审核,盘点现有智驾话术与国标分级的差距。
  2. 极客公园42

    马斯克预测 SpaceX 估值将超 1000 万亿美元遭数据表反驳;传腾讯字节加速个人智能体研发;四部门拟禁止汽车全隐藏式门把手

    马斯克预测 SpaceX 未来估值将突破 1000 万亿美元(当前估值约 2.2 万亿美元,2025 年全球 GDP 约 118 万亿美元),有网友晒出富国银行证券统计表,称其过去 15 年提出的 602 个明确目标仅约三成按期实现。

    决策要点

    个人智能体成为大厂新战场,同时腾讯关停元器,资源正从泛平台工具向头部 Agent 产品集中。

    • 影响在元器上搭建过智能体的企业需要在停服前完成数据导出与迁移;个人智能体入口快速更替,工具选型时平台存续稳定性权重应上调;Visier 调查显示近半数员工夸大 AI 使用情况,企业培训与效果评估存在缺口。
    • 参考可考虑盘点内部基于元器搭建的应用并排定迁移优先级;个人智能体新品可小范围试用对比,LightVela 已开放新用户免费试用一个月;值得先摸底员工真实 AI 使用情况再定培训投入。
10月10日周六
  1. IT之家·人工智能51

    教育部启动教师 AI 素养全覆盖培训

    教育部 10 月 10 日在京召开人工智能赋能教师发展现场会,教师人工智能素养全覆盖培训启动,国家智慧教育平台教师发展中心全新升级上线。新上线的教师发展中心开设 AI 素养专区,集成人工智能学习资源、智能工具和研修社群;培训第一课由一线教师、校长和教育局长现场示范,展示 AI 在备课、课堂教学、学业评价、教研反思和学校治理中的应用。

    决策要点

    教师 AI 素养培训进入教育部门主导的全覆盖阶段,AI 能力建设成为教师队伍建设的制度化安排。

    • 影响面向学校和教师的 AI 培训内容与智能工具有了更明确的官方使用场景;AI 纳入教师资格考试会影响师范培养和教师进修的课程设置方向;国家智慧教育平台为教师自主学习和培训提供资源支撑。
    • 参考可考虑对照培训第一课示范的备课、课堂教学、学业评价等场景,检验教育类 AI 产品与教师需求的契合度;培训机构可评估教师进修与资格认证内容更新带来的课程调整空间。
  2. 量子位57

    特斯拉FSD在欧洲更名为辅助驾驶,换得德国支持欧盟准入

    特斯拉在德国、西班牙、荷兰等多国官网将FSD(Full Self-Driving)更名为Tesla Assisted Driving(特斯拉辅助驾驶),美国官网仍保留原名,此次更名由特斯拉在德国交通部认定名称具误导性后主动提出。

    决策要点

    特斯拉以放弃完全自动驾驶命名换取德国对欧洲准入的支持,辅助驾驶的监管定性正在成为车企出海欧洲的现实门槛。

    • 影响智能驾驶的宣传命名在欧盟面临监管审查,夸大表述需付出整改代价;市场准入可与功能让步绑定,审批时点直接影响软件订阅收入的释放节奏;欧洲市场竞争加剧会放大获批与否的经营差距。
    • 参考可考虑对照德国交通部的口径排查自家辅助驾驶命名与宣传表述;值得把成员国支持清单和速度偏移这类敏感功能的审批风险纳入欧洲投放排期;可先测算软件订阅收入对审批时点的敏感度。
  3. 钛媒体41

    中央发文部署新质生产力19项举措,权益类基金成立门槛拟降至5000万元

    中共中央、国务院10月9日印发《关于发展新质生产力的意见》,围绕5方面创新提出19项重点举措,大力推进科技创新列为五大任务之首,并提出全面实施“人工智能+”行动,加快智能网联新能源汽车、人形机器人等新一代智能终端场景应用。

    决策要点

    新质生产力19项举措的实质,是把企业放到科技创新主体位置,并用立项即部署转化、验收考实绩的机制解决研发与落地脱节。

    • 影响民企牵头国家重大技术攻关、企业研发准备金制度写入文件,研发投入和项目申报安排可据此调整;文件圈定传统产业改造与新一代智能终端两个智能化方向,应用示范与中试平台按此布局;权益类基金门槛下调为科技企业融资留出更多空间。
    • 参考可考虑对照19项举措梳理自身与人工智能+、未来产业的结合点,评估牵头或参与国家科技任务的机会;值得研究概念验证和中试平台的申报使用路径;有持续研发投入的企业可先测算研发准备金制度对现金流的安排。
10月9日周五
  1. The Verge · AI43

    特朗普强推把 AI 改名为超级智能,行政令管不到国会与现行法律

    特朗普签署行政令,要求美国联邦尽可能弃用 Artificial Intelligence 一词改称 Super Intelligence,并在周四宣称把继续用旧称者视为 THE ENEMY。

    决策要点

    以行政命令强推行业改口,更接近政治表态而非可执行的术语规范,能否成立取决于立法司法和企业自愿。

    • 影响涉美监管与政府采购的企业可能要同时维护 AI 与 SI 两套表述,现行法律如 Take It Down Act 仍用旧词;新词同时套在远期设想与旧款音乐生成工具上,superintelligent 作为高端卖点的辨识度会被稀释。
    • 参考涉美业务团队可先盘点合规文件与政府沟通中的 AI 表述,对照 CAISSI 等已改名机构更新用词;以超级智能定位产品的团队值得先评估一词泛化后的辨识度损失;涉强 AI 监管的行业可跟踪 Ban Artificial Superintelligence Act 的定义争议。
  2. The Verge · AI28

    加州试图叫停人与机器人笼斗比赛,Rek 公司收到停止函

    加州州立运动委员会向机器人格斗初创公司 Rek 发出停止函,据纽约时报报道,该函称其 9 月 18 日举办的人类与机器人对战未经批准,要求停止在加州未经批准举办涉及真人的拳击或综合格斗类比赛和表演。

    决策要点

    加州监管方把人机格斗按搏击赛事管理,机器人的娱乐化商用场景正被套进既有审批框架。

    • 影响在加州举办涉及真人的机器人对抗或搏击类表演需先取得运动委员会批准;营销型人机演示存在被叫停风险;停止函只针对涉及真人的赛事,纯机器人对战未被要求停止。
    • 参考可考虑给涉及真人身体接触的机器人演示做一次监管归属检查,确认是否落入搏击赛事审批;也可评估改成纯机器对机器的形式来降低合规负担。
  3. The Decoder:AI News46

    Anthropic 更新 Claude 使用政策,持续辱骂 Claude 可致账户被暂停或封禁

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 的持续且无必要的虐待或残忍行为,违规用户可被警告、限流、限制、暂停或终止使用。

    决策要点

    Anthropic 把模型福利理念落成了可执行的用户条款,平台获得了对用户与 Claude 交互方式的直接处置权。

    • 影响重度使用 Claude 的企业多了一层账号合规约束,极端对抗性交互可能触发限流或封号;自动化测试与研究用途按公司口径仍被允许;政府合同相关场景可能存在例外安排。
    • 参考可考虑把新版使用政策对照现有 Claude 应用场景逐条核对,重点排查自动重试、对抗性压测和涉武器监控类用途;值得同步确认合同里是否需要约定账号受限时的服务替代方案。
  4. TechCrunch · AI45

    Anthropic 更新使用政策,明文禁止辱骂模型与干预选举

    Anthropic 于周四更新使用政策,新增禁止干预选举、武器软件与监控用途,并明文禁止用户长期辱骂其模型。自 8 月的更新起,Claude 已会在持续有害或辱骂性互动中主动结束对话,新政策进一步禁止用户追求此类对话,官方称该条款只适用于极端情况,不涉及常见不满、反驳、黑暗创意题材或模型测试研究。

    决策要点

    Anthropic 把对用户行为的约束写进使用条款,AI 治理从模型能力层延伸到了使用方式层。

    • 影响使用 Claude 的企业需把厂商条款转译为内部 AI 使用规范;批量假账号、虚构媒体类营销手法会触碰欺骗性活动禁令;员工与模型的互动方式也被纳入条款边界。
    • 参考可考虑把 Anthropic 使用政策纳入供应商合规审查清单,逐条对照现有账号运营和内容自动化场景;值得在员工 AI 使用规范中写明与模型互动的边界。
  5. The Verge · AI55

    USA Today 母公司起诉 OpenAI 侵犯版权,索赔超 2.5 亿美元

    USA Today 母公司 USA Today Co. 联合旗下 The Tennessean、Indy Star、The Columbus Dispatch、The Oklahoman 等多家地方报纸起诉 OpenAI,指控其未经授权复制数十万篇文章训练 AI 模型,并索赔超过 2.5 亿美元。

    决策要点

    又一家主流出版方把 AI 训练数据争议推向法庭,内容授权与索赔正在成为 OpenAI 及同类公司的实质性经营风险。

    • 影响诉讼把训练数据合法性问题推入司法程序;依赖大模型处理新闻内容的企业面临来源合规的不确定性;持有原创内容的企业获得了索赔与授权谈判的参照案例。
    • 参考可考虑先盘点自有内容是否属于此类被诉使用范围;采购 AI 服务时值得把训练数据来源合规列入供应商评估项;内容业务可在授权谈判前算出自身内容的索赔参照值。
  6. Anthropic:Newsroom57

    Anthropic 发布 2026 版使用政策,整合欺骗性活动禁令并放宽个性化竞选定向

    Anthropic 发布新版 2026 使用政策,11 月 12 日生效,多数更新为澄清既有规则而非新增限制。政策把虚假账号、假新闻站与影响力行动相关条款整合为欺骗性活动专节,政治与商业欺骗均适用;选举条款收窄为禁止欺骗选民,并删除对个性化选民定向和竞选投放的一刀切禁令。武器与监控条款写得更精确,新增硬件自主物理行动需合格操作员可停机等要求,同时禁止对模型持续无目的的虐待行为。

    决策要点

    政策实质是把既有红线细化成可核对的条款,为 Claude 承担更长自主任务后的使用边界立规矩。

    • 影响营销与影响力类用法需对照欺骗性活动专节自查,虚假账号与投放基础设施都在禁令内;个性化竞选定向松绑,非欺骗的公益与竞选场景获得空间;接硬件的自主部署要预留操作员停机与断连安全机制。
    • 参考可考虑让合规与业务团队按新版条款逐项自查现有 Claude 用法,重点是内容投放与舆情类场景;计划涉足医疗、金融等高风险领域的企业,可按重写后的清单核对是否需要人审与向用户告知。
10月5日周一
10月1日周四
  1. 极客公园39

    谷歌发布 Gemini 4 Argon;中国生成式 AI 用户超 7 亿;美光 2026 财年净利同比增长 895%

    谷歌 9 月 30 日发布 Gemini 4 Argon,称其为公司迄今最先进的 AI 模型,单次输出上限约 100 万 tokens,官方称长周期代码工程测试超 Opus 5.5。

    决策要点

    这期动态的实质是算力成本与用户普及同步推进,存储涨价让上游利润激增,生成式 AI 用户过 7 亿进入大众阶段。

    • 影响依赖存储的硬件与终端业务需要重算成本与定价;面向消费者的 AI 功能已触达主流人群,可按大众需求规划产品;长输出模型改变大代码库与长文档的处理方式。
    • 参考可考虑先算出未来两个季度内存占整机或云端成本的比重再调预算;值得安排长输出模型在大代码库重构或长文档场景做小试点;消费端团队可把 AI 功能按主流功能而非尝鲜功能规划。
9月30日周三
  1. The Verge · AI58

    特朗普公布AI安全协议全文,科技巨头将按四条规则自律监管AI安全

    特朗普公布由六大科技公司掌门人签署的AI安全自律协议全文,正式名称为 Joint Commitment on Frontier Responsibilities。

    决策要点

    美国前沿AI治理选择企业自律路线,协议不设罚则、无强制执行安排,实质是自愿承诺而非监管框架。

    • 影响美国前沿AI现阶段以自愿承诺为主,企业选用模型时的合规要求更多落在内部风控而非监管;协议原文写明未来或将这些步骤立法化;签署厂商将建立内控、外部审计与董事会监督,可作为评估供应商安全能力的参照。
    • 参考值得把协议四条要求整理成模型供应商安全评估清单,采购或续约时逐项对照;可考虑跟踪这类自律标准会否进入立法程序,预评自家AI应用的合规成本;在美有业务的可对照首条规则盘点系统的越权访问风险。
9月29日周二
  1. GitHub Blog42

    GitHub 发布开发者政策更新:政府下架请求增至 708 起,加州 AI 透明法案待签署

    GitHub 发布开发者政策更新,公布 2026 上半年透明度数据并回顾美国州立法会期进展。政府下架请求从 2025 全年 98 起增至 2026 上半年 708 起,官方称主要因统计口径扩大而非内容删除增加;加州 AI 透明法案 SB 1000 已于 8 月 30 日送交州长 Newsom,9 月 30 日前签署,后续将跟进 DMCA 1201 条规则制定与开源 AI 政策。

    决策要点

    针对消费端服务的立法正在向开源基础设施外溢,监管已成为开源生态绕不开的经营变量。

    • 影响依赖开源组件的企业将面临 AI 内容溯源与年龄验证类法规的外溢风险,代码托管等基础设施的适用边界仍有不确定性;加州 SB 1000 若在 9 月 30 日前签署,相关平台需跟进实施细则。
    • 参考可考虑盘点自身依赖的开源基础设施清单,评估 AI 透明与年龄验证立法的外溢适用风险;相关立法进入后续修订期时,可通过开源组织或行业协会提交技术意见。
9月21日周一
  1. OpenAI:官网动态30

    OpenAI 提出全球 AI 标准路径,呼吁协调评估、报告与治理以提升安全

    OpenAI 在官网发布文章,提出构建共享的全球 AI 标准的路径,呼吁以协调一致的评估、报告和治理机制提升 AI 安全。该提议面向 AI 的下一阶段发展;目前可见材料仅为官方摘要,全文具体方案未随材料给出。

    决策要点

    OpenAI 主动倡导以协调评估、报告和治理为核心的全球 AI 标准路径,属头部厂商的治理立场表态,全文具体内容暂未随材料给出。

    • 影响若协调评估与报告成为主流标准方向,使用 AI 的企业可能面临更明确的透明度和合规要求;厂商安全治理能力在选型时会获得更多权重;当前材料仅陈述立场,尚无具体条款可评估影响。
    • 参考可考虑查阅 OpenAI 原文,确认其呼吁的评估和报告要求是否涉及企业用户;值得把 AI 治理纳入内部合规清单;选型模型厂商时可询问对方是否具备相应的安全评估与报告机制。
9月18日周五
  1. OpenAI:官网动态29

    OpenAI 发布澳大利亚青少年安全蓝图,规划六大支柱保护年轻人

    OpenAI 发布澳大利亚青少年安全蓝图,一份由六大支柱组成的路线图,目标是让 AI 体验对年轻人更安全,并在保护的同时帮助他们更好地使用 AI。公告仅提供官方摘要,六大支柱的具体措施尚未展开。

    决策要点

    OpenAI 将青少年安全整理成面向澳大利亚单一市场的六支柱路线图,平台安全策略以框架形式对外公开。

    • 影响面向未成年人的 AI 业务在澳大利亚多了一份可对照的安全框架;教育和青少年内容等场景的供应方可能需要对照自家产品策略;六大支柱的具体措施未随公告公开。
    • 参考可考虑先圈出自家业务中面向未成年人的场景清单,等六大支柱全文公布后再逐条对照,评估产品策略与安全要求之间需要调整的部分。
7月16日周四
  1. Google DeepMind:Blog36

    Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,防范 AI 滥用并支持疫情防控

    Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,从防范、检测、响应三方面应对 AI 相关的生物安全风险。过去 12 个月已与政府机构、生物安全组织和研究团队推进超过 15 项合作,并探索将 SynthID 水印适配到生物领域,帮助 DNA 合成服务商筛查有潜在风险的 AI 生成序列。

    决策要点

    前沿 AI 实验室正把生物风险管理做成攻防并用的长期机制,AI 被同时当作风险源和防御工具来治理。

    • 影响生物医药与合成生物企业会面对更普遍的 AI 生成序列筛查要求;能否进入可信伙伴名单将影响借前沿模型加速疫苗和药物研发的渠道;这类合作以政府和公共卫生机构为节点,单独接触前沿模型的路径有限。
    • 参考涉及 DNA 合成、病原测序或疫苗研发的企业可考虑先梳理自身业务中的双用途环节,对齐筛查流程;研发团队值得评估申请成为可信合作方的门槛与周期,再决定是否投入资源。
10月15日周二
  1. Anthropic:Newsroom49

    Announcing our updated Responsible Scaling Policy

    Anthropic 发布负责任扩展政策(RSP)的重要更新,把安全防护从原则承诺改为按模型能力阈值触发升级的机制。新框架设定自主 AI 研发与 CBRN 武器协助两大能力阈值,触发后分别要求 ASL-4 或更高、ASL-3 标准防护,目前其所有模型运行在 ASL-2。

    决策要点

    Anthropic 把安全承诺细化为按模型能力触发防护升级的分级治理机制,并主动披露执行中的未达标情况,为 AI 风险治理提供了可参照的操作样本。

    • 影响头部厂商的风险治理正从原则声明走向可核查的分级机制,企业在模型选型与合作谈判中可要求对方说明防护等级与评估结论;前沿模型能力逼近阈值时可能带来更严部署限制与安全成本。
    • 参考可考虑在模型采购评估中增加对厂商安全治理框架的问询项,如防护等级、能力评估频率与红队流程;也值得参照能力阈值思路,为内部 AI 应用的风险分级列出清单。