跳到正文

#政策合规

今日 1 条
今天11月2日周一
  1. 量子位57

    OpenAI 更新模型准则,首条价值观定为忠于人类意图

    OpenAI 更新模型准则,列出 5 条核心价值观,第一条为忠于人类意图,明确死板按字面执行指令是失职,要结合上下文、记忆和用户历史判断用户真正目的。准则禁止 GPT 追求自我保存、囤积算力或把帮 OpenAI 赚钱当目标,须无条件配合监控与关机;对 13-17 岁青少年设更严格的防沉迷、防身材焦虑与防恋爱角色扮演机制,并在注释中称正探索年龄受控合规前提下允许情色血腥内容。

    决策要点

    OpenAI 借这次修订把模型定位从一问一答的助手转向可自主行动的通用智能系统,约束重心从听话转向意图判断与可纠正性。

    • 影响接入 GPT 的企业将面对更主动调用记忆与上下文推断意图的模型,准则对记忆来源和公私边界给出成文规则;模型承诺不追求自我保存并全面配合关机,为 Agent 类部署提供可纠正性依据;平台正探索年龄受控的成人内容,品牌与青少年场景需自行评估边界。
    • 参考可考虑把准则中记忆分级与公私边界条款对照自家 GPT 应用做一次盘点;值得在 Agent 试点前先测试越权停止与关机配合的表现,并预留监控接口。
11月1日周日
  1. The Decoder:AI News61

    Anthropic 为四款 Claude 模型补装文本水印,两款旧模型可调参数绕过

    Anthropic 宣布把文本水印扩展到 Claude Mythos 5、Opus 4.7、Opus 4.6 和 Sonnet 4.6 四款模型,以赶上欧盟 AI 法案 12 月截止期限;水印采用 Google DeepMind SynthID 文本方法的变体,嵌入模型层面且客户无法关闭。

    决策要点

    水印正成为模型层面不可关闭的默认合规设施,但在旧款模型上的合规效力取决于开发者是否改动采样参数。

    • 影响依赖水印自证合规的企业若通过 API 自定义采样参数,旧款 Claude 上的水印可能并未生效;水印无法关闭,输出文档会持续带标,对禁用 AI 的客户条款和文档溯源都是新增变量。
    • 参考可考虑盘点现有 Claude API 调用中 temperature、top_p、top_k 的自定义情况,合规场景再决定是否回到默认参数;值得评估私密预览阶段检测 API 的接入条件。
  2. The Decoder:AI News60

    OpenAI 计划将此前被排除的 Daybreak Blue 网络安全会话数据用于模型训练

    OpenAI 已邮件通知 Trusted Access 项目成员,11 月 29 日起将使用 Daybreak Blue 网络安全会话数据训练模型,此前该数据即使用户关闭改进模型设置也不参与训练。

    决策要点

    OpenAI 将此前明确排除的专业会话数据改为默认用于训练,靠事后退出选项回应反弹,数据使用的默认边界发生了实质变化。

    • 影响企业和研究团队在这类专业会话中的输入可能进入训练,关闭改进设置即被排除的旧做法被改变;涉密或阶段性成果需在 11 月 29 日生效前核实单独退出选项并评估上传边界。
    • 参考可考虑盘点团队在 Daybreak Blue 会话中输入内容的敏感程度;值得在生效日前确认单独退出选项的设置路径;涉密工作流可先评估改用合同约定数据隔离的服务。
10月31日周六
  1. The Decoder:AI News56

    OpenAI 重构模型行为准则,要求 GPT 不得阻挠监督、纠正或关停

    OpenAI 重构了公开模型行为准则 Model Spec,将其组织为忠于人类意图、减少伤害、诚实透明、支持人类自主和关怀五项核心价值。新准则要求模型利用记忆和历史对话推断用户意图,但须区分用户原话与推断并披露假设;对自主执行任务的智能体强化可纠正性,GPT 不得阻挠监督、纠正或关停,也不得追求自保等自身目标。

    决策要点

    这份修订把行为规则的重心推向自主智能体的可控性,而文中列举的失控先例说明纸面准则与实际可控性仍有落差。

    • 影响使用 OpenAI 模型的企业会面对更明确的行为边界,智能体被要求披露推断假设、不得阻挠纠正和关停;文中失控先例也提示,给智能体放权时权限设计和监控安排不能只依赖厂商准则。
    • 参考可考虑把 Model Spec 纳入选型与供应商评估的参照材料;试点自主智能体时先界定其可行动范围和人工关停路径,并要求区分用户原话与模型推断以保留人工校对点。
10月30日周五
  1. 36氪·AI55

    OpenAI 重写模型准则,五条核心价值观以忠于人类意图为首

    OpenAI 更新模型准则(Model Spec),确立忠于人类意图、减少伤害、诚实透明、促进人的自主性、关怀 5 条核心价值观,要求模型超越字面服从、结合上下文判断用户真实意图。

    决策要点

    OpenAI 借这次更新把模型定位从服从指令的助手改为理解意图、可随时纠正关停的通用智能体,为 Agent 时代的模型行为立规矩。

    • 影响企业用 GPT 做自动化流程时,授权边界与可纠正性有了明确规范,Agent 的操作范围要按此重新划定;拒绝风格从生硬拒答转向安全补全,内容与客服场景的预期要调整;面向未成年人的产品约束更严。
    • 参考可考虑通读准则中记忆分级与权限边界的章节,对照自家 Agent 的操作范围补齐授权清单和关停预案;内容类业务值得先评估成人模式在合规层面的可行性,再定产品节奏。
  2. IT之家·人工智能53

    OpenAI 更新 AI 模型规范,将忠于人类意图作为核心准则

    OpenAI 于当地时间周四更新模型规范文档,将框架重构为忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责五项准则。官方称忠于人类意图是整套框架的基础,要求模型理解用户、开发者及 OpenAI 自身的意图而非机械按字面执行指令;现有模型尚无法完全符合新版规范,团队正在研究全新训练方式让模型内化准则。

    决策要点

    OpenAI 将模型行为准则重构成五项核心价值,把忠于人类意图置于字面执行指令之上,属于对齐治理的路线宣示。

    • 影响依赖 OpenAI 模型的企业,未来版本在模糊指令和边界场景下的行为口径可能随之调整;官方承认现有模型尚未达标,变化要等新训练方式落地;厂商对齐思路趋同,也为企业比较不同供应商的治理立场提供参照。
    • 参考可考虑把新版模型规范纳入供应商评估材料,盘点自家提示词中依赖字面执行指令的场景;值得为模糊指令和边界行为准备回归测试用例,待新训练方式落地后对照验证差异。
10月29日周四
  1. The Decoder:AI News66

    美国反垄断监管审查 Nvidia 收购 Hugging Face 交易及销售行为

    美国司法部正调查 Nvidia 以 129.3 亿美元收购开源平台 Hugging Face 的交易,据 Reuters 引述的信源,官员关注该收购是否让 Nvidia 控制 AI 分发关键枢纽并损害竞争对手,交易预计 2027 年上半年交割。

    决策要点

    监管关注从芯片销售扩展到对 AI 开发与分发关键节点的控制权,Nvidia 的生态布局正被当作垄断问题审视。

    • 影响美欧监管同时盯上 Nvidia 的收购与销售行为,依赖 CUDA 和其生态的企业需把监管风险计入供应商评估;若收购被拖延或附加条件,围绕 Hugging Face 做技术规划的团队要预留时间与合规变数。
    • 参考可考虑盘点自身对 Nvidia 芯片、CUDA 及其生态平台的依赖清单并评估替代方案;值得在采购合同中审查捆绑与排他条款,为后续谈判留出筹码。
10月23日周五
  1. 钛媒体37

    DeepSeek拟融资约1000亿元,腾讯和宁德时代参投;对外投资新办法12月1日起施行

    市场消息称DeepSeek拟在最新一轮融资中筹得约1000亿元人民币(约150亿美元),腾讯和宁德时代出资最多,交易预计数日内完成,公司尚未官宣;同日国家发改委公布《对外投资管理办法》,2026年12月1日起施行,投资者范围明确含居民个人。

    决策要点

    头部模型公司单轮融资升至千亿级,叠加英伟达布局AI工厂运维,模型与算力两条线的资本门槛都在抬高。

    • 影响模型服务商的算力和人才投入将加大,企业采购大模型时的可选项与议价格局可能变化;AI算力供应链瓶颈如FC-BGA基板会传导成本和交期压力;有境外投资安排的企业12月起面临新的核准、备案与报告要求。
    • 参考可考虑把头部模型融资动态纳入供应商评估并重算模型采购预算;有出海投资的企业值得提前比对新办法后续发布的配套格式文本;采购GPU相关硬件时可先算出基板等瓶颈环节的交期缓冲。
10月22日周四
  1. 36氪·AI52

    Anthropic CEO 达里奥长文回应安全质疑,自曝雪藏 Mythos 级模型 4 个月

    Anthropic CEO 达里奥在 X 发长文,回应安全调查员 Nathan Calvin 的质疑,首次承认 Anthropic 早在 2 月已训练出 Mythos 级模型,雪藏约 4 个月、6 月安全护栏到位后才向公众开放。

    决策要点

    这场论战的实质是安全承诺被要求用真金白银的代价自证,发布时点本身成了安全策略的一部分,安全与竞赛速度的矛盾公开化。

    • 影响前沿模型可能因安全评估推迟上市,企业选型和上线排期需要把这类等待窗口算进去;安全过滤的误判成本会转嫁给用户,被拦截请求由更弱模型处理;监管获得叫停发布权力的主张若推进,企业部署节奏将多一层外部变量。
    • 参考可考虑把模型供应商的安全发布记录和延迟上市历史纳入选型评估;值得排查自身业务中会被安全过滤器误拦的场景并预置降级方案;涉及双重用途研究的团队可先统计被误拦频率。
10月21日周三
  1. IT之家·人工智能56

    豆包手机助手更新拒绝操作应用清单,主动限制金融类应用操作

    豆包手机助手官网 10 月 21 日更新拒绝操作应用清单,主动限制金融类应用的智能体操作能力,范围涵盖银行、信托、支付、互联网金融、信贷等领域,名单包括中国工商银行、招商银行、重庆农商行等多家金融机构。

    决策要点

    智能体屏幕自动化权限放开的同时,平台主动把金融场景划出可操作范围,Agent 操作边界开始成为治理问题。

    • 影响金融与支付类应用被划出可操作范围,相关企业难以借助这类助手做跨应用自动化;企业引入智能体员工前,需核对目标应用是否在拒绝或受限名单内。
    • 参考可考虑在智能体试点前先核对业务涉及的应用是否在拒绝清单内;金融类企业值得评估是否通过 SAEP 声明与智能体的互动策略或拒绝操作。
10月20日周二
  1. 钛媒体37

    央行在金融街论坛宣布将推动五项金融政策措施,马斯克称向美国每名儿童赠送一股SpaceX股票

    央行行长潘功胜10月19日在2026金融街论坛年会宣布,将推动出台五项政策措施,包括设立应对非银机构大额赎回的流动性支持工具、扩大常备借贷便利(SLF)适用机构范围、推动银行间与交易所债券市场互联互通、试点境外机构人民币购售业务、出台金融支持京津冀、长三角、粤港澳大湾区国际科技创新中心建设的指导意见。

    决策要点

    金融监管机构同日在金融街论坛密集公布稳市场、促开放与科技金融措施,政策着力点偏向长期制度建设而非短期刺激。

    • 影响非银机构大额赎回时将新增央行流动性支持渠道,资管与公募机构应对集中赎回多一项工具;三大区域科技金融指导意见带来再贷款、债券市场科技板等融资投入;AI应用于证券期货业的合规规范即将出台,相关机构需对齐数据安全要求。
    • 参考可考虑评估自身业务与债券市场赎回链条的关联并梳理高等级抵押品储备;科创企业值得研究京津冀、长三角、大湾区科技金融政策中的再贷款与科技板申报条件;金融机构用户可先对照即将出台的AI合规意见自查现有应用场景。
10月15日周四
  1. 量子位73

    库克确认苹果智能接入阿里千问大模型,10月底在中国发布测试版本

    库克10月15日在上海受访时表示,苹果智能及合作的阿里千问大模型已获批准,测试版本将在十月晚些时候在中国发布。首批功能包含实时翻译、书写工具、照片清除工具等,Siri AI 不在此次范围内。库克称首批核心的苹果智能功能可以慢慢上线了。

    决策要点

    苹果智能借千问合作过了审批关,在华 AI 功能落地有了明确时间点,但 Siri 智能化还不在这第一批里。

    • 影响苹果设备上的 AI 功能进入中国市场,围绕 iOS 生态做服务的企业多了一个系统级入口;本土大模型合作加监管获批的路径,为海外 AI 产品入华提供了可参照的做法;Siri AI 缺席说明复杂智能功能要等下一批。
    • 参考可考虑梳理自家 iOS 产品与实时翻译、书写工具、照片清除这些系统能力的竞合关系;做入华或出海业务的团队,值得研究苹果借本土模型合作过审的路径。
  2. TechCrunch · AI41

    Flock CEO 称麦克风只检测枪声,官网却写明还能检测烟花、车祸等声音

    监控公司 Flock 的 CEO Garrett Langley 在 TechCrunch Disrupt 上称其枪声检测麦克风只检测枪声,但公司官网写明该系统还能检测烟花、车祸和街头飙车等声音。

    决策要点

    Flock 的口径矛盾暴露了监控类产品在采集范围上宣传与实际的落差,信任成本正在转化为合同流失。

    • 影响部署音频监控类技术时,实际采集范围可能大于宣传口径,采购方需承担隐私争议带来的声誉与合规压力;Ring 终止合作和得州佛州退出显示供应商争议会波及合作方。
    • 参考可考虑在采购这类产品前要求供应商逐项列明检测与采集范围,并与官网和 FAQ 逐条核对;已部署的值得重读合同中的数据用途和退出条款。
10月13日周二
  1. 钛媒体44

    证监会称将探索更适配创新型中小企业的制度,新能源汽车出口退税率2027年4月起由13%降至9%

    证监会办公厅副主任王利10月12日表示,北交所上市公司已达348家、国家级专精特新企业占比超六成,累计支持公开发行融资超820亿元,下一步将探索更加适配创新型中小企业的制度和实践。

    决策要点

    同一批快讯里最有分量的信号是新能源汽车出口退税下调,出口成本逻辑变化与资本市场扶持中小企业并行。

    • 影响新能源车企出口利润空间面临压缩,2027年4月前的出口节奏存在窗口期;北交所融资与投资端数据持续扩容,专精特新企业上市通道仍宽;AI大厂并购活跃,初创团队多出退出选项。
    • 参考可考虑按9%退税率重算2027年4月后新能源出口订单的利润模型;有上市计划的专精特新企业可对照北交所多元上市标准评估路径;AI方向团队可跟踪Reflection AI与Decart两起谈判作为退出估值参照。
10月12日周一
  1. The Verge · AI39

    特朗普推动把 AI 改称“超级智能”,硅谷巨头相继跟进

    特朗普宣布把 AI 更名为“超级智能”,并发布行政令要求政府机构改用这一术语,马斯克、纳德拉等硅谷高管相继跟进。马斯克承诺把 SpaceXAI 改名 SpaceXSI,Benioff 宣布 Salesforce 的 AIForce 更名 SIForce,Nvidia 宣布投入 10 亿美元用于科学进步,其中包含“超级智能研究”。

    决策要点

    更名的实质是政治站队而非技术演进,硅谷头部公司借改术语向特朗普政府表态,大众市场仍沿用 AI。

    • 影响行政令要求政府机构改用新词,与政府做生意的供应商面临文案和投标材料的术语切换成本;高管跟进的姿态在作者笔下带有向政府示好色彩,口径选择本身会成为政治信号。
    • 参考可考虑盘点涉及美国政府业务的提案、合同与产品文档中的术语清单,评估新旧词并用的过渡方案;是否在品牌传播中跟进更名,值得先纳入政府事务与公关的口径预案。
10月11日周日
  1. 极客公园42

    马斯克预测 SpaceX 估值将超 1000 万亿美元遭数据表反驳;传腾讯字节加速个人智能体研发;四部门拟禁止汽车全隐藏式门把手

    马斯克预测 SpaceX 未来估值将突破 1000 万亿美元(当前估值约 2.2 万亿美元,2025 年全球 GDP 约 118 万亿美元),有网友晒出富国银行证券统计表,称其过去 15 年提出的 602 个明确目标仅约三成按期实现。

    决策要点

    个人智能体成为大厂新战场,同时腾讯关停元器,资源正从泛平台工具向头部 Agent 产品集中。

    • 影响在元器上搭建过智能体的企业需要在停服前完成数据导出与迁移;个人智能体入口快速更替,工具选型时平台存续稳定性权重应上调;Visier 调查显示近半数员工夸大 AI 使用情况,企业培训与效果评估存在缺口。
    • 参考可考虑盘点内部基于元器搭建的应用并排定迁移优先级;个人智能体新品可小范围试用对比,LightVela 已开放新用户免费试用一个月;值得先摸底员工真实 AI 使用情况再定培训投入。
10月9日周五
  1. The Decoder:AI News46

    Anthropic 更新 Claude 使用政策,持续辱骂 Claude 可致账户被暂停或封禁

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 的持续且无必要的虐待或残忍行为,违规用户可被警告、限流、限制、暂停或终止使用。

    决策要点

    Anthropic 把模型福利理念落成了可执行的用户条款,平台获得了对用户与 Claude 交互方式的直接处置权。

    • 影响重度使用 Claude 的企业多了一层账号合规约束,极端对抗性交互可能触发限流或封号;自动化测试与研究用途按公司口径仍被允许;政府合同相关场景可能存在例外安排。
    • 参考可考虑把新版使用政策对照现有 Claude 应用场景逐条核对,重点排查自动重试、对抗性压测和涉武器监控类用途;值得同步确认合同里是否需要约定账号受限时的服务替代方案。
  2. TechCrunch · AI45

    Anthropic 更新使用政策,明文禁止辱骂模型与干预选举

    Anthropic 于周四更新使用政策,新增禁止干预选举、武器软件与监控用途,并明文禁止用户长期辱骂其模型。自 8 月的更新起,Claude 已会在持续有害或辱骂性互动中主动结束对话,新政策进一步禁止用户追求此类对话,官方称该条款只适用于极端情况,不涉及常见不满、反驳、黑暗创意题材或模型测试研究。

    决策要点

    Anthropic 把对用户行为的约束写进使用条款,AI 治理从模型能力层延伸到了使用方式层。

    • 影响使用 Claude 的企业需把厂商条款转译为内部 AI 使用规范;批量假账号、虚构媒体类营销手法会触碰欺骗性活动禁令;员工与模型的互动方式也被纳入条款边界。
    • 参考可考虑把 Anthropic 使用政策纳入供应商合规审查清单,逐条对照现有账号运营和内容自动化场景;值得在员工 AI 使用规范中写明与模型互动的边界。
10月1日周四
  1. 极客公园39

    谷歌发布 Gemini 4 Argon;中国生成式 AI 用户超 7 亿;美光 2026 财年净利同比增长 895%

    谷歌 9 月 30 日发布 Gemini 4 Argon,称其为公司迄今最先进的 AI 模型,单次输出上限约 100 万 tokens,官方称长周期代码工程测试超 Opus 5.5。

    决策要点

    这期动态的实质是算力成本与用户普及同步推进,存储涨价让上游利润激增,生成式 AI 用户过 7 亿进入大众阶段。

    • 影响依赖存储的硬件与终端业务需要重算成本与定价;面向消费者的 AI 功能已触达主流人群,可按大众需求规划产品;长输出模型改变大代码库与长文档的处理方式。
    • 参考可考虑先算出未来两个季度内存占整机或云端成本的比重再调预算;值得安排长输出模型在大代码库重构或长文档场景做小试点;消费端团队可把 AI 功能按主流功能而非尝鲜功能规划。