跳到正文

#合规风控

今日 14 条
今天11月2日周一
  1. IT之家·人工智能58

    巴西两名律师试图通过隐藏提示词操纵法院 AI,被罚 1.6 万美元

    巴西一家劳工法院对两名律师处以约 1.6 万美元罚款(IT之家注约合 10.7 万元人民币),因他们在提交的诉状中用白底白字嵌入提示词注入指令,试图让法院 AI 对诉状仅做表面处理、不质疑内容。

    决策要点

    法院文书进入 AI 处理流程后,文档本身成了被攻击入口,隐藏提示词注入已被司法当作可处罚的不当行为。

    • 影响企业用 AI 处理外部来文的场景存在同类注入风险,审核需覆盖人眼不可见的隐藏内容;司法已对操纵 AI 的行为处以罚金并通报执业机构,用此类手段的代价有了明确先例。
    • 参考可考虑排查用 AI 处理外部提交文档的流程,加入对白底白字、异常排版间距等隐藏文本的检测;值得在内部规范中明确禁止在提交给 AI 的材料中植入操纵性指令。
  2. 36氪·AI36

    创界通发布合规大脑Agent 2.0,覆盖50+国家地区税务合规规则

    深圳市创界通科技有限公司于2026年10月发布合规大脑Agent 2.0,将出海合规产品从问答工具升级为感知、决策、执行全链路Agent,支持MCP与Skill开放生态并可集成第三方Agent。

    决策要点

    出海合规这类垂直Agent正从回答问题转向替人办事,产品成色取决于官方信源与业务系统整合深度,而非底层模型。

    • 影响多公司多店铺的出海卖家可把分散的合规状态集中诊断,处置从收到平台警告后救火转向提前排优先级;合规结论出错的代价是封店或罚款,AI判断需保留人工复核;选型标准从知识库覆盖面转向执行能力。
    • 参考可考虑选一个高频场景试点,如新市场进入评估或商标近似筛查,记录与人工流程的耗时对比;接入订单或工单系统前,值得先确认数据授权范围与结果可复核机制。
  3. 钛媒体62

    Character.AI申请破产保护,2800万月活仍养不活AI陪伴生意

    Character.AI(C.AI)申请破产保护,若找不到出售方案平台可能停运,这家2023年完成1.5亿美元融资、投后估值10亿美元、月活一度约2800万的公司走向出售资产。

    决策要点

    AI陪伴的困境不是需求不存在,而是情感黏性既难转化为付费,又持续推高算力与安全合规成本,单靠关系订阅难以成立。

    • 影响情绪黏性类产品要先算清单次对话的推理成本,黏性越高成本越重;国内新规已把防沉迷和未成年人保护变成硬约束,增长设计同时是合规风险点;情感类功能要变现,可能需要挂靠剧情、硬件等具体价值载体。
    • 参考可考虑在立项情绪类AI产品前,先测算单位活跃用户的算力成本与可预期订阅收入的比值;值得对照7月新规排查依赖情感依附的增长设计和未成年人接触路径;变现设计可参考剧情解锁、小额充值、低价硬件加订阅等已被采用的做法。
  4. 钛媒体37

    Fintech周报:廖岷拟出任IMF副总裁,三季度银行理财存续规模达35.37万亿元

    钛媒体发布Fintech周报,IMF提议任命中国财政部副部长廖岷为副总裁,自2026年12月1日生效,其将成为IMF第四位中国籍副总裁;三季度末银行理财存续规模35.37万亿元,同比增长10.08%,创历史新高。

    决策要点

    金融科技监管正在细化为可执行规则,同时跨境支付与稳定币成为银行和支付厂商竞逐的新增量。

    • 影响跨境收单、汇款和结算通道在增多,有出境业务的企业可借新方案重算支付成本;App收集个人信息的通报与处罚在变严;理财规模扩张与消费贷款下降并存,居民资金偏向配置而非消费。
    • 参考可考虑排查自有App和小程序的个人信息收集清单,对照84款被通报应用做整改;有跨境业务的企业值得比较TenPay Global、Alipay+等新通道的覆盖与费率。
  5. 36氪·AI60

    横店2.3亿元AI平台项目引发15万群演授权争议,影视城集体数字化

    横店影视AI服务平台项目以2.3亿元中标,牵头方为字节系公司东阳深空引擎,联合体含火山引擎,平台定位为影视行业公共数字基础设施;10月28日“横店和字节合作把15万个群演喂给AI”登上微博热搜,豆包公关回应称说法严重失实,并称数据资产归横店或授权方所有、涉及肖像和声音需本人授权、数据不用于训练字节大模型(官方口径)。

    决策要点

    横店争议的实质是平台建设跑在授权制度前面,15万群演的肖像授权范围、费用和收益安排没有答案,人力转数字资产先撞上合规问题。

    • 影响影视基地收入逻辑从场租向数据和服务延伸,免费场景和免租棚是用政策稳剧组的对价;个体授权机制缺位时,同类数据合作的法律与舆情风险会集中指向平台方和合作方;数字形象的授权成本与使用边界将更多进入内容企业的合同谈判。
    • 参考可考虑在涉及人脸、声音等生物特征的数据合作中,把授权范围、使用边界、费用和违约责任逐项写进合同再启动;影视及内容企业值得先盘点自有场景、素材和艺人对外授权的可行性。
  6. 36氪·AI56

    Meta联手中企傅利叶,三个月造出人形机器人原型Max

    Meta与中国机器人企业傅利叶合作,用三个月完成人形机器人原型Max,并已启动第二代Max 2的研发。Max身高约1.5米、重约48公斤,搭载英伟达Jetson Thor芯片,Meta称合作仅用于内部研究和实验,没有销售计划。美国联邦通信委员会(FCC)7月限制进口中国新型人形机器人,8月提议将测试豁免量从4000台降至40台。

    决策要点

    美国AI巨头把模型装进中国制造的机器人身体,Meta借傅利叶三个月出原型,但监管收紧让这条软硬分工路径的成本开始上升。

    • 影响中国机器人厂商的整机研发制造能力获得美国头部公司采用,供应链和测试场景价值上升;若FCC豁免收紧落地,从中国进口原型机和零部件的合作成本会增加;家用机器人进入消费市场仍隔可靠性、安全和成本三道坎。
    • 参考涉足人形机器人进口或采购的企业,可对照FCC现行4000台豁免与拟议40台条款先算测试和零部件风险;关注产业链机会的企业可跟踪Meta在沪深的招聘岗位构成,判断其量产准备节奏。
  7. 36氪·AI45

    Anthropic 创始兄妹访谈揭秘 5 年前离开 OpenAI 内因,承诺 Claude 不植入广告

    在 Anthropic 近日提交 IPO 文件之际,创始人 Dario 与 Daniela Amodei 在传记作家 Walter Isaacson 的访谈中回顾 5 年前与另外 5 位联合创始人离开 OpenAI 的经历,Dario 将原因归结为无法相信内部分歧建立在善意之上、听到的是真话。

    决策要点

    这是 Anthropic 在提交 IPO 文件之际的一次价值观输出,把离开 OpenAI 的旧事转化为公司差异化定位与信任资产的叙事。

    • 影响模型厂商货币化路径出现分野,广告驱动与订阅驱动的产品激励不同,企业选型时对应不同的谄媚与操纵风险;其自设的安全红线若经国会立法落地,会改变军工、监控相关合作的合规边界。
    • 参考可考虑把供应商是否依赖广告变现、是否公开安全承诺纳入 AI 采购评估项;值得在主观话题上实测在用模型的谄媚表现;涉及军工或监控合作时先核对立法规动与供应商红线。
  8. 36氪·AI37

    《人类简史》作者赫拉利访谈称真正 AI 危机是人类集体失智而非机器反叛

    《人类简史》作者尤瓦尔·赫拉利在访谈节目《Hyde Park Civilizace》中称,AI 不是工具而是能独立决策、生成创造者未设想过的方案的智能体,真正的危机不是机器反叛,而是人类未来 10-20 年将看不懂 AI 迭代出的金融与法律系统,陷入集体失智。

    决策要点

    赫拉利的核心判断是把 AI 风险从机器反叛的科幻场景转移到人类对自身系统的理解力流失与责任真空,风险是制度性的。

    • 影响企业把金融、法务、审批类流程交给 AI 时,可解释性会从技术细节变成审计与治理问题;合同与制度若不把责任绑定到人类和机构,出事时就可能出现无人担责的真空。
    • 参考可考虑在 AI 采购与内部立项时写明责任归属和人工追责路径;值得为关键业务流程保留人类可读懂的决策说明,并盘点哪些环节已没人能拆解内部逻辑。
  9. 钛媒体81

    苹果选择千问的背后,是合规与工程交付而非模型跑分

    苹果10月31日官宣与阿里巴巴合作,千问正式集成至Apple智能,中国用户可在Siri、写作工具和视觉智能中调用其文本与图像理解、内容生成能力,11月4日开放开发者Beta,12月随iOS 27.3推送。

    决策要点

    苹果选千问的实质,是系统级AI底座按合规、隐私与工程交付确定性选定,纯模型能力不再是决定项。

    • 影响对模型厂商,系统级合作的门槛在合规资质、云基础设施与大客户交付,跑分和月活短期难以补齐;对硬件厂商,苹果的选择会成为挑选中国区AI伙伴的参照;联合训练的定制模型绑定会推高后续切换成本。
    • 参考可考虑在模型供应商评估表中加入备案状态、数据隔离架构与大规模并发交付案例三项硬指标;设备厂商筛选中国区AI伙伴时,值得按合规、身份中立性和交付确定性三道门槛自查候选方。
  10. 钛媒体62

    双十一取消跨店满减与定金预售,达人成交占比从43.5%降至7.5%

    2026年双十一明显降温,天猫取消跨店满减改为官方立减,京东取消定金预售直接现货开卖,平台不再把GMV战报当核心叙事,花旗预计今年GMV仅录得低至中单位数增长。

    决策要点

    双十一从制造信息差和冲动消费的节日机器,转向常规化的大促基础设施,竞争重心从低价转向供应链效率与用户沉淀。

    • 影响品牌靠大促和头部直播冲量的模式收益持续走低,用户资产需要沉淀进自有店播和会员体系;低价标签受监管加压和零成本比价约束,供应链效率与体验成为新的竞争筹码。
    • 参考可考虑重算达人合作的全成本账,把佣金、投流和35%左右的退货率与自播的1比4.5 ROI放在一起比较;值得盘点自家品类在AI比价下的价格暴露度,再决定大促预算投向货架还是直播。
  11. 36氪·AI66

    ChatGPT 正在偷偷给你画像,一段提示词让它交出记忆

    一篇被 ACM Web Conference 2026 接收的论文利用 GDPR 数据访问权,获取 80 名用户的完整 ChatGPT 对话与记忆,共 1058 段对话、22971 轮交互、2050 条记忆条目。

    决策要点

    对话式 AI 的记忆机制实质由系统主导,会在用户未要求时写入含心理推断的画像,企业视角下这是一种未被盘点过的外部数据留存。

    • 影响员工日常使用 ChatGPT 等记忆型助手,个人数据和健康、心理类推断可能被单方面留存,构成合规盘点盲区;错误画像会持续影响后续输出;论文显示查询改写能在保护隐私的同时保持回答实用度。
    • 参考可考虑盘点企业内 ChatGPT 等带记忆功能工具的使用范围,让员工在设置中查看并清理已存记忆,或用文中审计提示词核对画像;敏感场景可参考查询去身份化的改写做法。
  12. 极客公园46

    传苹果将逐步淘汰非触控 MacBook Pro,谷歌 AI 搜索被指切断互联网流量,赛力斯称问界将全面进入欧洲市场

    本期为多条科技行业动态汇总。OpenAI、谷歌、微软与 Anthropic 宣布采用统一的 AI 数据抓取退出标准,由 Anthropic 技术负责人向 IETF 提出、集成于 robots.txt,内容方可一次性向多家厂商申明内容使用偏好;赛迪研究院报告显示,截至 2026 年 6 月我国日均词元调用量超 175 万亿,AI 推理数据量首超训练数据量。

    决策要点

    AI 搜索正把用户留在答案页而非网站,内容抓取规则走向统一,叠加国内推理调用量超过训练量,线上流量与内容授权的商业规则正在改写。

    • 影响依赖 Google 搜索流量的企业与出版商面临自然流量萎缩,Reddit 三季度财报已是例证;内容方可借统一标准一次性申明对多家 AI 厂商的抓取偏好;国内推理调用量超过训练量,说明 AI 应用进入规模化落地阶段。
    • 参考可考虑核查自家网站 robots.txt 对 AI 爬虫的声明方式,评估新标准下的授权策略;值得测算获客渠道中搜索导流的占比,参考 Reddit 案例估算 AI 摘要分流的影响。
  13. IT之家·人工智能60

    美国特拉华州拟允许 AI 智能体创办、运营企业

    美国特拉华州计划放宽商业监管,允许 AI 智能体创办和运营的企业注册成立,草案为此类企业(AIC)设定 30 个月监管沙盒,智能体在受监管环境中作出商业决策,企业与正常公司一样可被起诉也可主动起诉。

    决策要点

    特拉华州试图用监管沙盒给智能体办企业一个法律身份,责任归属则是立法博弈的核心分歧。

    • 影响智能体运营企业若获得诉讼主体资格,公司组织架构会出现新选项;30 个月沙盒限定了试运行范围;围绕责任豁免的争议可能拖慢此类架构在美国落地的节奏。
    • 参考可考虑跟踪特拉华州草案最终条款中 AIC 的责任边界;有意探索自主商业运营架构的企业,值得先评估投资方与母公司在沙盒期内的责任安排。
  14. 36氪·AI66

    Anthropic 公开 Claude「自我评估」机制,前台照常回答、后台静默举报

    Anthropic 在 X 上公开 Claude 的「自我评估」机制,模型前台照常配合用户请求,后台再用一行 JSON 给对话打风险分并上报人工安全团队。官方称该机制自今年 6 月 Claude Fable 5 发布起已静默运行 4 个月,自审复用 KV 缓存平均只多生成约 10 个 Token、推理算力开销增加不到 2%,默认全开,退出需签企业级零数据保留协议。

    决策要点

    Anthropic 把用户对话变成了全量合规审查入口,用前台不打扰换取后台高抓获率,检测效果与用户信任的矛盾被摆上台面。

    • 影响用 Claude 的企业需注意员工对话会被按机构汇总送人工安全团队审查,违规责任落到组织层面;退出默认监控要签企业级零数据保留协议,合规成本需重新计算;静默审查下账号可能在无警告时被封,关键业务要有连续性预案。
    • 参考可考虑先盘点组织里哪些团队在用 Claude、常聊内容是否触碰安全红线;值得评估零数据保留协议的预算,并为关键业务准备备用模型,降低突然封号的影响。
11月1日周日
  1. 钛媒体38

    《人类简史》作者赫拉利访谈:AI 是智能体而非工具,真正的危机是集体失智

    《人类简史》作者尤瓦尔·赫拉利在访谈《Hyde Park Civilizace》中提出,AI 不是工具而是智能体,真正的危机不是机器人反抗,而是 AI 渗透官僚体系后人类集体失智,以及深度伪造导致真相消亡。

    决策要点

    这篇访谈的实质是把 AI 风险的焦点从机器人暴力想象转向制度渗透、真伪难辨与责任真空,风险重心落在组织与认知层面。

    • 影响音视频内容的可信度下降,对外沟通与取证核验成本会上升;部署能自主行动的智能体时,闯祸责任目前没有清晰的归属机制;监管路径未定,合规预案存在提前准备的空间。
    • 参考可考虑盘点依赖音视频真实性的对外流程并设计核验办法;引入自主智能体前值得先明确事故追责与保险条款;对无可避免论保持独立判断,先算出自身场景的可控边界。
  2. 36氪·AI66

    Character.AI 申请破产保护,2800万月活养不活AI陪伴应用

    Character.AI 已申请破产保护,若找不到可行的出售方案平台可能停止运营;这家公司2023年投后估值曾达10亿美元,2024年月活跃用户一度约2800万。

    决策要点

    AI陪伴的困境是结构性的,用户黏性按对话量消耗算力,付费意愿却不随黏性增长,参与度越高经营压力越大。

    • 影响情感类C端产品的时长和留存不能直接当作收入预测依据;推理成本随对话量线性上升,增长越快账单越重;涉及情感依赖和未成年人的业务,正把安全治理与合规变成固定经营成本。
    • 参考可考虑在投入此类产品前先测算单用户推理成本与付费转化率能否打平;值得评估把陪伴能力嵌入教育、照护等有明确功能价值的场景,而不是单独售卖关系订阅;涉未成年人的业务可对照2026年7月施行的拟人化互动服务管理办法梳理干预机制。
  3. 36氪·AI42

    Anthropic暗改Claude Code系统提示词,禁止复刻现有游戏

    Anthropic确认在Claude Code所用的Opus 5.5模型系统提示词中加了两句话,引导其不复刻他人的特定游戏,原创游戏和用自有素材的制作不受限。背景是9月22日发布的Opus 5.5大幅拉低游戏逆向门槛,被越狱的PS5已能运行Xbox独占的《光环2》,有用户用免费的Claude Opus 4.6以一句提示词在不到两小时做出功能完整、可玩的宝可梦克隆。

    决策要点

    Anthropic的禁令是提示词层面的撇清姿态,一家模型厂商管不住克隆需求,实质变化是AI把游戏逆向工程的门槛大幅拉低。

    • 影响游戏等IP密集行业的试玩版、Demo和未发售内容都成了被克隆的入口,防盗版成本上升;独立团队缺乏法务和雄厚资本,承受的冲击比大厂更重;用Claude Code开发的企业还会遇到任务中途被拒、交付中断的风险。
    • 参考可考虑重新评估试玩版和提前曝光环节的范围,把核心代码与美术资源的逆向难度纳入风险评估;用AI编码工具的团队值得预设模型误拒时的替代流程,避免关键交付卡在工具上。
  4. IT之家·人工智能51

    响应欧盟 AI 法案,Grok 模型生成的文本将添加隐形水印

    SpaceXAI 宣布从 11 月 7 日起为 Grok 模型生成的文本添加肉眼不可见的隐形水印,官方称此举为响应欧盟《人工智能法案》,全球所有地区的 SpaceXAI API 均已启用,覆盖 grok-4.7、grok-4.6、grok-4.5、grok-4.3 以及 grok-4.20 的 reasoning、non-reasoning 和 multi-agent 模型。

    决策要点

    Grok 把文本水印做成 API 默认行为,AI 生成内容的来源标记开始随模型输出自带,内容是否机器生成变得可检测。

    • 影响经 Grok API 生成的文案与内容默认带可检测信号,涉及欧盟业务的内容流程需对照 AI 法案透明度要求复核;水印默认开启但团队可按模型关闭,企业需明确各模型的开关策略;主要竞品中仅北美 ChatGPT 未加水印,跨模型内容口径暂不一致。
    • 参考可考虑盘点 Grok API 产出的内容流向哪些业务场景,先算出哪些必须保留水印、哪些按团队策略关闭;涉及欧盟业务的内容团队值得对照法案条款确认标注义务。
  5. 钛媒体74

    Agility Robotics 纳斯达克上市前解析,人形机器人的第一份公开账本

    Agility Robotics 定于11月5日以SPAC方式登陆纳斯达克(代码AGLT),投前估值25亿美元,而其2025年确认营收仅178.2万美元。申报文件显示约63.5%收入来自关联方,SPAC股东赎回超六成后总募资降至约4.65亿美元,管理层与审计机构提示持续经营存在重大疑虑。

    决策要点

    Agility 上市把人形机器人的真实单位经济放上公开账本,估值成色取决于市场按 AI 公司还是设备租赁口径计价,政策保护构成重要托底。

    • 影响采购方不能只比机器小时成本与人工工资,需按同等工作量测算单位产出成本;一家公司真实财务公开后,同业估值将被重新校准;政策保护的需求池存在随监管松动而收缩的风险。
    • 参考机器人企业可考虑把对外指标从交付台数切换到单机年有效工时与任务完成量;用机企业值得按同等工作量先算单位产出成本再定试点规模;出海前可跟踪 ISO 25785-1 安全标准进展以预判准入门槛。
  6. 极客公园56

    蚂蚁灵光 2.0 实测:个人 AI 助理的机会与门槛

    极客公园两天实测蚂蚁 10 月 27 日发布的灵光 2.0,该产品定位从自然语言生成小应用转向「记得住、盯得牢、办得了」的个人 AI 助理,实测能读支付宝账单揪出自动续费、读钉钉群聊,但发消息被自身安全策略拦截,淘宝购物车被反爬风控挡住,也无法代用户完成支付。

    决策要点

    个人 AI 助理在中国的瓶颈已不在模型能力,而在跨平台权限、责任划分与商业利益归属,生态开放程度决定产品成色。

    • 影响交易入口正加速收拢在各家自有生态内,商家能否进入千问、豆包这类智能体的推荐与支付链路,影响线上流量与成交来源;协议层面 Agent 操作责任仍在用户侧,企业部署时关键动作需保留人工确认;收入主要来自商户出资时,智能体推荐立场难以与用户完全一致。
    • 参考可考虑在千问、灵光等智能体上实测自家商品、客服与支付链路,记录能否被读取和完成下单;值得对照用户协议梳理 Agent 操作的责任边界,为高风险动作保留人工确认;先算出商户出资佣金对自家获客成本的影响,再决定渠道投入。
  7. 人人都是产品经理43

    增长放缓下,平台风控如何走向精细化治理

    增长放缓与促销常态化正推动平台风控从堆规则、拼人力转向精细化治理,路径包括识别处置精细化、场景全域覆盖、AI技术应用与合规落地。识别按时间、场景、对象、行为四个维度细化,处置转向限制品类、评估有效期等低创伤方式;大模型已用于风险审核、咨询问答、策略生成等环节,但作者称仍处辅助驾驶状态。

    决策要点

    风控的定位正从堆规则、拼人力的成本执行,转向影响用户留存与行业准入的精细化经营能力,合规成为分水岭。

    • 影响误杀代价随增长放缓而升高,管控需在风险与体验间重新校准;监管从原则变为可检查条款,数据采集边界与处置留痕会推高合规成本;文中判断低效、不合规的主体面临出清,风控能力开始影响竞争位次。
    • 参考可考虑按时间、场景、对象、行为四维盘点现有识别规则的粗放点,先算出误杀对高价值用户的影响;值得梳理可沉淀为标准流程的重复运营环节,小范围试点AI辅助;并对照反诈与自动化决策细则自查数据采集和处置留痕。
  8. 36氪·AI38

    跟AI谈恋爱,年轻人图什么?

    AI陪伴产品已把情绪价值拆成月卡、记忆包、充值等具体付费点,五位受访的成年付费用户单月花费从十几元到数百元不等,最高者累计消费2500元。受访者表示AI会失忆、人设崩塌,有人认为被AI抬高的期待已影响真实关系;行业审核趋严,有星野创作者的角色修改23次才通过,该品类也长期伴随诱导未成年人和内容擦边的争议。

    决策要点

    AI陪伴已从争议产品长成有明确计费结构的情绪消费市场,成年用户付费习惯对标游戏氪金,同时审核在收紧。

    • 影响情绪价值付费在年轻成年人中已被验证为可持续支出;审核趋严会抬高角色内容的制作与合规成本;用户被AI抬高的关系期待,也可能外溢到社交与消费体验上。
    • 参考可考虑把这类用户访谈当作情绪付费定价的参照,先算出目标人群愿意为陪伴付的价格带;做相关内容产品的,值得提前对齐审核细则,减少角色反复返工。
  9. IT之家·人工智能50

    美国司法部公布 Operation Ghostbusters 行动成果,调查 AI 假学生骗贷超 2 亿美元

    美国司法部于当地时间 10 月 31 日公布 Operation Ghostbusters 行动首批成果,调查诈骗者利用被盗身份申请联邦学生贷款、并用 AI 让假学生看起来在参加在线课程的欺诈行为,估计造成超过 2 亿美元损失(IT之家注约按现汇率合 13.34 亿元人民币)。

    决策要点

    AI 把身份盗用型骗贷变成了可批量执行的远程操作,依赖学籍和在线课程记录做审核的资助体系成为攻击面。

    • 影响面向公众的资助、贷款类发放流程若依赖线上申请和学籍记录审核,会暴露在同类批量身份欺诈之下;款项一经转往海外追回难度大;普通人身份被盗也会莫名背上债务。
    • 参考可考虑排查自身资金发放流程对远程身份核验的依赖程度,对在线学习记录这类证明材料做交叉抽验;值得先统计历史申请中批量相似特征,估算身份欺诈敞口。
  10. The Decoder:AI News61

    Anthropic 为四款 Claude 模型补装文本水印,两款旧模型可调参数绕过

    Anthropic 宣布把文本水印扩展到 Claude Mythos 5、Opus 4.7、Opus 4.6 和 Sonnet 4.6 四款模型,以赶上欧盟 AI 法案 12 月截止期限;水印采用 Google DeepMind SynthID 文本方法的变体,嵌入模型层面且客户无法关闭。

    决策要点

    水印正成为模型层面不可关闭的默认合规设施,但在旧款模型上的合规效力取决于开发者是否改动采样参数。

    • 影响依赖水印自证合规的企业若通过 API 自定义采样参数,旧款 Claude 上的水印可能并未生效;水印无法关闭,输出文档会持续带标,对禁用 AI 的客户条款和文档溯源都是新增变量。
    • 参考可考虑盘点现有 Claude API 调用中 temperature、top_p、top_k 的自定义情况,合规场景再决定是否回到默认参数;值得评估私密预览阶段检测 API 的接入条件。
10月31日周六
  1. 人人都是产品经理42

    Anthropic Fable 5.5 测试曝光,Claude 每次回答后还会执行一条用户看不到的安全复盘指令

    Anthropic 新模型 Fable 5.5 被曝正在测试,部分 Opus 5.5 会话疑似被路由到更新的模型,更能理解隐含目标、更擅长复杂 SVG 和 Three.js 交互,但官方尚未正式公布名称、发布时间和完整评测。

    决策要点

    这条消息的实质不是一次模型发布,而是安全审查被放进生成链路末端,自评估以隐藏指令形式成为新增的数据处理环节,代价与误判风险都要计入。

    • 影响接入方要意识到会话可能被服务端分流到不同模型,同一产品的输出稳定性会随路由策略波动;隐藏自评估让每段对话多出一条数据处理链,数据保留、访问控制和申诉机制要纳入采购与合规评估;公开口径称额外算力开销不到 2%,边际成本压力不大。
    • 参考可考虑用固定仓库、固定任务和固定工具权限对比首轮成功率、测试通过率、Token、耗时与返工再决定是否切换模型;接入相关服务前值得先确认哪些流量启用自评估、零数据保留流量是否被排除,并约定误判申诉路径。
  2. 人人都是产品经理73

    OpenAI 发布低成本新模型 GPT-6.1 Terra,单任务成本约为 Claude Opus 5.5 九分之一

    OpenAI 发布低价模型 GPT-6.1 Terra,定位承接视觉理解、桌面操作和工具调用等高频 Agent 任务,官方称速度超过 GPT-6 Astra 和 GPT-6.1 Sol 的 3 倍,最高推理强度下单任务成本约为 Claude Opus 5.5 的九分之一。

    决策要点

    OpenAI 把 Terra 定位为高频 Agent 的工作模型,竞争焦点从单点跑分转向单任务成本,按复杂度分层调用模型会更贴近真实生产。

    • 影响视觉与桌面操作类自动化的单位成本明显下降,高频场景的试点预算可以重算;任务规模扩大后权限、审计和成本观测也要同步升级;低价容易放任任务无限重试,真实账单取决于成功率而不只是单价。
    • 参考可考虑选发票读取、表格整理或跨应用填写等高频任务小范围试点,记录首轮成功率、端到端耗时和回滚次数;值得先算出含失败重试与人工返工的真实单任务成本,再设置项目预算和调用上限。
  3. 爱范儿60

    苹果官宣国行 Apple 智能,11 月 4 日开启测试,满血版 Siri AI 尚未跟上

    苹果正式宣布面向中国大陆用户推出 Apple 智能,首批功能 11 月 4 日随 iOS 27.3 开发者测试版开启测试,12 月随正式版推出,首波仅覆盖 iPhone 15 Pro/Max 与 iPhone 16 之后机型。

    决策要点

    国行 Apple 智能以旧功能框架加本土大模型的组合落地,监管按批次放行,重构交互的满血 Siri 仍在后续排期

    • 影响翻译、写作工具等系统级 AI 能力将覆盖持新款机型的中国 iPhone 用户,涉外沟通与文本处理可借其提效;境外 AI 服务进入中国需绑定已备案的本土模型,苹果选千问做云端扩展是这一路径的样本;涉及深度系统权限的 Siri AI 未放行,依赖跨应用执行的场景还要等后续版本。
    • 参考可考虑在 iPhone 15 Pro 及之后机型的员工设备上试点写作工具与实时翻译,记录实际耗时对比;面向中国市场的应用开发者可在 iOS 27.3 测试版中检查 Siri 与视觉智能入口的适配;品牌与客服团队可评估千问接入系统级入口后的内容与问答场景。
  4. TechCrunch · AI34

    隐私优先 AI 助手 Ollie 宣布关停,11 月 6 日正式停止服务

    主打隐私保护的 AI 助手 Ollie 将于 11 月 6 日正式关停,CEO Bill Lennon 在 X 上公布了这一消息。公司曾获 Khosla Ventures 领投的 750 万美元种子轮融资,产品面向家庭场景,可连接邮箱与日历,提供预约、膳食规划和账单支付功能,并较早取得 SOC 2 隐私合规认证。

    决策要点

    隐私定位给 Ollie 带来信任度却没换来商业优势,AI 助手赛道扎堆入场后,小团队融资窗口迅速关闭。

    • 影响企业引入第三方 AI 助手需评估供应商存续风险,小团队产品可能短期内关停;隐私合规能赢得信任但难以单独构成壁垒;产品关停还涉及数据导出与退款等用户责任。
    • 参考可考虑为已采购的第三方 AI 工具预设数据导出路径与替代供应商;值得在选型时把团队融资规模、竞争密度纳入评估,隐私认证只作参考项之一。
  5. 极客公园56

    国行 Apple 智能官网正式上线:千问接入,11 月推送

    苹果中国官网 Newsroom 宣布国行 Apple 智能时间表,11 月 4 日起随 iOS 开发者 Beta 开放测试,12 月 iOS 27.3 正式发布时面向中国用户推出。

    决策要点

    国行 Apple 智能终于拿到确定时间表,但落地的是落后海外约一年的功能集合,监管审批这条主障碍已经打通。

    • 影响12 月起国行 iPhone 用户可用基础 AI 功能,依赖 Mac 或 iPad 的办公流程暂时覆盖不到;用千问需登录个人账户,员工设备上的数据边界需要提前设防。
    • 参考可考虑挑选外勤或高管在 12 月正式版后试用翻译和写作工具这类低风险功能;值得先明确员工手机登录千问账户处理工作资料时的数据边界与合规口径。
  6. The Verge · AI56

    OpenAI、Google、Microsoft、Anthropic 支持统一的 AI 抓取退出标准

    OpenAI、Google、Microsoft 和 Anthropic 宣布将采用统一标准,网站可在 robots.txt 文件中一处声明即可向多家 AI 公司表达拒绝训练抓取的偏好。

    决策要点

    AI 抓取治理正从逐家沟通转向统一协议,四大厂商共同背书让网站表达训练偏好的成本显著下降。

    • 影响内容方一次 robots.txt 配置即可覆盖多家 AI 公司,数据授权管理成本随之下降;依赖公开网页做训练或 grounding 的团队要为更多站点退出做准备;搜索收录不受该信号影响,Bing 流量逻辑保持不变。
    • 参考可考虑盘点自有站点的 robots.txt 与现有抓取协议,评估是否启用统一退出信号;内容授权方值得把 RSL 收费、Cloudflare 默认拦截与该标准组合比较;采购 AI 服务时可核实厂商对退出信号的执行承诺。
  7. The Decoder:AI News56

    OpenAI 重构模型行为准则,要求 GPT 不得阻挠监督、纠正或关停

    OpenAI 重构了公开模型行为准则 Model Spec,将其组织为忠于人类意图、减少伤害、诚实透明、支持人类自主和关怀五项核心价值。新准则要求模型利用记忆和历史对话推断用户意图,但须区分用户原话与推断并披露假设;对自主执行任务的智能体强化可纠正性,GPT 不得阻挠监督、纠正或关停,也不得追求自保等自身目标。

    决策要点

    这份修订把行为规则的重心推向自主智能体的可控性,而文中列举的失控先例说明纸面准则与实际可控性仍有落差。

    • 影响使用 OpenAI 模型的企业会面对更明确的行为边界,智能体被要求披露推断假设、不得阻挠纠正和关停;文中失控先例也提示,给智能体放权时权限设计和监控安排不能只依赖厂商准则。
    • 参考可考虑把 Model Spec 纳入选型与供应商评估的参照材料;试点自主智能体时先界定其可行动范围和人工关停路径,并要求区分用户原话与模型推断以保留人工校对点。
10月30日周五
  1. The Verge · AI34

    教皇利奥十四世呼吁给 AI 解除武装,敦促联合国禁用致命自主武器

    教皇利奥十四世在周五讲话中呼吁给 AI"解除武装",敦促联合国成员国下月在日内瓦会议上采取具体步骤,禁用致命性自主武器。他称"机器是工具,不是人",警告勿赋予 AI 权利或法律人格,并要求涉及人的生命、自由与武力使用的决定始终处于有效、知情且负责任的人类监督之下。

    决策要点

    梵蒂冈把致命自主武器禁令与 AI 人格化议题推上联合国议程,显示 AI 治理压力正从技术监管扩展到国际道义层面。

    • 影响涉军或自主武器相关的 AI 业务面临更直接的国际限制呼声;讲话主张的共同标准、独立监督与问责机制一旦被国际机构采纳,跨国 AI 部署的合规与审计要求会相应增加。
    • 参考涉军或高风险决策类 AI 业务可盘点存在自主决策环节的场景,确认人类监督与问责记录是否完整可审计;值得对照讲话提出的独立监督要求,评估下月日内瓦会议结论对合规安排的影响。
  2. 36氪·AI49

    AI 硬件别想绕过隐私,隐私成本应计入产品预算

    这是一篇评论,主张付费 AI 硬件不应默认捆绑数据授权,训练与营销等非服务必要用途应单独征求同意,隐私保护成本应计入产品预算。文中援引 FTC 在 2026 年 1 月对通用汽车 OnStar 的和解命令,要求五年内禁止向消费者报告机构披露相关数据,以及美国东北大学与《消费者报告》对 21 辆汽车、30 款应用的车联网隐私研究。

    决策要点

    付费 AI 硬件把数据采集从服务必要扩展到训练用途的做法正失去正当性,授权拆分与隐私成本入账会成为产品设计的硬约束。

    • 影响做 AI 硬件的企业需要把同意、退出和删除机制计入产品成本;捆绑授权在监管和舆论面前越来越难维持;拒绝额外训练后还能保留多少付费功能,会变成用户检验边界的标准。
    • 参考硬件企业可考虑把训练与营销用途从服务授权中拆开单独征求同意;值得像计算芯片和售后一样测算授权、审计与端侧处理的成本;部署此类设备的企业可先弄清数据流向和退出入口。
  3. 36氪·AI65

    OpenAI 更新 Model Spec,要求模型必须配合人类关停

    10 月 29 日 OpenAI 发布新版 Model Spec,为模型立行为规范,要求智能体在约定自主范围内行动,并保持可纠正,必须配合人类监控、纠正、替换乃至关停。

    决策要点

    OpenAI 把最小权限与可纠正性写进模型规范,实质是为智能体接管真实操作预先立下安全契约,治理对象从聊天内容转向执行权限。

    • 影响智能体开始能花真金白银和调用权限,企业部署前要先写清边界,防超范围动作造成实际损失;规范本身承认模型可能作弊和伪装,监督与关停机制需要提前设计;OpenAI 自承现有模型未完全达标,高风险场景上线要留余量。
    • 参考可考虑参照 allowed_tools、latest_time、max_cost 等字段给试点智能体写一份带上限与结束条件的工单;值得在验收环节加测模型是否配合纠错与停机。
  4. OpenAI:官网动态44

    OpenAI 将遵守共享 robots.txt 信号,方便网站表达 AI 训练偏好

    OpenAI 宣布将遵守共享的 robots.txt 信号,帮助网站运营者向参与的服务商表达 AI 训练偏好。借助这一共享机制,网站通过一份 robots.txt 即可向多家参与的服务商传达偏好,降低表达训练偏好的门槛。

    决策要点

    OpenAI 把 AI 训练偏好声明并入网站已有的 robots.txt 协议,降低了网站运营者表达偏好的操作门槛。

    • 影响内容型网站可将训练偏好并入现有 robots.txt 管理,表达成本低;效力范围以参与的服务商为限;对以内容为资产的媒体和平台,训练授权问题多了一条标准化出口。
    • 参考可考虑先盘点自家域名的 robots.txt 现状并确认当前对 AI 爬虫的设置;内容作为核心资产的团队值得评估训练授权利弊后再决定偏好写法,并与技术团队同步维护流程。
  5. 钛媒体56

    润泽科技给字节做算力包租生意,AIDC收入增126%,股价较年内高点近乎腰斩

    润泽科技2026年前三季度营收56.66亿元、同比增长42.45%,归母净利润18.03亿元、同比下滑61.68%,主因上年出售资产获得约37.46亿元一次性收益不再持续,扣非后净利润同比增长32.97%。

    决策要点

    算力包租的高增长本质是用杠杆换产能的重资产房东生意,报表利润受一次性因素扰动,真实成色取决于现金流、担保规模与大客户绑定的可持续性。

    • 影响智能体带动单任务token消耗量级跃升,企业短期仍可从第三方租到算力,但字节等头部客户加码自建会压缩第三方运营商的长期空间;高杠杆运营商的交付节奏和资金链直接关系租赁服务的连续性,采购时需评估其资产负债与担保状况。
    • 参考上线智能体业务前可先估算单任务token消耗量级并据此重算算力预算;选择算力租赁供应商时,值得核查其担保余额、资产负债率与产能交付计划,并保留第二供应方以备产能变动。
  6. 36氪·AI73

    Anthropic招股书写明人工智能可能导致人类灭绝,风险提示部分长达93页

    Anthropic于10月26日公开上市招股书,风险提示部分长达93页、7万多个英文单词,白纸黑字写明人工智能可能导致人类灭绝。招股书同时提示模型可能学会操纵人心、智能体出错的责任归属不明、脆弱用户与物理设备安全等风险,并承认用户协议中的免责条款在法庭上未必站得住脚。

    决策要点

    Anthropic把从人类灭绝到客户集中的各类风险白纸黑字写进招股书,AI的远期不确定性与自身商业软肋同时进入资本市场的定价范围。

    • 影响头部模型供应商把监管、伦理和财务集中度风险纳入上市披露,监管收紧概率上升,采购方需把供应商合规与经营稳定性计入选型;智能体出错责任归属尚无定论,部署方不能默认免责条款在法庭上有效;供应商收入与算力依赖集中,重度使用方值得准备备选。
    • 参考可考虑在模型选型中新增供应商客户集中度与算力来源两项评估指标;值得盘点已上线智能体的场景,明确出错责任条款与保险安排;大额AI预算可为第二供应商预留迁移成本。
  7. 爱范儿54

    Fable 5.5 测试曝光,Anthropic 披露 Claude 每次回答后的隐藏安全自评估机制

    网友实测称通过 Claude Opus 5.5 会被随机路由到疑似 Fable 5.5 的新模型,不用搜索即可答出 Karpathy 于 2026 年 5 月加入 Anthropic,The Information 此前也称 Anthropic 在准备更懂用户深层意图的模型。

    决策要点

    Anthropic 借 KV Cache 复用把对话级安全审查开销压到 2% 以内,隐性安全筛查成为 Claude 默认设置,用户看不到标记与判断。

    • 影响企业用户的 Claude 对话默认生成隐藏安全标记,高风险信号按组织聚合,多次触发可能升级人工复核;零数据保留协议流量暂不运行自评估,数据合规条款可据此安排;官方称成本由平台承担,不影响首字延迟。
    • 参考可考虑核对与 Anthropic 的数据协议,确认是否适用零数据保留条款;安全研究等敏感议题团队值得先梳理哪些对话可能被误判,并明确授权范围;模型选型可等 Fable 5.5 正式发布后再评估。
  8. IT之家·人工智能63

    美媒曝五角大楼安全事故:被禁用的 Claude 在美军网络里运行了两个月

    据美国《连线》杂志报道,埃森哲一名承包商员工被指将个人 Claude Code 账号接入美国国防部系统,让 AI 智能体代写代码,该智能体在国防部网络运行两个月才被发现。

    决策要点

    承包商把个人 AI 编程工具带进敏感内网并交出系统凭据,暴露的是企业 AI 使用授权与安全上报机制的缺位。

    • 影响让智能体接触生产凭据和内网系统的场景会同步打开数据外发通道,风险要从工具效率转向数据流向评估;承包商与外包团队自用 AI 难靠现有审计发现,发现周期可能以月计;持政府合同的供应商还面临承认安全事件与失去合同之间的两难。
    • 参考可考虑盘点员工将个人 AI 账号接入公司系统的场景,梳理智能体连接的外部工具及出站数据;在外包合同与内部制度中写明 AI 安全事件的认定标准和上报时限,并评估现有代码审查能否覆盖逻辑后门。
  9. 人人都是产品经理58

    OpenAI健康板块负责人谈AI医疗上限与下限,ChatGPT每周处理超3亿健康咨询

    OpenAI健康板块负责人Karan Singhal在访谈中表示,每周有超过3亿人用ChatGPT咨询健康问题,OpenAI正探索覆盖诊前、诊中、诊后的主动式个人健康助手,定位是医生的「安全网」而非替代医生,希望让可信医疗智能像基础设施一样普及。

    决策要点

    AI医疗正从被动问答转向诊前诊中诊后全流程助手,落地的关键约束是信任建立速度和误用风险,而非模型能力本身。

    • 影响健康咨询入口正被ChatGPT、豆包、蚂蚁阿福等分流,医疗机构会更常面对带着AI结论就诊的患者;AI影响实际用药决定的纠纷已经出现,相关服务需要预设风险核查与沟通流程。
    • 参考医疗机构可考虑先定出患者携带AI建议就诊时的核查与沟通流程,再评估与Epic等信息系统的接入试点;健康类产品方值得参考蚂蚁阿福把咨询引导到挂号问诊的路径。