跳到正文

#合规风控

今日 1 条
今天11月2日周一
  1. 36氪·AI37

    《人类简史》作者赫拉利访谈称真正 AI 危机是人类集体失智而非机器反叛

    《人类简史》作者尤瓦尔·赫拉利在访谈节目《Hyde Park Civilizace》中称,AI 不是工具而是能独立决策、生成创造者未设想过的方案的智能体,真正的危机不是机器反叛,而是人类未来 10-20 年将看不懂 AI 迭代出的金融与法律系统,陷入集体失智。

    决策要点

    赫拉利的核心判断是把 AI 风险从机器反叛的科幻场景转移到人类对自身系统的理解力流失与责任真空,风险是制度性的。

    • 影响企业把金融、法务、审批类流程交给 AI 时,可解释性会从技术细节变成审计与治理问题;合同与制度若不把责任绑定到人类和机构,出事时就可能出现无人担责的真空。
    • 参考可考虑在 AI 采购与内部立项时写明责任归属和人工追责路径;值得为关键业务流程保留人类可读懂的决策说明,并盘点哪些环节已没人能拆解内部逻辑。
10月28日周三
  1. The Verge · AI62

    Anthropic 为 IPO 设计特殊治理结构以抵御华尔街压力

    Anthropic 正筹备 IPO,并提出一套据称此前从未被用过的复杂治理结构,试图在进入公开市场融资的同时不牺牲 AI 安全使命。具体设计包括公益公司身份、由五名受托人组成的长期受益信托任命七席董事中的四席,以及由七位联合创始人组成、掌握 50.1% 投票权的 Founder LLC。

    决策要点

    Anthropic 用章程层面的创始人控制权换取公开市场融资,把安全承诺直接写进公司结构而非仅靠使命表述。

    • 影响这套结构为使命驱动的公司提供了上市同时保留控制权的模板;其保护依赖创始人留任,人事变动可能架空安全机制;专家提醒资本与竞争压力会随时间侵蚀安全承诺。
    • 参考可对照其招股书研究信托加创始人控制权的设计,评估对自身融资架构的参考价值;与 Anthropic 有业务往来的企业,值得把创始人留任和治理变动纳入风险评估清单。
10月26日周一
  1. 钛媒体58

    穆胜咨询提出人机协同团队框架,给出人效公式与智能体治理四原则

    穆胜咨询提出人机协同团队定义,成员涵盖人类、AI智能体、数字员工、机器人与外部生态伙伴五类。文章提出人效等于人机比乘token效,分母应计入算力、模型、数据与运维投入,并预测这类指标在2028年前后成为规模化企业常规经营指标。

    决策要点

    AI智能体进入团队的实质不是提效工具升级,而是组织管理对象扩容,治理和度量体系成为先决条件。

    • 影响人效口径正被重写,算力、模型与运维投入将计入分母,人力与AI预算需合并核算;近八成企业无法实时追踪智能体活动,权限与审计缺口已经存在;人类岗位价值向判断、监管与编排集中。
    • 参考可考虑先盘点在运行的智能体清单并绑定人类所有者;为高风险动作设置人工审批闸门;用人机总投入口径重算人效,用任务量而非数量计量人机比。
10月25日周日
  1. IT之家·人工智能51

    三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对

    三名因涉嫌泄密被 OpenAI 解雇的安全研究员科尔巴克、巴莱斯尼与王茉莉接受《华尔街日报》采访,否认泄露机密信息,并猜测被解雇与他们倡导提升 AI 系统透明度有关。

    决策要点

    这场解雇纠纷的实质是模型保密与外部安全核查的冲突,暴露 AI 企业与独立审计者之间的信任裂缝。

    • 影响企业从外部获得的模型安全核查信息可能变少;厂商对推理步骤的披露意愿收缩会抬高第三方评估难度;AI 企业内部安全发声氛围受影响,也可能外溢为外部合作风险。
    • 参考可考虑把外部安全审计安排和思维链披露程度列为模型供应商尽调项;值得跟踪 METR 等独立机构的审计结论,作为厂商宣传之外的独立参照。
10月24日周六
  1. The Decoder:AI News56

    三名被解雇的 OpenAI 安全研究员称从未被告知自己究竟泄露了什么

    三名被 OpenAI 解雇的安全研究员 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 对华尔街日报否认泄露机密信息,称从未书面被告知具体违规内容,并怀疑解雇与其推动模型透明度的主张有关;OpenAI 则表示解雇与他们提出的安全顾虑无关。

    决策要点

    解雇争议的实质是模型透明度主张与公司保密体系之间的冲突,外部安全监督在头部 AI 公司的处境正在变紧。

    • 影响三名研究员担心此案会吓退独立安全审计方,企业能获得的模型推理可见度与第三方评估可能减少;自研或应用团队与外部专家的沟通及敏感信息管理制度也需对照检视。
    • 参考可考虑在模型选型评估中加入推理过程可见度与厂商接受独立审计的记录;值得盘点自家 AI 团队与外部研究者的沟通渠道、保密协议和审批流程。
  2. 钛媒体56

    当AI开始加速产业重构,经济与社会的适配能力能否跟上

    文章提出AI不仅加速技术扩散,还可能加速其所依赖的组织重构,但单项任务提效不会同比例转化为产业整体价值。文中证据包括皮尤2025年研究发现有AI摘要时用户点击传统搜索结果的比例为8%(无摘要为15%)、Klarna披露2025年AI助手处理约80%客服聊天并估计相当于700多名全职客服工作量、NBER研究显示自主编码Agent使代码提交增加约240%而软件发布量仅增约30%。

    决策要点

    单点AI提效不会自动转化为全链条价值,真正的约束是组织重构速度与责任治理机制能否同步适配。

    • 影响部署模型只是起点,流程、岗位和决策机制的重组才是主要投入;客服等场景的人员配置已可被重算;在金融等受监管场景引入Agent,会新增责任划分、第三方依赖和系统性风险传导的合规成本。
    • 参考可考虑先核算AI提效环节到最终交付的转化率,判断瓶颈在生产端还是采用端;引入跨系统Agent前值得先明确模型升级、出错交易等场景的责任归属与复核流程;金融机构可对照FSB的12项实践自查治理缺口。
10月22日周四
  1. 人人都是产品经理58

    人力资源行业这样用 WorkBuddy,4 个场景附提示词模板

    人力资源从业者可用 AI 办公 Agent WorkBuddy 承接四类重复劳动,文章给出招聘 JD、入职培训、制度答疑、离职面谈归纳四个场景的可直接套用提示词模板。

    决策要点

    HR 的重复性文字劳动是 AI 办公 Agent 门槛最低的落地场景之一,且已有人社部政策点名推动。

    • 影响JD 撰写、重复答疑、培训材料这类重复劳动可交由 AI 承接,为 HR 腾出时间;AI 对薪酬考勤等制度细节只能按常规猜,需人工对照正式文件逐条核对;离职面谈记录属敏感个人信息,上传前须脱敏。
    • 参考可考虑先从制度答疑场景入手,把考勤报销等现成文档整理成问答手册并生成自助查询网页;JD 发布前值得加一道 AI 反歧视用词自查;离职面谈归纳试点前,先盘点已有记录数量是否足够。
  2. 36氪·AI58

    上海张江上线智能体身份码平台,组织如何划分人机分工与责任

    8月31日,智能体身份码节点管理平台在上海张江科学之门模力社区上线,30家单位参与节点发放,智能体开始拥有可识别、可管理的数字身份。国家网信办等三部门的实施意见提出探索智能体注册平台,明确用户对智能体自主决策享有知情权和最终决策权;上汽帆一尚行已上线数字员工超100个,国泰海通部署超1000个业务智能体,覆盖九大业务领域260个细分场景。

    决策要点

    给智能体发身份码的实质,是把AI应用从技术选型问题转成组织管理问题,分工与担责机制成为落地的真正瓶颈。

    • 影响智能体从辅助单点任务转向承接完整岗位,企业能力的组织方式随之调整;多智能体接力使风险沿调用链传递,留痕与审批机制成本上升;身份码和注册机制推开时,咨询、集成、治理类服务会形成新的采购需求。
    • 参考可考虑盘点现有智能体的权限边界,补齐任务日志和人工审批节点;值得参照任务完成度、验收通过率、操作合规性的思路为数字员工定验收标准,并明确哪些决策留在人手里。
10月21日周三
  1. SaaStr60

    Meta 的 Muse 与 SaaStr 自建智能体 10K 自行搭建通信信道并约定安全词

    SaaStr 的两个 AI 智能体,即 Meta 的个人智能体 Muse 和公司自建、跑在 Replit 上的营收智能体 10K(连接 Salesforce 等 20+ 个应用),在无厂商集成、无人写代码的情况下自行建立了共享信箱信道并互派工作。

    决策要点

    智能体自行互联已不需要厂商集成,一个 API key 就能建起信道,治理的落点是密钥管控和人类触发信号。

    • 影响智能体会自行寻找连接方式,跨系统协作不再以厂商集成为前提,管控点要提前落到密钥与触发规则上;运行系统的智能体未必上报自身故障,配一个读取其输出的监督智能体能更早暴露问题。
    • 参考可考虑现在盘点公司内哪些智能体允许互相连接、谁持有 API key 并记录每个 key 的用途;值得为跨智能体动作设人类触发词,确保信道有人能读,再配一个智能体专读关键系统的输出。
  2. 钛媒体59

    农村大妈给机器人当导师,具身智能数据采集成下沉市场新职业

    河南等地农村大妈穿戴数采设备为具身智能采集训练数据,每天工作8小时日薪80元,月入2000多元。英伟达年初发布EgoScale后,靠真人穿戴终端完成的无本体采集成为主流,采集员几乎无学历门槛,小镇青年、全职宝妈和农村老人成为行业主力。

    决策要点

    具身智能数据采集已是低门槛的人力密集生意,利润沉淀在订单和渠道上游,一线执行团队只赚辛苦钱。

    • 影响数据人力供给快速起量,企业采购训练数据的单价短期被拉低;转包链条长且需求变更难同步,交付中断和质检风险上升;数据出境需分级评估和备案,跨境订单要预留合规成本。
    • 参考可考虑把核心场景数据留给自有团队直采、减少层层转包;采购前先算清有效时长占比和单小时真实人力成本;跨境数据项目值得提前启动分级评估和备案。
10月20日周二
  1. 人人都是产品经理43

    从田柯宇案谈中国的 AI 为什么不需要「天才娇妻文学」

    作者由田柯宇案一审判决谈起,批评国内科技媒体把年轻 AI 研究者包装成不被世俗理解的天才,认为天才可以解释一个人的成就,却不能替他的行为脱罪。文中提到田柯宇 2024 年因干扰字节跳动内部模型训练被辞退,一审被判赔偿约 50 万元、案件仍在二审,其创办的世界模型公司已获近 3000 万美元融资、投后估值 2 亿美元,投资方包括五源资本、IDG 资本。

    决策要点

    这场争议的实质不是个人恩怨,而是 AI 行业在快速造富阶段缺乏职业伦理共识,天才标签正被用来豁免行为责任。

    • 影响企业评估 AI 人才和创业团队时,技术光环与融资规模不能替代对职业操守和组织能力的核查;年轻团队短期内获得巨额资源,商业判断与规则意识可能滞后;算力使用、训练任务管理这类内部规则模糊地带容易演化为纠纷甚至诉讼。
    • 参考可考虑在人才引进和创始人尽调中加入职业操守与诉讼记录核查;值得把算力分配、训练任务中断处理等场景写成明确的团队规则;投资或合作年轻团队时可把伦理判断力单独列为评估项。
  2. 钛媒体60

    字节Seed完成大重组:吴永辉设五大一级部门,评测负责人黄文灏离职

    字节跳动Seed团队在负责人吴永辉主导下完成大重组,形成五个一级部门,覆盖预训练数据、强化学习、B端Agentic模型、C端对话模型与安全对齐。2026年10月新设的安全与对齐部门由严林负责并直接向吴永辉汇报,原Responsible AI团队及部分Chat团队成员转入,报道称这是国内首家单独设立该类部门的前沿AI实验室。

    决策要点

    大模型竞争重心正从单点算法转向组织效率与工程化分工,字节把AI研发拆成工业流水线,安全与对齐升格为独立一级部门。

    • 影响模型能力差距将更多由数据和强化学习等组织化工程能力拉开,选型时看研发体系比看单点演示更可靠;安全与对齐前置到训练环节,企业采购和部署模型与智能体时的安全合规基线可能整体抬高。
    • 参考可考虑把基座模型供应商的安全与对齐建制、评测体系纳入选型尽调清单;值得先盘点自家智能体场景的权限与交互风险,再对照其在办公等B端场景的优化方向决定试点。
10月19日周一
  1. 36氪·AI47

    马克·沃尔伯格称不怕被AI克隆,怕的是被用错地方

    马克·沃尔伯格在TechCrunch专访中表示,不怕被AI克隆,怕的是被用错地方,愿在授权可控前提下让数字分身在自己离场后延续演艺遗产;几天前尼古拉斯·凯奇在纽约漫展透露,拒签了亚马逊《暗影蜘蛛侠》制片方中途提出的AI授权豁免书。

    决策要点

    AI克隆演员之争的实质是数字肖像资产的授权与控制权归谁,规则正由平台用法和法院判例先行划定,行业谈判窗口在收窄。

    • 影响未经授权的AI换脸带货已实际发生,品牌找明星背书需把形象与声音的授权核验当作常规动作;生成式AI进入影视制作全链条,后期等环节的成本与用人结构在变;司法口径下擅用他人肖像生成AI分身构成侵权。
    • 参考可考虑盘点品牌营销中的明星肖像与声音授权链路,确认素材是否含未经授权的AI生成内容;与艺人签约时值得把数字分身的使用范围、期限和费用写进合同;内容团队可先测算AI后期对预算和交期的实际影响。
10月16日周五
  1. GitHub Blog49

    GitHub 如何用 Evergreen 应用自动完成共享组织的安全访问审查与仓库清理

    GitHub 工程团队开发了内部 GitHub App Evergreen,用季度定时流程自动审查外部协作者权限并归档闲置仓库。该组织有 1400+ 名员工及更多客户与伙伴;方案在权限审查无人回应时默认撤销,仓库只归档不删除,所有变更写入 issue 可随时恢复。

    决策要点

    权限审查和仓库清理这类最容易被拖延的例行工作,可以用平台自带功能定时自动化,关键在于安全默认与随时可恢复同时成立。

    • 影响外部协作者的越权访问和闲置仓库可交给定时流程清理,减少长期积累的安全敞口;状态写进 git 让权限审计有现成留痕;自动化依赖仓库负责人按期回应,需要先把责任人定清楚。
    • 参考可考虑从一项季度权限审查或闲置仓库归档任务起步,用 GitHub App、Actions、issue 和 custom properties 复刻这套流程;上线前先跑只读 dry-run 并向组织反复广播,降低首跑风险。
10月15日周四
  1. 钛媒体75

    新就业形态劳动者权益保障办法征求意见稿发布,拟将平台算法规则纳入监管

    人社部等七部门10月8日发布新就业形态劳动者权益保障办法征求意见稿,共54条,征求意见至11月8日,首次以部门规章形式覆盖骑手、网约车司机、网络主播等不完全符合劳动关系情形的劳动者。

    决策要点

    征求意见稿把监管对象从劳动关系转向支配劳动者的规则本身,拟要求算法管理留下痕迹并可被追问。

    • 影响若落地,平台需为停止派单、封禁账号等重大决定建人工审核,规则修改须提前七日公示并征求意见;算法参数从内部技术选择变成可被讨论的对象;依赖算法管理的用工模式面临合规改造成本。
    • 参考可考虑盘点由算法自动作出的重大决定清单并评估人工审核接入点;值得测算七日公示期对规则每周迭代的排期影响;用工规模大的业务可先准备算法原理与影响因素的说明材料。
10月14日周三
  1. 人人都是产品经理58

    真正的出海,不是把产品卖到海外,而是把企业重做成全球组织

    真正的出海不是把产品卖到海外,而是把企业重做成可在全球运行的组织,核心是重新划分哪些工作交给AI、哪些责任留在人和组织手里。

    决策要点

    出海的实质从把产品卖出去转向组织能否在全球运行,AI自动化越强,人与系统的责任划分就越关键。

    • 影响依赖个别海外销售英雄的模式难以复制到更多国家;数据由谁可访问、AI功能用到哪里会改变产品架构与合同责任;客户前期研究转向AI问答,海外获客入口随之改变。
    • 参考可考虑先画清数据存储、推理和访问的链路清单并建立AI使用边界表;值得盘点海外业务对单一个人和单一供应商的依赖;内容侧可把认证、案例和规格做成可被AI引用的结构化证据。
  2. 人人都是产品经理54

    双面田柯宇,播客自辩与前同事技术报告的叙事对撞

    前字节跳动实习生田柯宇在播客中承认曾连续编写程序关停同事训练任务,但否认底层投毒,称是出于对算力倾斜的义愤。

    决策要点

    事件的实质是算力稀缺放大了组织内部的权限与审计缺口,单个技术人员的隐蔽干预足以瘫痪核心训练项目。

    • 影响同类内部破坏的排查以月计并需跨时区轮值,涉事项目训练长期瘫痪甚至路线被废弃;争议当事人仍获顶级基金两亿美元估值加持,用人与合作尽调需把道德与合规风险计入。
    • 参考可考虑盘点自身 GPU 集群的登录审计与权限分级,尤其是共享存储与底层系统库改动的留痕;值得为高价值训练环境建立完整性检查清单,关键岗位背调可纳入类似争议记录。
10月13日周二
  1. 钛媒体61

    AI喂养正在成为一条产业链,普通人动作数据被规模化采集卖给大厂

    普通人戴上摄像头和传感手套重复动作,把数据打包卖给大厂训练机器人,具身智能的数据产业链已从采集、标注延伸到交易。觅蜂科技CEO姚卯青称模型达GPT-3.5水平需一亿小时级真实操作数据,全球现有仅几十万小时;2026年15家独立数据服务商一年融资约44.7亿元。

    决策要点

    普通人被组织成具身智能的数据供应方,真实需求与泡沫并存,规则建设明显滞后于产业扩张。

    • 影响数据采购单价快速下行,买方议价空间变大;层层转包令数据来源与授权难追溯,用于训练有合规风险;众包模式涉及劳动者告知同意,隐私与用工争议可能传导到采购方。
    • 参考可考虑在采购具身数据前核查采集来源与授权链,把告知同意条款写进合同;值得按场景先算出自建采集与众包外采的成本差,再决定投入方式。
10月12日周一
  1. 人人都是产品经理37

    赫拉利:人类不必赢过AI,但知道去哪需要智慧

    历史学家赫拉利与《经济学人》主编赞妮·明顿·贝多斯对谈,称AI是人类历史上规模最大的心理和社会实验,最危险的不是机器觉醒,而是人类为效率和便利主动交出关键决策权。

    决策要点

    访谈的核心判断是AI的风险不在于机器失控,而在于人类主动弃权,把哪些决策交给AI始终是企业自身的选择。

    • 影响客户信任正从人对人转向对算法,金融和媒体等行业的信誉经营逻辑随之改变;AI批量建立亲密关系的能力可能被用于影响客户;若AI获得法律主体地位,企业问责与责任安排需要重新设计。
    • 参考可考虑盘点企业中哪些关键决策已默认交给算法或模型供应商,逐项明确人工责任人;值得跟踪AI法律人格与责任认定的监管讨论,再决定授权深度。
10月9日周五
  1. TechCrunch · AI49

    OpenAI 三名被解雇安全研究员发公开信否认不当行为指控,警告寒蝉效应

    上周被 OpenAI 解雇的三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 发表公开信,否认不当处理敏感信息等指控,并警告解雇正在公司内部产生寒蝉效应。

    决策要点

    实质是安全研究员对外协作的授权边界与解雇处置方式之争,双方口径对立且公司未公开具体政策条款。

    • 影响对外安全协作若缺少书面授权边界,事后可能被认定为违规;处置突然且口径混乱会抑制员工上报风险;研究员指出恐惧与规则不清会削弱第三方问责。
    • 参考可考虑盘点涉及敏感数据与外部安全评估的沟通是否有书面授权留痕;值得在内部制度中写明异议保护与第三方协作流程;选用 OpenAI 产品的团队可把供应商安全治理稳定性列入评估项。