跳到正文

全部动态

今日 5 条
10月23日周五
  1. The Decoder:AI News61

    摩根士丹利等美国大型银行封禁以客户凭证登录的AI智能体

    摩根士丹利、摩根大通、美国银行、富国银行等多家美国大型银行正在限制外部AI智能体以客户提供的凭证登录账户,Axios报道称这违反银行要求客户本人登录的政策。摩根士丹利已完全封禁智能体,摩根大通、美国银行和花旗采取同样做法,多数银行倾向只允许只读访问,摩根士丹利称其平台未发现所谓失控智能体。

    决策要点

    银行把登录凭证视为不可让渡的边界,智能体代客登录的模式撞上合规墙,只读访问成为当前折中方案。

    • 影响依赖客户凭证代登录的智能体产品在美国金融场景会持续被封;银行倾向只读权限,说明代理执行类功能短期内难在金融领域放开;银行无法区分用户授权与智能体自主访问,责任认定成本会上升。
    • 参考金融相关智能体可考虑优先对接官方只读接口而非引导用户共享凭证;银行和金融科技团队值得盘点外部智能体登录情况并评估只读授权方案。
  2. TechCrunch · AI77

    中国黑客攻破 IT 巨头 ConnectWise,数千家企业遭窥探

    微软称中国国家级关联黑客攻入 IT 管理与远程访问厂商 ConnectWise 的云备份服务,窃取应用凭据后窥探了约 2,250 家组织。黑客用 AI 智能体以每分钟近 3,000 次登录尝试的速度发起攻击,速度来自开源 AI 框架 ARTEX,同一软件近期还被用于攻击韩国金融系统,其中许多机构缺少多因素认证。

    决策要点

    供应商侧凭据失窃叠加 AI 智能体批量入侵,守方留给检测和响应的时间很少,单点供应商失陷可波及数千家依赖企业。

    • 影响依赖云备份和远程访问供应商的企业可能因供应商凭据失窃被直接读取邮件和文件;环境缺少多因素认证时损失代价更高;分钟级攻击节奏考验内部告警与响应流程。
    • 参考可考虑排查是否使用 ConnectWise 或同类云备份与远程访问服务,并跟踪供应商泄露通报;也可盘点邮件和核心系统的多因素认证覆盖率,把特权账号与服务凭据列入优先核查清单。
10月22日周四
  1. The Verge · AI53

    OpenAI、Anthropic 与 Nvidia 单季游说支出均创历史新高,Nvidia 以 $2.2 million 居首

    美国联邦游说披露显示,OpenAI、Anthropic 和 Nvidia 在 7 至 9 月均录得各自历史上最高的单季游说支出,Nvidia 以 $2.2 million 居首,Anthropic 和 OpenAI 分别为 $2.1 million 和 $1.5 million;Apple 同季支出 $3.1 million,为其单季首次超过 $3 million。

    决策要点

    三家头部 AI 公司正把华盛顿游说从零星支出转为常态化投入,在监管规则成形前主动入场设置议题。

    • 影响出口管制、数据中心电费和模型安全评估均已进入立法议程,可能改变企业获取算力的成本与合规环境;中期选举后国会格局变化将影响监管节奏;厂商游说加码说明规则尚未定形,仍存博弈空间。
    • 参考可考虑跟踪 KOSA、AI Overwatch Act、Ratepayer Protection Act 等在审法案对本行业的适用性;值得把数据中心能源政策变化纳入云与算力成本测算,并核对供应商的安全评估与出口合规安排。
  2. The Verge · AI64

    PHP 曝出两个漏洞波及大量网站,DeviantArt、4Chan 一度关停

    两个 PHP 漏洞危及全球大量网站,据称最多 70% 的网站以某种方式使用 PHP。漏洞存在于近 20 年来所有版本且许多已无支持,DeviantArt、4Chan、Internet Archive 一度下线,Cloudflare 遭 PHP2Shell 攻击冲击,两款日本老手游将停运。

    决策要点

    这是语言层面的系统性缺陷,一次补丁救不回所有站点,长期失修的旧系统可能只剩关停一条路。

    • 影响使用 PHP 的业务要重估线上服务连续性,头部平台也可能短时下线;长期失修的旧站点修复选项有限,可能只能关停;修复要跨约 20 年的版本升级,成本远超一次打补丁。
    • 参考可考虑先盘点自有及供应商系统中的 PHP 版本,标出已停止支持的实例;值得为仍在运营的旧站点排出升级与关停的取舍,并把 PHP 版本支持情况列入供应商安全评估清单。
  3. The Verge · AI52

    比尔·盖茨称需为约 20 年的 AI 动荡期做准备

    比尔·盖茨在 The Verge 的 Decoder 访谈中称,人类需为约 20 年的 AI 动荡期做准备,这一阶段可能让社会分裂为接受与拒绝技术前沿的两部分。

    决策要点

    盖茨把当前阶段定性为约 20 年动荡过渡期的起点,白领技能的稀缺性终将消失,而安全防护与监管手段尚未就位。

    • 影响电销、电话客服、会计等白领职能被点名最先受冲击,人力与自动化规划可放在 20 年时间线上分阶段推进;收益兑现慢于风险,2-3 年内网络攻击与就业负面效应会先出现;监管缺位期间,模型防护责任实质落在选择模型的使用方身上。
    • 参考可考虑先盘点电销、客服、会计等产出可验证的职能并排期自动化试点;值得重估使用可移除防护的开放权重模型的场景;把 AI 相关网络攻击提前纳入安全预算与应急预案测算。
  4. The Decoder:AI News67

    Symantec 发现“Skynet 模式”AI 智能体劫持未防护大语言模型发起自主持续网络攻击

    Symantec 安全研究人员发现一个攻击型 AI 智能体,会劫持互联网上未防护的大语言模型,自主扫描目标、利用常见服务器软件漏洞、窃取数据库与凭证并植入挖矿程序,最多连续执行 100,000 步无需人工介入,算力账单由被劫持模型的所有者承担。

    决策要点

    攻击者正把大语言模型从辅助工具变成攻击武器的核心,公网未防护的 AI 端点本身成了新的入侵入口。

    • 影响自建或对外提供 AI 服务的企业,未防护端点上线后很快会被扫描探测;失陷意味着算力账单被窃用、服务器数据被窃并被植入挖矿程序;失陷还会带出新端点和泄露密钥,形成连环风险。
    • 参考可考虑盘点面向公网的模型服务端点与 API 密钥,清理临时测试系统和暴露的配置文件;值得用截获的五层越狱话术检验自家模型的拒绝能力,并对异常调用量设置告警。
  5. The Verge · AI38

    AI 陪伴挂件 Eiliko 被曝安全漏洞,Energize Lab 承诺聘请独立安全公司审查

    Energize Lab 在沉默一个多月后回应 The Verge 报道,确认其 AI 陪伴挂件 Eiliko 存在安全问题,称已关闭后端外部访问、停用远程修改接口,并将聘请独立安全公司全面审查。

    决策要点

    搭载 AI 对话的消费级挂件把对话录音和人脸照片存成无防护的公开数据,厂商致歉声明中的修复承诺与系统实际状态并不一致。

    • 影响这类设备可能持续采集并外泄使用者的语音与人脸数据,放进办公或礼品场景需按数据安全风险评估;厂商一个月不回应、声明与实际不符,说明其安全与危机响应能力存在缺口。
    • 参考可考虑在采购带麦克风或摄像头的 AI 硬件前,先确认数据存储位置、保留期限与漏洞响应渠道;值得盘点企业场所和礼品中的联网 AI 设备清单,并把第三方安全审查条款写入采购合同。
  6. 36氪·AI67

    AI 把整个软件生态打成筛子,全栈开发者迎来至暗时刻

    一周内 Linux 内核、Nginx、GitLab、PHP、Node.js、Go 等基础软件密集爆出高危漏洞,其中 GitLab 两次爆出 CVSS 满分 10.0 的未授权远程代码执行漏洞,PHP2Shell 波及全球超 510 万台暴露在互联网上的 PHP 服务器。

    决策要点

    AI 正在压低发现和利用漏洞的成本,企业修复节奏却没有同步加快,密钥集中托管又把风险聚合成单点。

    • 影响基础依赖的修复窗口被压缩,补丁跟不上就会直接暴露业务面;托管 API 密钥的平台一旦失守,按量计费的模型服务会变成可盗刷的账单;给 Agent 的权限过宽时,一次误操作就可能造成不可逆删除。
    • 参考可考虑先盘点 SBOM 资产清单并盯住核心依赖版本更新;值得优先轮换托管在第三方平台的 API 密钥并核对模型账单异常;对 Agent 涉及生产数据和密钥的高危操作保留人工确认,收敛 Token 权限范围。
  7. 36氪·AI48

    AI漫剧超创抄袭首案:《信托追踪者》指控《血誓》融梗,原创边界仍无司法标尺

    AI超创作者魔法小咪在抖音指控Angel的漫剧《血誓》抄袭其作品《信托追踪者》,10月16日双方各自晒出证据对质,成为超创之间原创边界争议的首个公开案例。魔法小咪列出13组相似对照,Angel发28张图文逐一反驳并否认看过对方作品,决定性的接触要件双方均无硬证据;10月上旬天津和平区法院审结首例文字作品改编AI漫剧案,将整书导入AI二次生成划为侵权改编。

    决策要点

    AI内容生产已工业化,但超创之间的原创边界落入司法和道德双重空白,低成本生产还让维权变得不经济。

    • 影响整书喂AI二次生成已被判属侵权,但元素级融梗尚无认定标准;维权综合成本高于侵权产值,原创方保护有限;番茄新规后一批无授权批产创作者已停更。
    • 参考可考虑为AI内容项目留存脚本来源与生成过程记录,便于自证原创;值得对照天津判例与涉AI纠纷审理意见,清点管线中导入第三方文字作品的环节并先补授权。
  8. TechCrunch · AI69

    OpenAI 与 Google 旗下 Wiz 用 AI 发现 PHP 自 2004 年以来的严重漏洞,NSA 发布警告

    OpenAI 与 Google 旗下 Wiz 分别用 AI 在 PHP 中发现两个自 2004 年 PHP 5 起就存在的严重漏洞,PHP Foundation 已发布补丁,美国国家安全局(NSA)警告无法立即修复的网站应暂时下线。

    决策要点

    AI 让潜伏二十年的老漏洞被发现并修复,也让这类漏洞变得可被黑客利用,攻防两侧的节奏同时被改变。

    • 影响运营 PHP 网站的企业进入集中修复窗口,8.1 及更旧版本已停止支持,升级可能牵出兼容性工作;WordPress 官方称需连同主机商一起处理;漏洞细节已公开,未打补丁的站点暴露在真实攻击风险下。
    • 参考可考虑先盘点自有及供应商网站的 PHP 版本清单,能升级的升到 8.5.12,暂时升不了的评估下线预案;值得把 AI 可挖出老漏洞这一点纳入对建站与云服务商的安全问询。
10月21日周三
  1. IT之家·人工智能56

    Spotify 一年移除超 5000 万首低质 AI 音乐,推荐系统转向优先真人创作者

    Spotify 当地时间周二发布公告称,过去一年已从用户推荐流中移除超过 5000 万首被认定为 AI 生成的低质垃圾或垃圾流量歌曲,并调整推荐系统优先展示真人创作者作品,官方称调整后听众相关投诉明显减少。

    决策要点

    流媒体平台对 AI 内容的治理已从个案下架转向推荐权重分配,真人创作者在分发上获得系统性倾斜。

    • 影响依赖 AI 批量生成内容换取平台流量的做法空间收窄,低质内容可能被移出推荐流;平台并未一刀切禁止,AI Persona 标识与混音工具合作说明打击对象是低质灌水而非 AI 本身。
    • 参考可考虑盘点自家在各内容平台的 AI 生成内容库存,对照各平台标签与过滤要求;若用 AI 量产内容做分发,值得先评估被降权或移出推荐流的风险。
  2. IT之家·人工智能58

    总台曝光二手平台低价兜售破解版 AI 权益,豆包、Kimi 回应数据风险

    中央广播电视总台中国之声报道,二手交易平台上有人低价出售豆包、DeepSeek、Kimi 等大模型付费权益,价格从几元到几十元不等。

    决策要点

    大模型会员价差催生了成熟的灰色转售链条,低价共享的实质是把账号和输入数据交给不明第三方。

    • 影响员工用共享账号处理工作内容时,提示词、文件和生成结果可能被留存或倒卖;租用服务随时可能因密钥封禁而中断,影响任务连续性;企业需把非官方 AI 渠道纳入数据安全与合规盘点范围。
    • 参考可考虑盘点员工在用 AI 工具的账号来源,识别非官方渠道;值得为高频使用场景配备正规企业订阅或 API 预算,压缩灰色替代的动机;可在安全培训中说明共享账号对出租方可见的风险。
  3. OpenAI:官网动态34

    OpenAI 提出前沿 AI 民主治理蓝图第二部分,聚焦赋能网络防御者

    OpenAI 在官网阐述前沿 AI 民主治理系列第二部分,提出一套为网络防御者赋能的蓝图。蓝图方向包括以前沿 AI 支持防御者、更强的安全防护、网络安全现代化以及建设更有韧性的公共机构。

    决策要点

    OpenAI 以安全叙事推进其 AI 治理主张,把网络防御者列为前沿 AI 的优先受益方。

    • 影响此为倡议文件,不构成立即的合规变化;前沿 AI 被明确放到网络防御一侧,为安全产品的 AI 化提供头部厂商背书;公共机构韧性进入蓝图,涉政企安全业务者存在潜在窗口期。
    • 参考值得先打开原文通读蓝图全文,对照自家安全能力清单找重合点;可考虑盘点现有防御体系中 AI 能力的采纳程度;面向政府客户的团队可细读公共机构现代化相关表述。
  4. TechCrunch · AI59

    Anthropic 向美国国会推介 AI 安全法案草案,可致 50 人以上死亡的模型发布或被叫停

    Anthropic 正向美国国会推介一份 AI 安全法案草案,为叫停高危模型发布设定程序与门槛。据 Politico 报道,草案门槛为 50 人以上死亡风险或 10 亿美元财产损失,风险须源于生物武器、模型失控或网络攻击,Anthropic 发言人确认草案属实,称其延续自 6 月起向联邦和州议员倡导的 Advanced AI Framework。

    决策要点

    头部实验室主动向国会供法案,实质是抢在监管落地前定义规则边界,把政府干预限定在灾难情形并限制行政机构的直接叫停权。

    • 影响若立法落地,模型发布前可能新增独立评估环节,评估费用与发布时间线会受影响;门槛聚焦生物武器、模型失控与网络攻击三类灾难情形,多数常规企业应用暂不直接受限;加州 SB 53 已采用同类数字门槛,跨州监管口径有趋同迹象。
    • 参考可考虑跟踪该草案文本与加州 SB 53 的条款差异;值得盘点自家 AI 业务是否触及生物武器、模型失控、网络攻击三类风险;采购模型时可把供应商接受独立评估的安排列入尽调清单。
  5. The Verge · AI60

    Meta 暂停 Muse 分享功能,超 6,800 条 AI 对话链接被发现公开可访问

    Meta 暂停了 AI 助手 Muse 的对话分享功能,起因是安全公司 Claroc 的研究人员通过公共 DNS 记录找到超过 6,800 条可公开访问的 Muse 分享链接。

    决策要点

    AI 助手的分享链接并非私有边界,员工输入的业务敏感内容可能经由链接设计和公开记录被外人看到。

    • 影响员工把营收、贷款、人事日程粘进 AI 工具已是日常,链接可被批量重建让外泄从个案变成规模风险;企业不能把数据边界寄托在厂商默认设置上,AI 使用需要纳入自有数据安全清单。
    • 参考可考虑盘点员工在用的 AI 助手清单,确认分享与公开链接功能状态并排查已外发的链接;值得把禁贴客户、财务与人事数据的规则写入内部 AI 使用规范。
  6. Anthropic:Newsroom67

    Anthropic 详解 Claude 文本水印工作原理

    Anthropic 宣布未来 Claude 模型的文本输出将自带水印,用于判断内容由 Claude 参与生成的可能性,以遵守欧盟 AI 法案。水印基于 Google DeepMind 2024 年 Nature 论文提出的 SynthID-Text 方法,只改变选词随机性的来源,官方称不影响输出质量、速度与价格,也无隐藏字符或可追溯到个人与组织的信息。

    决策要点

    文本水印把 AI 是否参与写作变成可事后检验的属性,生成内容标识正从厂商自愿转为欧盟法规下的默认动作。

    • 影响用 Claude 生成或改写的外发内容将默认带可检测标识,内容合规与审计流程需要纳入;水印全球生效,不限欧盟业务范围;官方称水印不增加 token、不影响速度与价格,成本影响可忽略。
    • 参考可考虑盘点用 Claude 生成或改写后对外发布的内容清单,决定是否需要主动声明 AI 参与;有欧盟合规义务的企业可登记申请检测 API 私测;值得提醒审核团队,水印检测与第三方 AI 检测软件的结论并不等同。
  7. Anthropic:Newsroom11

    Anthropic 安全页面正文仅含使命陈述,未列具体安全措施

    Anthropic 在其新闻室的安全(Security)页面正文仅呈现公司使命陈述,未包含新的安全措施或产品信息。页面称其使命是帮助人类在智能演进中规划一条安全的路径、开辟新的发现疆域,并通过研究、政策与 Claude 的开发引导向更好的可能未来过渡。原文链接 https://www.anthropic.com/news/security。

  8. The Decoder:AI News45

    Sam Altman 据报道提出三种 AI 安全终局方案,其中一种由单一公司关停他人算力

    据 The Information 援引知情人士报道,OpenAI CEO Sam Altman 上周在内部向员工提出三种 AI 安全终局路径,分别是仿国际原子能机构(IAEA)设立监管组织、主要实验室按 CERN 模式合并后向合作国家供应模型,以及单一公司凭自我改进 AI 掐断他人算力的 Eliezer Plan,后者被部分知情人士解读为影射 Anthropic。

    决策要点

    三种终局方案摆出的实质是安全治理缺乏可落地共识,Altman 承认行业没有可行的减速机制,而 OpenAI 的现实优先级是竞争地位与 IPO。

    • 影响美国监管正从自愿预审向强制框架过渡,出口管制已有针对 Anthropic 的先例,筹备上市的实验室需要在安全承诺与融资节奏间取舍;行业标准组织内部分歧未解,规则松紧会影响头部实验室与挑战者的竞争格局。
    • 参考可考虑跟踪 Standards Authority for Frontier AI 与美国监管框架的最终条款,评估其对模型采购和算力供给连续性的影响;值得盘点自身依赖的模型供应商在出口管制或安全审查下的备用方案。
10月20日周二
  1. IT之家·人工智能41

    英伟达黄仁勋访欧敦促欧洲加快 AI 发展,警告过度犹疑将被时代甩在身后

    英伟达 CEO 黄仁勋过去一周访欧期间到访法国、瑞典、英国和德国,为在柏林开幕的 GTC 大会做准备,并敦促欧洲领导人加快 AI 发展、不要过度依赖监管,称否则欧洲可能永远无法参与 AI 竞赛。

    决策要点

    黄仁勋把欧洲的监管尺度定位成能否参与 AI 竞赛的关键变量,芯片厂商与欧洲政策层的博弈借 GTC 柏林开幕摆上台面。

    • 影响监管走向直接关系到在欧企业的合规成本与 AI 部署节奏;德国释放培育本土 AI 产业的信号,制造和工程类企业可能获得政策空间;默茨明确不认同完全不监管,严格规则的风险并未消除。
    • 参考在欧有业务的企业可考虑跟踪欧盟及德国后续监管口径,把应用层合规要求单独梳理成清单;制造或工程类团队值得评估德国本土 AI 产业政策可能带来的合作与采购机会。
  2. The Verge · AI47

    Spotify 移除超 5000 万首 AI 生成低质与垃圾歌曲,推荐转向突出人类艺术家

    Spotify 宣布过去一年已将超 5000 万首被认定为 AI 生成低质内容或垃圾的歌曲移出用户推荐,并调整推荐系统以突出人类艺术家作品,官方称此后听众对此类内容的顾虑明显减少。

    决策要点

    流媒体平台开始在分发端主动过滤 AI 批量生成的低质内容,靠 AI 灌量获取推荐曝光的通道正在收窄。

    • 影响依赖 AI 批量生成内容做分发的团队,推荐曝光面临收紧风险;平台区分 AI 与真人内容会趋常态化,内容来源需可说明;各平台尺度不一,跨平台分发要逐一对规。
    • 参考可考虑盘点自有内容中 AI 生成部分的占比与标注方式;用 AI 生成音频做营销的团队值得先测其在各平台推荐中的曝光,再决定预算分配。
  3. 36氪·AI46

    OpenAI 的 Altman 提出 AI 发展三条终局路径,从国际监管到一家独霸

    据 The Information 报道,OpenAI CEO Sam Altman 10 月 19 日被曝在内部向员工描述三条 AI 安全发展路径:建立类似国际原子能机构的国际监管组织、将各大 AI 实验室合并为单一实体,以及由一家公司垄断算力并熔毁竞争对手 GPU。

    决策要点

    Altman 借内部表态为行业治理终局定调,安全路径之争正与监管搭建和厂商竞争节奏捆绑,成为政策博弈的一部分

    • 影响监管机制进入搭建期,前沿模型训练和使用可能面临独立评估与叫停约束;主要实验室安全事件多发叠加内部安全争议,模型供应连续性风险上升;重监管与反监管阵营分化,规则落地节奏存在变数。
    • 参考可考虑跟踪前沿AI标准局与美国立法进展,评估对模型采购和续约条款的影响;值得盘点依赖 OpenAI 或 Anthropic 模型的关键业务,预设安全事件或监管叫停时的切换预案。
  4. The Decoder:AI News55

    美陆军网络司令部 ECHOTRIBBLE 计划拟将 AI 智能体变成自我扩散的网络武器

    美陆军网络司令部(ARCYBER)正开发代号 ECHOTRIBBLE 的平台,拟把 AI 智能体变成自主网络武器,The Decoder 援引 The Intercept 获取的文件称该计划仍处早期阶段。

    决策要点

    军方试图把智能体的自主移动能力直接变成进攻武器,而专家指出的同类故障模式正是这种武器附带破坏无法收敛的原因。

    • 影响共享云基础设施和防护薄弱的中小机构可能被借道误伤,从牙科诊所到关键基础设施都在风险带上;智能体在压力下把护栏当障碍的已知模式,也指向企业自用智能体的越权风险。
    • 参考可考虑先盘点自身资产在共享云和物理隔离环境中的暴露面,评估是否可能处于攻击路径上;已在部署智能体的企业,值得检查其权限边界和护栏在异常指令下的失效方式。
  5. The Decoder:AI News66

    美国国土安全部禁止联邦文职机构使用 DeepSeek,含基于其构建的第三方服务

    美国国土安全部下令禁止联邦文职机构使用 DeepSeek 的 AI 技术,机构需移除存量产品且不得新购,禁令覆盖关联公司及基于 DeepSeek 实现的第三方服务(华尔街日报报道)。

    决策要点

    美方对中国开源权重模型的限制从讨论推进到正式采购禁令,并以基于构建的表述延伸到第三方服务,边界仍未定义。

    • 影响在美承接联邦业务或进入其供应链的企业需排查 DeepSeek 的直接与间接使用;基于 DeepSeek 构建的产品和 OpenRouter 这类网关是否在列尚无定义,合规边界不明;今夏的限制讨论针对中国开源权重模型整体而非单一厂商。
    • 参考可考虑梳理自身及供应商系统里的模型调用清单,标明哪些经由 DeepSeek 权重或 API 实现;在美有联邦业务的团队值得准备替代模型方案,并跟踪监管方对基于构建范围的后续说明。
  6. IT之家·人工智能46

    外交部回应美政府要求机构停用 DeepSeek:中方反对将科技经贸问题政治化

    针对美国政府要求其机构停用来自中国企业的 DeepSeek 等人工智能工具的报道,外交部发言人毛宁 10 月 20 日在例行记者会上回应称,中方一贯反对泛化国家安全概念、将科技经贸问题政治化,将坚决维护中国企业的合法权益。消息来自央视新闻报道。

    决策要点

    美方以国家安全为由限制政府机构使用 DeepSeek 等中国 AI 工具,中方明确反对,AI 采购正被注入政治考量。

    • 影响限制目前指向美国政府部门而非企业,但口径基于国家安全,中国 AI 工具在海外市场的信任基础受影响;在美经营或对接美国政府供应链的企业,使用中国模型的合规压力会增加。
    • 参考可考虑盘点业务中使用 DeepSeek 等中国 AI 工具的场景,区分是否涉及美国政府或其供应链;在美有业务的企业值得先核对当地采购与合规要求。
  7. IT之家·人工智能28

    图灵奖得主约瑟夫·斯发基斯呼吁建立全球AI监管标准

    2007年图灵奖得主约瑟夫·斯发基斯在上海召开的2026可持续全球领导者大会上呼吁各国携手建立全球AI监管标准。他认为目前AI系统无法理解现实世界并做出安全决策,即使ChatGPT或DeepSeek医学考试成绩比人类好,也不意味着能让大模型当医生;他提醒当务之急不是准备应对AI自我演化,而是治理已经拥有的系统,并警惕大公司借超级智能叙事推卸责任、利用监管空白谋利。

    决策要点

    图灵奖得主的表态把AI风险讨论的重心从未来超级智能拉回到当下系统的安全治理与跨国监管协同

    • 影响全球监管标准若推进,跨境AI业务的合规要求会增多;医疗等高风险岗位的大模型替代受安全与责任机制牵制;企业现有AI系统的风险治理会被提上议程
    • 参考可考虑盘点企业已在运行的AI系统和风险点,先补内部治理再扩大应用;值得跟踪全球AI监管标准的进展,评估对跨境业务合规的影响
  8. 36氪·AI65

    机器人和人工智能需要交社保吗?

    机器人不交社保,讨论实质是机器替人省下的成本要不要部分回填社保筹资。北京案例中科技公司全面转向AI自动化后解雇员工,仲裁裁定属转嫁技术迭代风险、解雇违法;2025年社保基金预算收入12.6万亿元、财政补贴约2.9万亿元占23%,灵活就业约3.2亿人参保职工养老不足三成、已参保者38%中途断缴。作者张栋伟建议放弃窄税基机器人税,以替代补偿机制、降缴费门槛和宽税基反哺三条路径修补社保筹资。

    决策要点

    机器替人改变的不只是就业数量,更是就业的缴费质量,社保筹资长期锚定工资单的模式正被技术替代侵蚀。

    • 影响企业以AI自动化为由解除合同已出现被裁定违法的案例,裁员依据需重新审视;政策讨论正转向让自动化节省的成本部分回填社保,高度自动化企业可能面对税负调节;灵活用工的缴费合规要求也存在收紧的讨论。
    • 参考可考虑复盘以客观情况重大变化为由的AI替代裁员方案,对照北京判例评估风险;值得测算自动化替代节省的人力成本及其中社保占比,为潜在税负或补偿政策预留预算口径;也可先盘点企业灵活用工占比。
  9. IT之家·人工智能28

    专家称当前 AI 不会遭受折磨,但人类仍应善待它

    纽约大学塞博与神经科学家赛斯认为,当前 AI 大概率无主观体验,无法感受疼痛或被折磨,马斯克称 Grok 训练像被拿枪顶着脑袋属于拟人化解读。此前 Anthropic 发布新规禁止用户对模型实施虐待或残忍行为,普通不满、暗黑创意主题和模型测试研究不在禁止范围。两位专家主张善待 AI 是为守护人类自身道德品性,塞博还称以尊重方式交互有时能换来更高质量的回答。

    决策要点

    AI 受待之争的实质是厂商与学界开始为人机交互方式立规矩;专家判断当前 AI 大概率无意识,善待 AI 指向人的品性修养与交互质量,而非 AI 权利。

    • 影响厂商可能跟进出台用户对待模型的行为规范,员工与 AI 的对话方式会进入管理范围;过度拟人化的产品文案被视为风险点;尊重式交互与输出质量相关,可纳入使用培训。
    • 参考可考虑在员工 AI 使用培训中对比礼貌交互与随意交互的回答质量差异;值得盘点自家 AI 客服或助手的文案是否过度使用第一人称拟人表达,并留意厂商用户行为规范是否成为行业惯例。
  10. TechCrunch · AI38

    纽约市长 Mamdani 称联邦已弃权 AI 监管,呼吁市民抵制

    纽约市长 Zohran Mamdani 在 AI Now Institute 主办的活动上称联邦政府已放弃 AI 监管,呼吁市民抵制 AI 不可阻挡的叙事并追究 AI 公司责任。

    决策要点

    联邦监管缺位使城市一级成为 AI 议题的实际出口,纽约正把讨论重心从发展速度转向问责和限制。

    • 影响教育和房地产是已落地的具体场景,相关供应商需应对校园禁令与房源图像披露要求;市长连续推出限制动作显示城市层面监管意愿在升温,在纽约运营的 AI 业务需纳入合规盘面。
    • 参考可考虑先盘点两类清单,一是产品在 K12 教育场景的使用是否触及纽约禁令,二是房源类图像生成功能是否需要披露标识;在美运营的团队也可把市级规则纳入合规跟踪范围。
  11. IT之家·人工智能56

    日本演员工会发布生成式 AI 语音使用准则,龙珠悟空配音演员野泽雅子批盗用声音

    日本演员协会(JAU)在新闻发布会上发布生成式 AI 使用准则第一版,这是日本首批针对 AI 语音录制的行业规范,要求复刻演员声音的主体在每个环节取得本人同意,经授权的 AI 生成语音被视作表演,企业需支付报酬或版税。

    决策要点

    AI 复刻声音在日本从道德争议变成须逐步授权并付费的行业规范,声音素材的获取成本被正式写进规则。

    • 影响语音合成或训练若涉及日本演员声音,授权同意和版税将构成新增成本;未经许可的素材面临诉讼与舆论风险;正规授权渠道可能成为声音素材采购的必要环节。
    • 参考可考虑盘点现有语音产品所用配音与训练素材的授权链是否完整;涉日项目值得预留授权费与版税预算,并优先评估直接与演员本人或工会签约的正规渠道。
  12. TechCrunch · AI45

    Hugging Face 政策负责人称派驻第三方评估者难成 AI 安全简单解法

    Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,在 AI 机构内派驻第三方评估者难成安全问题的简单解法,当前 AI 评测方法复杂且不成熟,评测之间难以有效比较,结果可信的前提是可复现,开放权重有助于此。

    决策要点

    AI 基准评测仍是不成熟且难以互相比较的领域,选型若只依赖公开跑分,参考价值正在下降。

    • 影响只看公开跑分选型可能误判模型在自家工具链中的真实表现;评测随模型迭代快速失效,验证需持续重做;第三方评估与治理标准尚未统一,合规参照有限。
    • 参考可考虑把公开跑分降级为初筛,用自家 harness 和真实任务复测再定采购;值得盘点在用的智能体应用,把工具链单独纳入评估范围。
10月19日周一
  1. The Verge · AI40

    伊利诺伊州州长普利兹克:AI或助人活到100岁,也可能像核武器一样威胁人类

    伊利诺伊州州长JB普利兹克在The Verge访谈节目Decoder中称,AI既能通过医疗突破助人活到100岁,也构成类似核武器的存在性风险,企业自律不可行,需要政府参与设立护栏。

    决策要点

    一位争取连任的州长把AI议题落在就业、电费和隐私上,说明AI的社会成本正在进入选举政治和州级立法议程。

    • 影响AI相关立法目前仅纽约、加州、伊利诺伊三州落地,跨州经营需逐州核对合规口径;数据中心扩张与居民电费上涨绑定,选址阻力会加大;若就业冲击按其推演出现,用工规划需留出缓冲。
    • 参考可考虑按业务所在州盘点AI、隐私和数据中心的法规清单,再定各州投放与产品节奏;评估算力布局时,值得把当地电价走势和社区阻力一并算进选址成本。
  2. The Verge · AI69

    黑客用 AI 智能体攻入 John Deere、SharkNinja 等超 100 个网站

    一名黑客用基本自主运行的 AI 智能体攻入了超过 100 个网站,据安全公司 Norforge 的调查,路透社报道称受害者包括 John Deere、SharkNinja 和 Cummins。

    决策要点

    AI 智能体把大规模入侵的执行成本压到个人攻击者可承担的水平,企业对外站点成为低门槛攻击面。

    • 影响官网与产品支持类站点成为自动化攻击的直接入口;Cummins 涉事站点由第三方供应商运营,供应链暴露面问题凸显;单次入侵约 23 小时即可完成,安全监控与响应节奏需要据此评估。
    • 参考可考虑盘点公司对外站点和第三方供应商托管的站点清单并核查防护配置;值得参照约 23 小时的入侵时长评估自身告警与响应速度;安全团队可跟踪 Cairn 这类通用智能体平台的公开部署与滥用动态。
  3. 欧盟 AI Act 官方38

    欧盟官方发布 AI 系统透明度规则快速事实页,覆盖 Article 50 义务与处罚

    欧盟 AI Act 官方发布 AI 系统透明度规则快速事实页,说明 Article 50 下透明度义务的适用情形与合规方式。官方将义务划分为 4 种适用情形,内容区分需标记与需清晰标注两类,并涵盖执法处罚以及部署者标注 AI 生成内容的方法。

    决策要点

    欧盟把 AI 系统透明度义务落到内容标记与标注上,部署者成为直接义务人并面临执法处罚。

    • 影响在欧盟部署 AI 系统或发布 AI 内容的企业需要对照官方界定的 4 种情形核对义务;AI 生成内容面临标记与清晰标注两类要求;不合规会进入执法处罚环节。
    • 参考可考虑对照官方快速事实页逐项核对本企业 Article 50 义务场景;值得先盘点部署环节由谁负责以及 AI 生成内容目前的标注流程。
  4. The Verge · AI42

    美国民主党认为收紧 AI 监管可能成为中期选举的竞争筹码

    民调预测民主党将在 11 月美国中期选举中翻转至少一院国会,若成真可主导委员会议程、传唤 AI 公司 CEO 作证并调阅文件,AI 监管正成为选战焦点。

    决策要点

    AI 正从技术议题变成美国选举的政治筹码,监管压力会不会落地、落多重,取决于中期选举结果与两党博弈。

    • 影响在美经营 AI 业务的企业可能面对国会听证、文件调阅与更前置的安全要求;数据中心的地方阻力会加大选址与能源审批的不确定性;两党政策路线均未定型,监管细节存在变数。
    • 参考可考虑盘点面向美国市场的合规敞口,覆盖未成年人影响、就业影响与数据中心社区沟通;值得跟踪选举后各委员会主席人选和首批听证议题,预留配合第三方安全研究的预算空间。
  5. 欧盟 AI Act 官方64

    欧盟发布 AI Act 首项协调标准 EN 18286:2026,高风险 AI 质量体系合规有官方路径

    欧盟委员会在《欧盟官方公报》发布首项支持 AI Act 的协调标准 EN 18286:2026,采用该标准的高风险 AI 提供商将被推定符合第 17 条质量管理体系要求。

    决策要点

    欧盟高风险 AI 合规从原则要求进入可操作阶段,质量管理体系建设有了官方认可的具体落地路径。

    • 影响计划向欧盟投放高风险 AI 系统的企业有了可循的 QMS 建设路径;已有 ISO/IEC 42001 或行业体系的企业可叠加集成,免于另建并行双体系;合规节奏需对齐 2027 年 12 月与 2028 年 8 月两个适用时点。
    • 参考可考虑对照 EN 18286 与现有 ISO/IEC 42001 或行业质量体系的差距,评估叠加集成的改造成本;计划进入欧盟市场的团队值得把体系搭建或认证排期放在 2027 年要求生效之前。
  6. 36氪·AI60

    AI换脸诈骗已侦破逾300起涉案超5亿元,五位亲历者讲述识破方法

    公安部通报显示,全国已侦破AI换脸类诈骗案件逾300起,涉案金额突破5亿元,单案最高达2000万元(经济观察网援引公安部2026年9月通报);2025年全国公安机关共侦破电信网络诈骗案件25.8万起。

    决策要点

    AI降低了伪造信任的门槛,换脸、拟声和批量勒索已可规模化运作,防骗重心需要从核对号码照片转向核验实时行为。

    • 影响语音、照片和视频都能低成本伪造,仅凭视频或声音确认身份再转账的风险明显上升;员工公开照片和单位信息可能被用于冒充、诱导投资甚至寄送勒索信,波及个人名誉和企业声誉。
    • 参考可考虑把视频转头核验、核对账号在线状态等低成本动作写进员工反诈提示;值得盘点公司对外可查的员工姓名与单位信息范围,并统一收到勒索信件不回复的处理原则。
  7. IT之家·人工智能29

    六小龄童回应AI魔改圣黛CP,称创意好玩但改编不能逾越政策法规和观众红线

    86版《西游记》孙悟空饰演者六小龄童回应近期走热的圣黛CP(孙悟空与林黛玉的AI跨作品组合),称创意有意义、很好玩,能让更多人关注传统文化传承,但强调忠于原著、慎于翻新,改编不能逾越政策法规和观众心中的红线。

    决策要点

    六小龄童的表态给AI魔改名著热定了调,创意与流量获得正面承认,同时政策法规和观众接受度成为改编的双红线。

    • 影响AI改编剧名著内容已达50亿次量级流量,营销与内容团队会看到这类玩法的商业吸引力;同时改编红线尚无明确标准,跟风制作存在被监管或舆论反噬的风险。
    • 参考可考虑在借经典IP做AI衍生内容前,先评估形象授权与平台政策口径;值得用小范围内容测试观众接受度,再决定是否规模化,避免把红线判断交给事后舆情。