跳到正文

全部动态

今日 5 条
9月22日周二
9月21日周一
  1. OpenAI:官网动态30

    OpenAI 提出全球 AI 标准路径,呼吁协调评估、报告与治理以提升安全

    OpenAI 在官网发布文章,提出构建共享的全球 AI 标准的路径,呼吁以协调一致的评估、报告和治理机制提升 AI 安全。该提议面向 AI 的下一阶段发展;目前可见材料仅为官方摘要,全文具体方案未随材料给出。

    决策要点

    OpenAI 主动倡导以协调评估、报告和治理为核心的全球 AI 标准路径,属头部厂商的治理立场表态,全文具体内容暂未随材料给出。

    • 影响若协调评估与报告成为主流标准方向,使用 AI 的企业可能面临更明确的透明度和合规要求;厂商安全治理能力在选型时会获得更多权重;当前材料仅陈述立场,尚无具体条款可评估影响。
    • 参考可考虑查阅 OpenAI 原文,确认其呼吁的评估和报告要求是否涉及企业用户;值得把 AI 治理纳入内部合规清单;选型模型厂商时可询问对方是否具备相应的安全评估与报告机制。
9月18日周五
  1. OpenAI:官网动态29

    OpenAI 发布澳大利亚青少年安全蓝图,规划六大支柱保护年轻人

    OpenAI 发布澳大利亚青少年安全蓝图,一份由六大支柱组成的路线图,目标是让 AI 体验对年轻人更安全,并在保护的同时帮助他们更好地使用 AI。公告仅提供官方摘要,六大支柱的具体措施尚未展开。

    决策要点

    OpenAI 将青少年安全整理成面向澳大利亚单一市场的六支柱路线图,平台安全策略以框架形式对外公开。

    • 影响面向未成年人的 AI 业务在澳大利亚多了一份可对照的安全框架;教育和青少年内容等场景的供应方可能需要对照自家产品策略;六大支柱的具体措施未随公告公开。
    • 参考可考虑先圈出自家业务中面向未成年人的场景清单,等六大支柱全文公布后再逐条对照,评估产品策略与安全要求之间需要调整的部分。
9月14日周一
  1. Tomasz Tunguz 博客59

    What Does Pacing Mean?

    Tomasz Tunguz 撰文分析 Dario Amodei 呼吁 AI 行业自我限速后的反应,梳理出可解释性、劳工、经济增长、地缘竞争与监管俘获五个阵营,各方都定价了暂停的代价但没有一方给出具体速度。

    决策要点

    限速之争的实质是谁来为 AI 的代价定价,各方都在谈暂停的成本,却没有可执行的速度定义,训练算力门槛这类固定数字也追不上每年约 5 倍的算力增长。

    • 影响限速若落地,依赖前沿模型快速升级的产品与采购路线需要重算节奏;报告与门槛义务只落在训练前沿模型的少数厂商;目前没有量化标准,政策走向难以写入预算假设。
    • 参考可考虑评估自身路线图对前沿模型升级速度的依赖,测算改用开源模型的替代窗口,目前开源与闭源差距约为 4 个月;值得跟踪美国是否会重启算力门槛类立法。
7月16日周四
  1. Google DeepMind:Blog36

    Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,防范 AI 滥用并支持疫情防控

    Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,从防范、检测、响应三方面应对 AI 相关的生物安全风险。过去 12 个月已与政府机构、生物安全组织和研究团队推进超过 15 项合作,并探索将 SynthID 水印适配到生物领域,帮助 DNA 合成服务商筛查有潜在风险的 AI 生成序列。

    决策要点

    前沿 AI 实验室正把生物风险管理做成攻防并用的长期机制,AI 被同时当作风险源和防御工具来治理。

    • 影响生物医药与合成生物企业会面对更普遍的 AI 生成序列筛查要求;能否进入可信伙伴名单将影响借前沿模型加速疫苗和药物研发的渠道;这类合作以政府和公共卫生机构为节点,单独接触前沿模型的路径有限。
    • 参考涉及 DNA 合成、病原测序或疫苗研发的企业可考虑先梳理自身业务中的双用途环节,对齐筛查流程;研发团队值得评估申请成为可信合作方的门槛与周期,再决定是否投入资源。
7月25日周五
  1. Josh Bersin71

    解读美国AI行动计划,白宫政策重心转向赢得AI竞争

    白宫本周发布28页AI行动计划,政策重心从此前的监管讨论转向赢得AI竞争,主张减少监管、加快数据中心与能源建设。计划支持开源模型、向中国等国出售美国芯片与软件,劳工部同时在推动AI教育、再培训税收优惠和AI就业影响研究。作者认为该计划代表政府对行业认知的进步,但版权与偏见争议仍未解决,Meta对13位作者的版权诉讼获胜,Workday招聘偏见集体诉讼推进并可能涉及11亿份求职申请。

    决策要点

    美国AI政策从防范风险转向竞争加速,版权与偏见争议正由判例个案消化,企业用AI的合规责任更多落在自身与供应商之间。

    • 影响招聘环节使用AI的企业直接面对偏见集体诉讼风险;版权诉讼风向利好模型训练方,企业需靠合同约束供应商不得用内部数据训练;政策方向是放松监管、加快数据中心与能源建设。
    • 参考可考虑盘点在用AI工具的合同里是否写明不得用企业数据训练;值得核查招聘筛选工具的偏见测试与争议应对安排;涉版权训练的团队可参照Meta案判例边界再定方案。
10月15日周二
  1. Anthropic:Newsroom49

    Announcing our updated Responsible Scaling Policy

    Anthropic 发布负责任扩展政策(RSP)的重要更新,把安全防护从原则承诺改为按模型能力阈值触发升级的机制。新框架设定自主 AI 研发与 CBRN 武器协助两大能力阈值,触发后分别要求 ASL-4 或更高、ASL-3 标准防护,目前其所有模型运行在 ASL-2。

    决策要点

    Anthropic 把安全承诺细化为按模型能力触发防护升级的分级治理机制,并主动披露执行中的未达标情况,为 AI 风险治理提供了可参照的操作样本。

    • 影响头部厂商的风险治理正从原则声明走向可核查的分级机制,企业在模型选型与合作谈判中可要求对方说明防护等级与评估结论;前沿模型能力逼近阈值时可能带来更严部署限制与安全成本。
    • 参考可考虑在模型采购评估中增加对厂商安全治理框架的问询项,如防护等级、能力评估频率与红队流程;也值得参照能力阈值思路,为内部 AI 应用的风险分级列出清单。