OpenAI 阐述有效第三方 AI 安全评估的重点与原则
OpenAI 通过官网发布声明,阐述针对有效第三方 AI 安全评估的重点事项与原则。声明面向 AI 前沿模型及其安全保障措施的评估,主张评估应具备严格、安全与独立的特质。材料目前仅提供官方摘要,各条原则的具体内容以原文为准。
OpenAI 通过官网发布声明,阐述针对有效第三方 AI 安全评估的重点事项与原则。声明面向 AI 前沿模型及其安全保障措施的评估,主张评估应具备严格、安全与独立的特质。材料目前仅提供官方摘要,各条原则的具体内容以原文为准。
OpenAI 在官网发布文章,提出构建共享的全球 AI 标准的路径,呼吁以协调一致的评估、报告和治理机制提升 AI 安全。该提议面向 AI 的下一阶段发展;目前可见材料仅为官方摘要,全文具体方案未随材料给出。
OpenAI 主动倡导以协调评估、报告和治理为核心的全球 AI 标准路径,属头部厂商的治理立场表态,全文具体内容暂未随材料给出。
OpenAI 发布澳大利亚青少年安全蓝图,一份由六大支柱组成的路线图,目标是让 AI 体验对年轻人更安全,并在保护的同时帮助他们更好地使用 AI。公告仅提供官方摘要,六大支柱的具体措施尚未展开。
OpenAI 将青少年安全整理成面向澳大利亚单一市场的六支柱路线图,平台安全策略以框架形式对外公开。
Tomasz Tunguz 撰文分析 Dario Amodei 呼吁 AI 行业自我限速后的反应,梳理出可解释性、劳工、经济增长、地缘竞争与监管俘获五个阵营,各方都定价了暂停的代价但没有一方给出具体速度。
限速之争的实质是谁来为 AI 的代价定价,各方都在谈暂停的成本,却没有可执行的速度定义,训练算力门槛这类固定数字也追不上每年约 5 倍的算力增长。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,从防范、检测、响应三方面应对 AI 相关的生物安全风险。过去 12 个月已与政府机构、生物安全组织和研究团队推进超过 15 项合作,并探索将 SynthID 水印适配到生物领域,帮助 DNA 合成服务商筛查有潜在风险的 AI 生成序列。
前沿 AI 实验室正把生物风险管理做成攻防并用的长期机制,AI 被同时当作风险源和防御工具来治理。
白宫本周发布28页AI行动计划,政策重心从此前的监管讨论转向赢得AI竞争,主张减少监管、加快数据中心与能源建设。计划支持开源模型、向中国等国出售美国芯片与软件,劳工部同时在推动AI教育、再培训税收优惠和AI就业影响研究。作者认为该计划代表政府对行业认知的进步,但版权与偏见争议仍未解决,Meta对13位作者的版权诉讼获胜,Workday招聘偏见集体诉讼推进并可能涉及11亿份求职申请。
美国AI政策从防范风险转向竞争加速,版权与偏见争议正由判例个案消化,企业用AI的合规责任更多落在自身与供应商之间。
Anthropic 发布负责任扩展政策(RSP)的重要更新,把安全防护从原则承诺改为按模型能力阈值触发升级的机制。新框架设定自主 AI 研发与 CBRN 武器协助两大能力阈值,触发后分别要求 ASL-4 或更高、ASL-3 标准防护,目前其所有模型运行在 ASL-2。
Anthropic 把安全承诺细化为按模型能力触发防护升级的分级治理机制,并主动披露执行中的未达标情况,为 AI 风险治理提供了可参照的操作样本。