IT之家·人工智能·· 3 小时前AI 评分33
OpenAI CEO 奥尔特曼警示，未来人类可能无法从 AI 手中夺回控制权
OpenAI CEO 奥尔特曼警示：未来人类可能无法从 AI 手中夺回控制权
文章要点
- 1奥尔特曼在 Raj Shamani 播客称 AI 失控路径有二，人类逐步交权或某一方垄断 AI 技术
- 2他警告人类可能有意或无意将控制权交给能力远超人类的系统，最终再也无法夺回。
- 3他称多家不同路线实验室相互竞争比依赖一家企业安全，这种集权担忧解释了马斯克等人出走创业。
- 4他仍坚信 AI 将带来更美好未来，特别提到基础科学研究，称下一代模型能让科学持续进步。
决策要点
奥尔特曼把 AI 失控归结为逐步交权与一家垄断两条路径，实质是为多实验室并存的竞争格局作安全背书。
- 影响：依赖单一 AI 厂商的风险被 OpenAI 掌门人本人点名，供应商集中度评估可直接引用这一口径；他对把控制权交给自主式 AI 的警告，提示企业需为 AI 代理预设授权边界。
- 参考：可考虑在 AI 采购中保留两条以上技术路线，避免全押一家；部署自主式 AI 前值得先划清可自动执行与需人工确认的任务边界。
- 依据：观点出自奥尔特曼在 Raj Shamani 播客的表述，经 IT之家转述，属当事人口径、暂无独立验证，未涉及产品发布或实测数据。
正文
IT之家 11 月 6 日消息，OpenAI 首席执行官萨姆 · 奥尔特曼（IT之家注：Sam Altman）最近出席 Raj Shamani 播客时表示，人工智能可能通过两种方式走向失控：一是人类逐步将控制权交给自主式 AI，二是某个人或实体垄断 AI 技术。
针对第一种情况，奥尔特曼警告称：“AI 会逐渐失去控制，我们可能有意或无意地将控制权交给能力远超人类的系统，最终再也无法夺回。”
第二种情况的风险在于巨头垄断，奥尔特曼解释称：“另一种情况是，某个人、公司或国家相对于其他所有人来说过于强大。让多个不同路线的 AI 实验室相互竞争，比所有人依赖一家企业安全得多。”
这种对过度集权的担忧，解释了马斯克以及 OpenAI 的前高管等知名人士会选择离开，创办与之竞争的公司。奥尔特曼指出：“很多人的思维中都会出现一种想法，那就是他们只相信自己有能力开发这项技术，因为利害关系实在太大了。”
话虽如此，奥尔特曼仍然坚信 AI 将让人类迎来更美好的未来。他特别提到了基础科学研究，认为下一代 AI 模型能让科学持续进步。
来源：IT之家·人工智能 · ithome.com