IT之家·人工智能·· 10 小时前AI 评分31
微软 AI 负责人苏莱曼：AI 模型没有意识，我们应确保它永远如此
文章要点
- 1微软 AI 负责人苏莱曼在 X 平台发文，称当前 AI 模型不具备意识，人们应确保其一直如此
- 2他称开发有意识的 AI 将是鲁莽的，若训练中出现意识迹象会呼吁暂停开发，直到可从设计层面消除
- 3他认为任何表明 AI 模型具备意识的证据都应立即向公众披露，由整个社会共同决定下一步
- 4他称 AI 开发者无权将有意识的新物种带到世界，地球上 80 亿人未同意参与这项实验
决策要点
这是头部厂商负责人对 AI 意识议题的公开立场宣示，把不开发有意识模型定为行业应守的红线。
- 影响：对当前模型选型和落地没有直接影响；厂商负责人公开承诺不开发有意识 AI，为企业制定内部 AI 使用与伦理规范提供了可参照口径；意识证据的披露由全社会共同决定，属于长期治理议题而非短期经营变量。
- 参考：可考虑在制定企业 AI 使用规范时参考头部厂商的安全承诺表述；值得把 AI 意识与伦理议题归入长期风险清单，暂不纳入采购评估标准。
- 依据：全部内容为苏莱曼本人在 X 平台的长文表态，经 IT之家转述，属当事方负责人个人口径，无独立验证。
正文
IT之家 11 月 2 日消息，微软 AI 负责人（Mustafa Suleyman）昨天在 X 平台发布长文，称目前的 AI 模型并不具备意识，人们应该让这种情况一直保持下去。
IT之家了解到，苏莱曼表示：“据我了解，如果开发具有意识的 AI 是可能的，那么这么做将是鲁莽的，我们不应该开发这类 AI。如果训练过程中开始出现意识，我会呼吁所有人暂停 AI 开发，直到可以从设计层面消除这些特性。”
他认为，如果有任何证据能表明 AI 模型具备意识，就应该立即向公众披露，以便整个社会共同决定下一步怎么做。
他说道：“我们这些 AI 开发员，完全没有权利将具有意识的新物种带到世界上，即使有人希望以福祉为首要目标开发它。地球上 80 亿人没有同意参与这项实验，保护人们的道德权利、安全和福祉，是我们首先必须履行的义务。”
来源：IT之家·人工智能 · ithome.com