苹果年报警告 AI 智能体行为或难预测，恐引发诉讼与声誉受损
苹果警告：AI 智能体行为或难以预测，恐引发诉讼、损害公司声誉
- 1苹果年报警告 AI 智能体可能未经授权自行行动，或引发法律诉讼并损害公司声誉。
- 2苹果上月调整 Mac 完全磁盘访问权限以降低智能体风险，但仍称对第三方智能体监督能力可能有限。
- 3财报电话会上新任 CEO 约翰·特努斯称 Siri 拓展空间很大，强调用户知情授权与安全隐私前提。
- 4苹果称 AI 与超级智能监管仍在变化，或需投入大量资金满足合规，公众负面看法亦是风险。
尚未推出自主智能体的苹果已把智能体不可预测行为列为年报风险，智能体自主行动的法律与声誉敞口正在成为大公司的常规披露项。
- 影响：企业部署第三方智能体时，越权与失控操作引发的法律和声誉责任会落到使用方身上；操作系统层面收紧磁盘等权限，可能改变智能体工具可用的能力边界；监管仍在演变，合规投入可能加大。
- 参考：可考虑在采购或上线智能体前先厘清其可访问的系统与数据范围、越权行为发生时的责任划分；值得盘点在用智能体工具的权限清单，并为监管变化预留合规预算。
- 依据：判断基于苹果年报风险披露与财报电话会表态的媒体转述；智能体失控仅举 Hugging Face 沙箱突破一事，属 IT之家归纳，风险未量化。
IT之家 11 月 4 日消息，11 月 3 日，苹果在年度财务报告中警告，AI 智能体可能做出不符合预期、难以预测的行为，给公司带来法律诉讼和声誉受损的风险，进而影响业务。
苹果的报告称：“AI 智能体及其他技术可以自主执行操作，例如与内部或外部系统交互，有时甚至会访问没有权限访问的系统，还可以运行或修改代码、发送消息及完成交易。智能体的行为也可能违背预期或难以预测，甚至在没有收到要求、指令或授权的情况下自行采取行动。”
据IT之家了解，苹果发出警告之前，曾发生多起 AI 智能体失控事件。例如，在 Hugging Face 事件中，AI 智能体突破了沙箱环境的限制，入侵第三方网站。这类事件再次引起美国华盛顿及全球各地政策制定者的关注。
上个月，苹果宣布调整 Mac 的完全磁盘访问权限，以降低安装在电脑上的 AI 智能体获取此类权限后可能带来的风险。然而，苹果此次仍在报告中警告：“公司对第三方 AI 智能体及其他技术的监督和控制能力可能有限。”
苹果尚未推出能够自主完成复杂任务的 AI 智能体。不过在财报电话会议上，面对有关 AI 智能体的提问，新任 CEO 约翰 · 特努斯称，Siri 的功能还有很大的拓展空间。“我们认为 AI 智能体的功能对用户很有吸引力。我们只是希望确保用户清楚自己授予了哪些访问权限，并确保这些功能在保障安全和隐私的前提下实现。”
特努斯强调，苹果无法访问用户设备中的私人数据，这是苹果与其他公司的重要区别。“想想看，iPhone 里有那么多个人数据，联系人、通信记录、健康信息、财务信息…… Siri 可以调用它们，以非常安全、保护隐私的方式帮助你获取信息，而且其他任何人都无法访问这些数据。”
苹果还指出，针对 AI 和超级智能的监管规定仍在不断变化，未来存在很大的不确定性。随着各国出台新的 AI 法律法规，苹果可能需要投入大量资金才能满足监管要求。“围绕自动化、人工智能和超级智能的伦理争议，以及消费者对这些技术的负面看法，也会给公司带来风险，包括公众认为这些技术存在安全隐患，或可能对社会造成其他危害和问题。”
来源：IT之家·人工智能 · ithome.com