跳到正文
原文
IT之家·人工智能·· 5 小时前AI 评分52

CrowdStrike 发布 AI 终止开关,宣称能立即阻止失控 AI 智能体

CrowdStrike 造出“终止开关”,宣称能立即阻止失控 AI 智能体

文章要点
  • 1CrowdStrike 在 Fal.Con 欧洲大会发布 AI 终止开关,可停止异常智能体、阻止其重启并切断网络访问。
  • 2该功能属于监控企业内部 AI 智能体的 Falcon Guardian 平台,即日起开放使用,针对智能体普及带来的安全隐患。
  • 3CEO 库尔茨称网络安全正从防外部威胁转向管控企业内部智能体,并称这是 CrowdStrike 的巨大市场机会。
  • 4CrowdStrike 与 Anthropic 合作保护 Claude Cowork,其股价 10 月 6 日以 278.86 美元创收盘新高后累计下跌约 12%。
决策要点

网络安全厂商正把企业内部智能体的管控能力产品化,安全边界从防外部威胁扩展到确保自家 AI 系统按指令运行。

  • 影响:企业部署自主运行的智能体时,安全管控正成为采购前置条件;智能体数量增多后,关停与权限切断能力会成为平台选型的比较项;安全服务商由此打开面向内部智能体的新增市场。
  • 参考:可考虑在智能体试点方案中明确谁有权执行关停、如何切断网络访问与阻止重启;值得先盘点企业内已运行的智能体清单及其权限,把管控要求写进采购条款。
  • 依据:功能发布与客户需求均来自 CrowdStrike CEO 在 Fal.Con 欧洲大会的表态,经美国 CNBC 报道、IT之家转述,属官方口径,暂无独立验证;股价数据为公开市场行情。
正文

IT之家 11 月 4 日消息,当地时间 3 日,据美国 CNBC 报道,网络安全公司 CrowdStrike 的 CEO 乔治 · 库尔茨宣称,公司推出了一项新功能,可以直接关停失控的 AI 智能体。

CrowdStrike 在 Fal.Con 欧洲大会上发布了“AI 终止开关”,安全人员可以借此停止异常智能体的运行、阻止其重新启动,并切断其网络访问权限。

库尔茨表示:“大家都在开发 AI 智能体,却一直没有关闭它们的按钮。现在有了。这样对确保 AI 智能体安全运行极为重要。”

“AI 终止开关”属于 CrowdStrike 旗下 Falcon Guardian 平台的功能,该平台负责监控企业内部运行的 AI 智能体。新功能即日起开放使用,主要用于解决 AI 智能体快速普及带来的安全隐患。

今年 9 月,Anthropic CEO 达里奥 · 阿莫代伊曾因担忧安全问题而呼吁放缓 AI 研发,OpenAI CEO 萨姆 · 奥尔特曼也支持这一主张。

库尔茨当时反驳称,即使放慢研发速度,现有安全风险也不会消失,企业部署自主运行的 AI 系统时仍然需要安全保障。

库尔茨此次则进一步指出,终止开关意味着网络安全行业的一项重大转变。过去,网络安全主要是防范来自企业外部的威胁,但随着 AI 智能体在企业内部得到广泛应用,安全服务商还需要确保这些系统本身不会失控。“保障智能体安全运行,对 CrowdStrike 来说是巨大的市场机会。我们既有 AI 技术防范外部入侵,也能确保智能体基本按照指令执行任务。”

库尔茨还把终止开关比作汽车安全气囊,认为即使 AI 系统原本就按照正常运行的要求设计,也不能缺少安全保护,“如果智能体在运行过程中越过安全边界,我们就能将其关停。”

企业加快采用 AI,也带动了 CrowdStrike 安全产品的需求。库尔茨以公司与 Anthropic 合作保护 Claude Cowork 为例称,企业客户在部署 Anthropic 产品前,曾主动要求整合 CrowdStrike 的安全技术。“我们的客户找到 Anthropic,说:‘我们需要 CrowdStrike,才能部署 AI。’我认为,客户如果没有 CrowdStrike 就不愿部署 AI,这足以说明很多问题。”

CrowdStrike 股价 10 月 6 日以 278.86 美元(IT之家注:现汇率约合 1,864 元人民币)创下收盘历史新高,但受 10 月至 11 月初科技股表现疲弱影响,此后累计下跌约 12%。

来源:IT之家·人工智能 · ithome.com