
当地时间周二,CrowdStrike 表示,该公司在其 Falcon Guardian 平台中开发了一个 "AI 终止开关 "(AI Kill Switch),可在企业内部的 AI 智能体偏离预期、表现出恶意或失控行为时,由安全人员实时终止其运行、阻止其再次启动,并切断其企业网络访问权限。
" 人工智能安全是充分发挥人工智能优势的关键。部署带有终止开关的代理程序,就能保持控制权,"CrowdStrike 首席执行官兼创始人 George Kurtz 在一份新闻稿中表示。

近期一连串备受瞩目的的网络攻击事件,为建立某种紧急关停机制的呼声增添了紧迫感。7 月由失控的 OpenAI 智能体策划的 " 抱抱脸入侵事件 " 尤其令企业界警觉。上周,币安披露了有记录以来规模最大的加密货币网络攻击;黑客近期还攻击了法国超市的数百台冰箱与冰柜。
今年夏季,美国国会议员提出了要求 AI 公司在模型中内置关停能力的两党联合法案。但批评者认为,要跨越多个系统、数据中心与复杂的 AI 模型去实施一个紧急停止按钮,其复杂度远超现实。
Bernard 指出,在客户使用其 Falcon 平台的系统中,终止开关的工作原理类似于断路器。该流程可以检测内部代理的活动,但需要人工决定是否切断代理的访问权限并恢复其访问权限。
" 如果你在根目录终止一个进程,而我们又拥有根目录的访问权限……结果就非常非此即彼," 他补充说:" 要么你终止人工智能和代理,要么你不终止,然后你再汇报结果。"
CrowdStrike 进一步补充称,终止开关不会删除代理的代码,而是通过相连的 AI 网关,切断其对影响决策的 AI 模型的访问。
在人工智能时代,企业正迅速采用自主工具,但往往缺乏必要的安全保障和保护措施。CrowdStrike 认为其新工具将使公司能够及时阻止 AI 代理的 " 不当行为 ",同时为创新留出空间。
此外,CrowdStrike 还宣布了收购 AI 可观测性初创公司 Fiddler AI 与 AI 安全测试公司 Dreadnode 的计划。为了满足日益增长的安全需求,CrowdStrike 及其竞争对手正在迅速收购网络安全初创公司。对人工智能安全工具的需求也推动了更广泛的网络安全并购浪潮。