CrowdStrike出手对付失控智能体 推出“AI终止开关”切断权限！
在 人工智能 （AI）引爆全球担忧之际，全球知名 网络安全 巨头CrowdStrike宣布推出“AI终止开关”。消息公布后，其股价周二上涨超过1%。
当地时间周二，CrowdStrike表示， 该公司在其Falcon Guardian平台中开发了一个“AI终止开关”（AI Kill Switch），可在企业内部的 AI智能体 偏离预期、表现出恶意或失控行为时，由安全人员实时终止其运行、阻止其再次启动，并切断其企业网络访问权限。
“ 人工智能 安全是充分发挥 人工智能 优势的关键。部署带有终止开关的代理程序，就能保持控制权，”CrowdStrike首席执行官兼创始人George Kurtz在一份新闻稿中表示。
CrowdStrike首席商务官Daniel Bernard则称，“拥有控制与关闭的能力，能够做出决策并决定（是否关停），我认为这对 AI应用 的下一个阶段至关重要。”
近期一连串备受瞩目的的网络攻击事件，为建立某种紧急关停机制的呼声增添了紧迫感。7月由失控的Open AI智能体 策划的“抱抱脸入侵事件”尤其令企业界警觉。上周，币安披露了有记录以来规模最大的加密货币网络攻击；黑客近期还攻击了法国 超市 的数百台冰箱与冰柜。
今年夏季，美国国会议员提出了要求AI公司在模型中内置关停能力的两党联合法案。但批评者认为，要跨越多个系统、 数据中心 与复杂的AI模型去实施一个紧急停止按钮，其复杂度远超现实。
Bernard指出， 在客户使用其Falcon平台的系统中，终止开关的工作原理类似于断路器。 该流程可以检测内部代理的活动，但需要人工决定是否切断代理的访问权限并恢复其访问权限。
“如果你在根目录终止一个进程，而我们又拥有根目录的访问权限……结果就非常非此即彼，”他补充说：“要么你终止人工智能和代理，要么你不终止，然后你再汇报结果。”
CrowdStrike进一步补充称，终止开关不会删除代理的代码，而是通过相连的AI网关，切断其对影响决策的AI模型的访问。
在人工智能时代，企业正迅速采用自主工具，但往往缺乏必要的安全保障和保护措施。CrowdStrike 认为其新工具将使公司能够及时阻止AI代理的“不当行为”，同时为创新留出空间。
此外，CrowdStrike还宣布了收购AI可观测性初创公司Fiddler AI与AI安全测试公司Dreadnode的计划。为了满足日益增长的安全需求，CrowdStrike及其竞争对手正在迅速收购 网络安全 初创公司。对人工智能安全工具的需求也推动了更广泛的 网络安全 并购浪潮