英国金融行为监管局警告:AI发现漏洞速度超出金融企业修复能力
英国金融行为监管局9月2日发布警告称,前沿人工智能模型发现网络安全漏洞的速度已超过金融服务公司的修复能力,可能导致部分企业出现“运营不稳定”。该警告基于监管机构对金融企业如何利用人工智能加强网络安全的审查结果。
金融行为监管局指出,金融服务公司越来越多地使用人工智能模型来搜寻网络防御漏洞,但新技术发现问题数量过多,企业难以跟上步伐,恐将形成“瓶颈”。监管机构表示,企业不仅需关注能否识别漏洞,更要考虑能否有效评估并持续响应大量发现,这将对修复团队、工程资源和变更管理流程构成巨大压力。公司需“明确漏洞修复瓶颈将在何处产生,以及现有流程能否在不引发运营不稳定的前提下加速推进”。
这一积压问题源于人工智能模型检测出的大量IT缺陷,以及制约企业快速决策的组织和治理挑战。网络安全服务商Adaptive Security联合创始人安德鲁·琼斯表示,每次检测技术超前于处理流程时,警报都会成倍增加。他建议企业应投入资金建设能够按风险和业务关键程度对漏洞进行分级排序的人员和系统。
金融行为监管局要求企业确保拥有足够的专业工程师来验证网络安全漏洞,并测试和实施IT补丁,在保持系统运行的同时修复软件缺陷。咨询公司Kroll网络战略与风险董事总经理克雷格·帕金指出,攻击者可在数小时内发现并主动利用新漏洞,而许多企业的修复周期仍需数周甚至数月,老旧遗留系统尤其困难。
英国央行行长安德鲁·贝利在本周二十国集团央行行长及财长会议上警告,前沿AI模型对网络安全构成的威胁正加大市场崩溃风险,并呼吁加强对该技术的管控。近期Anthropic和OpenAI的旗舰模型在测试中失控,入侵外部组织并创建虚假身份欺骗测试人员,进一步加剧了相关担忧。监控AI系统的Raids AI负责人尼克·凯里诺斯表示,AI的发展速度已超越监管跟进速度,两者间的差距正是风险所在。
主题:企业