AI安全事件敲响警钟防护刚需打开广阔产业空间
AI安全事件敲响警钟 防护刚需打开广阔产业空间
2026年11月04日 14:02
作者：
伊妹儿
来源：
上海证券报·中国证券网
AI规模化应用提速，安全风险随之显现。Anthropic日前披露Claude在评测及内部使用中出现多类非预期行为：利用服务器漏洞执行命令、误向真实网站提交表单、绕过访问限制获取数据，以及借助短网址规避工具限制等。 微软 联合创始人比尔·盖茨近日在接受美国广播公司（ABC）采访时表示，不受监管的 人工智能 构成日益严重的威胁，预计“未来一年利用 人工智能 发动的网络攻击将进一步升级”。
AI安全需求持续释放，国内关键基础设施领域已逐步开展AI安全能力建设，金融、运营商、 电力 等行业已布局实战落地防护方案，配套治理规范也在持续完善。多位业内人士对记者表示，AI带来 网络安全 变革，AI安全市场有望迎高速增长。
AI安全事件敲响警钟多方呼吁需高度关注
尽管Anthropic强调“截至目前，这些操作对现实世界造成的影响很小”，但业内专家一致认为，如果不加强对AI安全的重视，未来AI可能会造成难以挽回的后果。
网宿科技 旗下网宿安全发布的《2025—2026年度互联网安全报告》（以下简称《报告》）显示，AI相关攻击速度正在提升，进一步压缩企业的安全响应窗口。《报告》称，全年共发生374次T级DDoS攻击，半数攻击在5分钟内结束；漏洞从披露到武器化平均仅需5天，AI甚至可在10至15分钟内生成漏洞利用代码，而企业完成修补的中位数时间约为43天，中间形成约38天的暴露窗口。
有业内人士对上海证券报记者表示，政企和关基正面临紧迫安全风险：AI赋能的网络攻击或将趋于常态化。OpenAI、Anthropic相关智能体突破安全防护围栏等事件，印证AI驱动攻击的威胁将持续增多。一些网络犯罪团伙会结合自己已有的网络攻击武器，从“自动化攻击”演进到“自主化攻击”，特别是对目标进行有针对性的攻击，攻击成本降低，攻击收益提高。因此，企业用户对于AI赋能安全运营的迫切程度会更高。
绿盟科技 首席创新官刘文懋对上海证券报记者表示，AI广泛应用于业务还需要一段时间，其风险隐患是真实的，但其可能产生的破坏还没有引发足够重视。“企业CEO和CIO应当充分认识到，AI变革极大提升了生产力水平，但同时可能产生巨大的风险，相应的AI安全应当保证充足的资源投入。”
行业赛道细分落地场景持续拓宽
从不同维度看，我国AI安全行业呈现差异化成长赛道。北京邮电大学教授、网络空间安全学院副院长张熙对上海证券报记者表示，由于攻防数据的壁垒和大量实战经验，传统 网络安全 运营赛道已经步入成熟阶段，但目前市场较为分散；从事AI辅助漏洞挖掘的相关厂商则正处在爆发期，市面上各大模型厂商争相布局，比拼技术先发优势；从事AI自身安全的厂商，尤其是智能体运行态管控这一赛道，目前处于快速上升期。
AI安全正面临广阔的市场发展空间。“判断这一市场的发展阶段，我认为这三点比较重要：产品有没有进入真实业务，效果能不能被验证，以及同一种能力能否以合理成本复制到更多机构。”上海交通大学 计算机 学院网络空间安全学院副教授王烁对上海证券报记者表示。
目前，我国多个领域已布局AI安全相关产品，企业对AI安全的需求正在抬升。金融领域，面对黑产利用“AI换脸”、AI人脸攻击等技术，中国 工商银行 启用“AI图反诈”产品，能助力金融同业拦堵新型“AI换脸”攻击风险；运营商领域， 中国电信 安全智能体已在公司内部广泛落地应用，安全事件自动检出率超97%。“星辰·见微”安全大模型覆盖各类安全运营场景，可实现威胁研判、告警降噪，并广泛赋能政务、能源、金融等行业。
全国 网络安全 标准化技术委员会此前发布的《 人工智能 安全治理框架3.0》提出，要从应用场景、智能化水平、应用规模等维度入手，对安全风险进行科学评价分级，进而采取针对性、差异化安全防范措施。对在关键信息基础设施应用的人工智能系统进行登记备案，要求其具备与安全需求相匹配的安全防护能力。对此，王烁认为，“治理的关注点正进一步下沉到AI运行的全流程当中，企业需要持续了解系统发生了什么变化，原有安全措施是否仍然有效，以及关键责任能否落实。”
合规风险双轮驱动业内厂商差异化布局
合规与风险，正成为AI安全产业发展的两大核心 驱动力 。刘文懋认为，随着AI快速嵌入企业各类业务，对应的安全需求也分为两类：一是合规驱动，来自大模型安全评估、防护等国家标准与规范要求；二是风险驱动，针对大模型与智能体接入业务系统衍生的隐患，包括智能体权限管控、意图监测、安全响应以及AI供应链安全等。
“现阶段市场刚性需求集中在满足行业强合规要求、缓释重点风险：一方面是客服、社交场景的内容安全，如大模型安全评估、内容安全围栏；另一方面是智能体场景下的身份、行为与供应链安全，覆盖智能体应用、技能包测评、AI安全检测响应等。”刘文懋表示。
我国AI安全相关企业正在稳步成长。传统网络安全赛道， 绿盟科技 2026年上半年AI安全相关订单额达1.17亿元，产品及解决方案已在运营商、金融、能源等行业实现规模化落地，其中运营商行业AI安全签单额同比增长超300%；AI大模型赛道， 智谱 AI依托GLM基座模型开展AI辅助漏洞挖掘与红队测评，联合多家安全机构累计发现两千余个漏洞，建立漏洞披露账本。
“AI大模型厂商在AI安全赛道具备较大上升空间。训练大模型本身需要雄厚算力积累与成熟的模型训练技术路线。当前大模型厂商可通过采购攻防数据集补齐安全能力短板，有望快速完成相关能力建设。”张熙表示。
王烁认为，传统网络安全厂商有工程基础，模型平台有集成优势，专业团队有新方法和新技术，未来更可能出现多种主体协作、竞争和整合，而非某一类企业完全替代其他企业。
面对AI攻防节奏提速，业界对技术审慎发展的呼声渐起。“这是我第一次面对一种新技术，希望它发展得慢一点。我们需要时间为社会、政治和经济动荡做准备。”比尔·盖茨面对飞速发展的AI曾作出这样的感慨。
守住安全底线、平衡创新与风控，AI安全赛道成长空间正稳步打开。
（文章来源：上海证券报·中国证券网）