网宿科技获“年度AI产业应用领航奖”持续深化边缘AI布局
9月11日,全球边缘AI算力大会在北京举行。会上,网宿科技凭借在边缘AI领域的持续布局与实践,获得“金算奖・年度AI产业应用领航奖”。
大会期间,网宿科技边缘AI资深架构师陈云辉分享了网宿从“流量管道”到“分发智能”的演进路径、能力体系以及未来展望。
从内容分发走向智能分发
随着人工智能应用不断深入,网络流量结构正在发生变化。一次业务请求的背后,可能不再只是打开网页或播放视频,也可能涉及模型调用、Token生成以及多个Agent协同完成任务。
在陈云辉看来,网络基础设施需要解决的核心问题并未改变,即让服务以更高效、更稳定的方式抵达用户。区别在于,CDN时代解决的是“让内容离用户更近”,而Token时代需要进一步实现“让智能离用户更近”。
陈云辉介绍,在CDN时代,网宿科技通过将网站、图片、视频等内容部署至靠近用户的边缘节点,并借助智能调度系统选择更优传输路径,应对突发流量,保障业务稳定传输。
进入Token时代,模型推理对算力提出了更高要求。由于算力分布在不同地域和节点,用户请求也呈现出明显的波峰波谷,系统需要在模型与算力之间进行精准匹配,并在响应速度、资源成本和服务稳定性之间实现平衡。同时,还需要通过故障检测、自动切换等机制保障服务连续性。
“这些正是网宿科技长期积累的核心能力。”陈云辉表示。依托二十多年边缘节点运营经验、智能调度能力及全链路安全防护体系,网宿科技正在将服务对象从“内容”拓展至“智能”,推动业务能力从“内容传输”向“智能分发”延伸。
边缘AI网关构建企业AI统一入口
网宿科技将边缘AI网关定位为企业AI化的统一入口,企业通过边缘AI网关可接入200多个模型,并根据业务需求调用模型、启用安全能力,以及配置智能调度和缓存策略。
“网宿科技希望通过生产侧和运营侧的持续优化,让每一次用户请求都能够得到高效、稳定、经济的响应。”陈云辉表示。
目前,网宿科技围绕边缘AI网关重点构建了三方面能力。
一是智能路由与多模型融合。Auto可根据任务复杂度、成本约束和实时负载等因素,自动匹配适合的模型,在响应效果与使用成本之间实现动态平衡。Fusion则在网关层支持多模型并发、独立推理和结果共识提炼,通过组合不同模型的能力,提升输出结果的稳定性与可靠性,并降低企业自建多Agent系统的开发和运维成本。
二是分层调度与算力闲时复用。网宿科技通过分层算力架构,由边缘节点承接轻量级实时推理,区域GPU资源承接中等规模任务,中心集群承接复杂批量推理。在此基础上,结合跨时区、跨客户和跨业务的错峰调度,提升算力资源利用率,减少资源闲置及峰值扩容带来的成本压力。
三是安全防护与统一治理。在安全方面,网宿科技构建了涵盖入口防护、网关管控、AI防爬和持续安全运营的边缘AI安全体系。在治理方面,则通过统一AI治理(UAG),对AI应用的成本、安全和责任进行统一管理,提升企业AI应用的可控性与可持续性。
建设Token工厂 提升算力运营效率
除边缘AI网关外,网宿科技还在持续探索Token生产与算力运营能力。
据介绍,在江苏常州和浙江海宁,网宿科技正联合产业链伙伴共建城市级绿色Token工厂,围绕绿电供给、算力调度和Token标准化服务等环节,探索绿色化、标准化Token服务能力。
在推理服务方面,网宿科技持续推进推理引擎优化,并探索算力闲时复用机制,以提升推理效率和资源利用率。
“通过生产、调度与优化环节的自动化闭环,最终形成‘模型优化推理服务、推理服务承载模型’的能力循环。”陈云辉表示。
调度、成本、安全成为AI规模化落地关键
随着AI应用从单轮问答向Agent、A2A(Agent to Agent)等复杂交互演进,单个任务涉及的模型调用和工具调用次数持续增加。与此同时,AI Coding等应用逐步实现商业化,多模态生成领域的需求也在快速增长。
陈云辉表示,随着Token消耗规模扩大,Token交付的市场空间将进一步拓展;随着业务对响应时延提出更高要求,边缘节点在就近计算和低时延服务方面的价值也将进一步凸显。
在多模态应用中,AI视频生成是网宿科技重点关注的方向之一。与语言大模型相比,部分视频模型的参数规模相对较小,更适合在边缘节点部署。同时,视频生成、审核和推流通常需要在秒级时间窗口内完成,对就近计算能力和低时延网络链路提出了更高要求。
目前,网宿科技已围绕H3等开源视频模型开展定制化优化。据介绍,经过优化后,5秒视频的生成时间已由28秒缩短至3至4秒,实现生成速度快于播放速度,可为实时直播等场景提供支持。
“模型决定生成效果的下限,而能否实现规模化落地,取决于模型之上的调度能力、成本控制和合规保障。”陈云辉表示,“这正是网宿科技从CDN向AIDN演进的核心机遇。”
(注:此文属于央广网登载的商业信息,文章内容不代表本网观点,仅供参考。)