登录

对话九章云极尚明栋:如何让同样一张卡产出更多Token?


速读:九章云极能站在今天这个生态位,则要追溯到2013年,其创始人尚明栋、方磊从美国微软回到中国,开始创业。 对话九章云极尚明栋:如何让同样一张卡产出更多Token? 九章云极同时给客户两份账单:一份是包月计费、一份是按照DCU计费,实测对比发现能省40%。 九章云极联合创始人兼COO尚明栋图源:九章云极。

九章云极同时给客户两份账单:一份是包月计费、一份是按照DCU计费,实测对比发现能省40%。

南方周末研究员 曹妍

责任编辑:黄金萍

用AI提质增效,从个人到企业,Token的消耗越来越多、越来越快。

AI算力成本还能降多少?要怎么降?

九章云极给出的答案,是六成。

这个数字来自一个头部大模型厂商的真实项目,九章云极将其综合算力成本降了60%以上。

九章云极是一家创办于2013年的中国AI基础设施及智算云提供商。它不建超大数据中心,却建高效的调度系统;不卖最贵的GPU,却让每一度算力都物尽其用。在智算硬件受限的情况下,在大厂云、电信运营商智算云等AI基础设施巨头面前,这类“小个头”的效率让人惊叹。

这要归功于他们自主研发的Alaya NeW智算操作系统,能够向下纳管大规模异构算力,向上提供模型工具链。九章云极想要做“AI工厂”。其中,训练工厂解决智能“从0到1”的研发与制造,Token工厂完成智能“从1到N”的规模化交付,以低成本、高稳定的方式输出AI能力。

目前,九章云极已完成智谱GLM-5.2、DeepSeek-V4 Flash、Kimi K3等中国主流大模型适配,并与百度昆仑芯、海光信息、天数智芯等芯片厂商达成生态合作。

九章云极能站在今天这个生态位,则要追溯到2013年,其创始人尚明栋、方磊从美国微软回到中国,开始创业。

在那之前,尚明栋在微软做了5年的服务器高可用集群和文件系统核心开发工程师,参与Windows 7、Windows 8的研发,是SMB 3.0网络文件共享协议的主要起草人之一,理解操作系统如何统筹硬件、定义软件。方磊当时担任必应(Bing)部门的数据科学家,亲历机器学习在搜索推荐上的早期应用。

九章云极联合创始人兼COO尚明栋 图源:九章云极

2013年3月,方磊、尚明栋共同创立九章云极DataCanvas,这是中国最早切入数据科学服务的平台之一。该平台将数据清洗、特征工程、模型训练、部署上线等一系列高难度工作自动化,用户无需深厚的编程背景就能在平台上完成从建模到投产的全流程。

2022年年底,ChatGPT引爆生成式AI,模型参数的规模急剧膨胀,智算云时代由此到来。九章云极自2023年开始转型,作为独立智算新云的提供商,与“大厂云”们形成差异化供给。

传统算力租赁模式通常包年包月,九章云极提出DCU(1度算力)的标准化计量单位:1度算力=312TFLOPS(FP16) 的有效浮点计算持续1小时,近似一张英伟达A100在典型训练负载下的有效算力输出。

这类似于电力行业的“一度电”,可计量、可结算、可按需消费,中小企业就能按需购买,让闲置的资源流向更多需求方。

九章云极同时给客户两份账单:一份是包月计费、一份是按照DCU计费,实测对比发现能省40%。在九章云极自己的账本里,不同模型能力的单位Token成本,差距更是高达五六倍。

以下为南方周末研究员与九章云极联合创始人兼COO尚明栋的访谈。

能力平台化、低门槛化 南方周末: 你此前在微软的主要工作是什么,为什么在2013年选择回国创业?

尚明栋: 我在微软主要是做底层操作系统中的文件系统与存

主题:九章云极|尚明栋|智算云