登录

推理成本


分类

下降

把模型权重开放出去让外部开发者完成创新,再通过推理成本的下降获取利润,这套打法只有在算力受限的位置上才具备内在合理性。
文章

效果

据介绍,Trainium的性价比较同类处理器高出约30%至40%,客户花同样的钱就能获得更多算力,“我们的芯片业务在降低推理成本方面发挥着重要作用。
文章