推理

推理和行动，是两种用来降低同一种不确定性(epistemicuncertainty,认知不确定性)的工具。

可以说，推理是持续性消耗，成本敏感度远高于训练，“性价比”从边缘话题变成核心命题。

Mod42战略副总裁ValerieCrafton：“推理是唯一能‘跟着电走’的算力，这正是微型数据中心兴起的原因。

这项工作也不是在声称解决了所有流式推理问题。

SxSInterleavedReasoning让大模型在推理过程中学会“边想边说”：只有当答案片段已经被当前推理前缀支持时，才把它作为用户可见内容披露出来；

这说明SxS的收益不是单纯“把答案提前挪到前面”，而是改变了推理过程中的披露节奏：用户能更早、更频繁地看到有任务意义的内容，同时最终答案质量并没有被牺牲。

英伟达+EPRI的分布式推理试点：2026年底前开工，预计仅0.1%时间需要迁移算力。

张小猫作为横跨小说、影视、综艺及线下实景娱乐的创作者与经营者，他本人之于国内悬疑推理行业的参与方式与身份归属非常多元。

换句话说，其经历本身便折射出中国悬疑推理行业生态的丰富性与复杂性。

如果Agent系统性地把本可以内部解决的任务也外包出去，它的内部推理能力不会因为经验积累而变强，哪怕它在原理上本可以变强。

模型(Model)：提供参数里的知识、内部推理能力——也就是Qint的基础。

AgentA什么都默认靠外部工具，内部推理能力被绕开、无法巩固；

AgentB在内部能解决时就内部解决——但并不排斥在真正需要时使用工具——推理能力在练习中被强化。

奥林匹克竞赛题一直是检验模型长程推理能力的硬场景。

从Best-of-N、Self-Consistency到更复杂的搜索与验证框架，Test-TimeScaling已经成为提升大模型复杂推理能力的重要范式。

“相比起写推理小说，推理综艺是一个复杂得多的系统性工程，编剧团队、导演、布景、演员、摄影、灯光、道具、音效等等，各个环节必须都配合得很好，节目效果才能最终呈现出来。

更通过参与《明星大侦探》的编剧工作，深度介入到推理综艺这一新兴娱乐形式的塑造之中；

与此同时，低置信token则可能对应不确定的推理细节、实现方式或局部表达。

从这个角度看，PRISM不只是一个更省算力的Best-of-N替代方案，而是离散扩散语言模型迈向高效推理系统的一块关键拼图。

但从生成式AI进入代理式AI，各类智能体应用爆发，推理算力的需求增速大幅超过训练算力。

推理过程中，每个用户的每一次调用，都将耗费推理算力。

ICML2026提出的TheoryofAgent(ToA)——以及它如何解释当下最前沿的长上下文、推理模型、工具使用、自进化智能体背后那根共同的主线。

这解释了为什么推理模型(o1/R1那一代)把赌注押在「内部scaling」上——在它们的成本结构下，多推几步比调一次工具便宜得多。

2026｜让大模型边想边说：这篇文章把「何时开口」变成可学习策略2026年05月18日14:31机器之心Pro导语：推理模型的「沉默税」该怎么解？

为了解决上述问题，本文提出了Heima，一个面向多模态大模型的CoT压缩与隐式推理框架。

近期，来自浙江大学、AdobeResearch、杜克大学等机构的研究团队提出了一种面向多模态大模型的高效推理框架——Heima。

但此次，行业惯例开始被打破，DeepSeek-V4未向英伟达和AMD提供早期访问权限，反而将之优先开放给华为升腾芯片，从而获得数周时间进行底层适配，包括指令集、算子库及推理框架的优化，双方从设计阶段即开始了芯模紧密协同。

SxS的设计很直接：模型仍然是标准自回归生成，不需要第二个模型、第二套隐藏状态或专门的推理架构；

然而，这种“显式思考”也带来了一个越来越突出的效率问题：模型往往需要生成大量的中间推理文本，导致推理token数显著增加，从而带来更高的推理延迟、显存占用和计算成本。

传统CoT方法会让模型显式生成完整的中间推理文本。

只要这些表示能够保留对最终答案有用的信息，模型就不一定需要完整输出所有的推理文本。

这背后其实有一个很有意思的判断：人类写出来的推理文本，未必是模型内部“思考”的唯一形式。

在当下文化消费日益注重沉浸式与交互性的新一轮发展浪潮中，悬疑推理文化也正经历着从传统文本阅读、影像观看向多元体验形态的行业转型。

张小猫曾出资主办过“第一届中国原创推理星火奖征文比赛”，加上同一时期中国推理小说研究者华斯比出资的“华斯比推理小说奖”，以及面向中国长篇推理小说新人的“QED推理小说奖”等民间推理文学奖项的陆续创办，其奖金额或许并不高，资金和奖项在连续性方面也难以称得上稳定，但其共同目的都在于保护和培养中国悬疑推理文化的创作与发展源头。

推理效率:

传统Best-of-N太贵，PRISM重新设计dLLM的推理搜索

对于自回归模型，推理搜索通常围绕「前缀」展开；

网易有道语音合成推理

机器人会提前开始下一段动作的推理。

但VLA面对着一个现实问题：模型推理速度往往跟不上机器人控制频率。

本文的一个关键洞见是：反应时间并不是一个简单等于模型推理延迟的常数，而应该被建模为一个随机变量。

徐强教授认为，AI对EDA的价值不应停留在“外挂式辅助”或“局部效率提升”层面，而应进一步深入到电路表示、验证推理、状态空间探索和设计反馈闭环等核心问题中。

深入技术层面，招商银行始终瞄准全球最前沿方向，如大模型推理的核心瓶颈在于显存与算力消耗，招商银行通过改造注意力算法降低显存消耗放大上下文长度、KVCache缓存复用点积结果降低算力开销、算力卡细颗粒度虚拟化提高算力利用率、跨服务器卡间直接通讯降低网络延迟等等。

该方法将冗长的文本CoT压缩为少量抽象的“thinkingtokens”，让模型在隐空间中完成高效推理，在大幅减少生成token数量的同时，尽可能保留CoT推理带来的能力提升。

刚才说的“时间循环”这个设定和悬疑小说可以说天然相配，但我自己是写推理小说出道的，还是想要在小说中加入一些比较本格的、推理的元素。

对于推理小说、影视剧、综艺节目乃至剧本杀而言，源源不断的创作者、优质的作品和高水平的创意始终是行业持续发展的核心动力。

speak（披露动作）：用于披露用户可见内容，这些内容必须被当前推理前缀支持。

作者从标准的prompt、reasoning、response三元组出发，把推理和答案都切分成片段，再判断某个答案前缀是否已经被当前推理前缀支持。

这表明，奥赛级科学推理的关键不只是模型规模本身，而在于能否让模型把更长的推理预算稳定转化为证明搜索、自我验证和论证修复能力。

小米已将XiaomiOneVL的模型权重和训练、推理代码全面开源，IT之家汇总链接如下：

主实验覆盖数学推理AIME25和跨域科学问答GPQA-Diamond。

学会「在给定上下文下，下一个该用哪个工具」,就不只是「会推理」,而是会决定如何降低不确定性。

推理和行动，是两种用来降低同一种不确定性(epistemicuncertainty,认知不确定性)的工具。

基准测试表明，在GPU、软件栈及应用保持不变的前提下，ZCube架构使交换机与光模块的资本支出减少33%，GPU平均推理吞吐提升15%，首Token时延（TTFTP99）降低40.6%，实现了兼顾高经济性与高性能的系统级突破。

图1：方法框架，整体流程以30B-A3B推理主干为基础，通过监督微调、两阶段强化学习和推理阶段扩展，将模型塑造成能够进行证明搜索、自我验证和多轮修正的自然语言推理系统。

特别是在多图像推理与幻觉抑制方面，Thinking版表现尤为出色。

这些现象通常被分别归类为reasoning、planning或tool-use的问题，因此业界也习惯于逐个修补：过度推理就增加长度惩罚，工具滥用就约束actionbudget，行动不足就强化工具调用能力。

然而，这种“显式思考”也带来了一个越来越突出的效率问题：模型往往需要生成大量的中间推理文本，导致推理token数显著增加，从而带来更高的推理延迟、显存占用和计算成本。

刚才说的“时间循环”这个设定和悬疑小说可以说天然相配，但我自己是写推理小说出道的，还是想要在小说中加入一些比较本格的、推理的元素。