多智能体AI系统:要像一支没有指挥的管弦乐团
由多个专业智能体 AI 系统组成的混合体系,无论是否存在总控角色,都能专注完成各自任务;但在界定人类与 AI 的工作边界方面,仍存在诸多挑战。
核心要点
多智能体 系统已经演化为基于任务、动态组织的技能集合,层级比传统军事体系更加扁平化,部分系统甚至可以做到无主控(headless)。
智能体能力也将依托物理层确定性引擎构建;这类智能体会以不同格式与其他智能体交互,以此保障 100% 精度,而单纯依靠大模型无法实现。
必须保留人类参与,才能让设计成果具备版权保护资格;部署本地私有模型,是保护提示词知识产权与设计 IP 不泄露的另一条路径。
圆桌嘉宾
《Semiconductor Engineering》在设计自动化大会(DAC)闭门论坛组织圆桌讨论,探讨芯片设计领域智能体 AI 的最新进展与挑战。参会嘉宾:
楷登电子(Cadence)验证软件产品管理高级总监 Matt Graham
Alpha Design AI(ChipAgents)业务拓展与战略合作负责人 Harrison Balistreri
是德科技(Keysight)高级总监、产品组合经理 Alexander Petr
西门子明导(Mentor, a Siemens business)EDA AI 产品负责人 Sathish Balasubramanian
新思科技(Synopsys)执行董事、AI 产品管理负责人 Anand Thiruvengadam
本文是三篇系列报道的第三篇。第一篇:Agentic AI Success Relies On Excellent Human Scaffolding;第二篇:Token Costs Are Becoming The New EDA Budget Battle。
(从左至右:新思 Thiruvengadam;是德 Petr;楷登 Graham;ChipAgents Balistreri;西门子 Balasubramanian)
SE(本刊):很 多智能体 工作流采用混合专家模型(MoE),或是多层级 多智能体 架构,顶部设置总负责人。各位看到了哪些新变化?它是自上而下、类似军队模式,附带各类权限与安全分级,还是更偏向横向协作团队?
Graham:这套体系正变得远比军队扁平。如果一年前问我,我或许会回答:是的,它是庞大的智能体层级结构,包含小型子智能体、底层智能体,层层向上设立将军、中尉这类角色。但不只 EDA 领域,整个 AI 行业都在转向一套扁平化的技能 / 能力 / 知识集合。行业术语泛滥,我们看到的趋势是:技能以任务为核心动态组织,形成动态智能体。当然你可以保留一个总调度角色。
Balasubramanian:也就是编排器(Orchestrator)。
Graham:没错。其余下层结构高度扁平化。我可以快速挑选、组合所需 “力量”,但不再像军队那样固定划分为机械化师、空降师等建制单元。这些 “力量” 就是具备各项技能的智能体;我们根据任务动态编组,不像真实军队会受后勤、物理条件约束。
Petr:用管弦乐团类比会更贴切。可以有一名指挥,不同声部演奏特定乐器;乐手可以单独演奏,也可以合奏;能够同步或异步演奏,完成各自声部之后再合在一起演绎完整乐曲。
Balasubramanian:这点非常关键。即便架构扁平,核心是每个角色清楚自己的分工,也清楚和其他角色如何配合,所有人都明确最终目标,不存在信息孤岛,遵循同一套乐谱。交响乐团里每位乐手都理解彼此,看得懂乐谱,知道该做什么、不该做什么、怎么做。
Petr:体系存在边界与防护护栏,所有行为都以此为基准。
Balasubramanian:行业现在经常提到无主控智能体(headless agents),不再由一个巨型主智能体包揽全部调度。我们称之为无主控工作模式,在软件领域已经流行,现在正在进入 EDA。未来客户使用工具时,甚至感知不到背后是智能体在运行。我们的思路是,把智能体能力构建在物理仿真引擎、确定性引擎之上,引擎本身就是独立智能体。它能和其他智能体对话,识别不同数据格式、定位自身角色,理解设计数据。设计师可以直接和它交互,下达任务。这就是未来方向。
Thiruvengadam:Matt 的观点很有启发。本质上我们讨论的是数字化组织 —— 类比人类组织、层级关系,但这套数字化体系的流动性至关重要。它不是僵硬固化的结构,会随任务指令复杂度动态起伏、持续变化。系统会设置一层编排层,按需调用各类资源执行任务。未来某一阶段,这套体系可能走向自主运行。这又回到抽象层的话题:我们正在逐层剥离抽象,但目前还远未达到目标。
Balistreri:我们的产品中,智能体会提出假设,并采用锦标赛式排序评估方案。我们设有评审智能体,但多智能体方案存在很多细节问题:即便部署大量智能体求解,如果它们生成的假设高度趋同,无论智能体数量多少、评审智能体多强,都无法获得增益。核心在于上下文管理,也就是局部上下文与全局上下文的取舍。如果所有智能体都只拥有相同的局部上下文,再多部署也没有意义。想要规模化发挥多智能体价值,就需要管控每个智能体生成的假设、以及上下文来源。因此不能只做单点智能体,不能只围绕单一工具做局部加速。只有能够驱动完整工作流,智能体才真正强大。完整工作流要求在智能体循环中编码上下文读取与管理逻辑,让大量并行智能体形成差异化探索,而不是全部收敛到同一个答案。
Graham:大体上我认同,但可以从综合工具的演进做类比。如今绝大多数门级电路都是逻辑综合生成。智能体编写 RTL,再交由综合工具处理。但根据应用场景,仍有一部分电路必须人工综合或手工布局。工具加速依然有巨大价值。我不一定称之为单点智能体,但在为特定任务做工具智能体化改造后,依然会有小部分代码需要人工编写,就像 PC 和各类计算平台仍需要人工汇编少量指令。追求 100% 自主是过高目标,我认为既不现实,也没有必要。哪怕做到 99.999…%,依然还有大量工作需要完成,工具本身的加速依旧重要,当然它不再是耗时的主体。
Balistreri:这个观点在今天会场或许不算主流。我们可以选择加速现有工具,或是开发全新工具。和客户沟通后我发现,芯片流片最大瓶颈之一,是本地算力不足以运行现有 EDA 工具。能不能重新架构工具,适配智能体调用、缩短运行时间、支持更多工具并行?另一个问题:模型是否能替代原有工具?在部分至今仍依靠人工布局的复杂任务上,模型有机会接手,解决人类无法在脑中完整推演的极端复杂问题。回想过去工程师要查阅墙上厚厚的数据表,在巨大桌面上摊开图纸,计算模拟电路的电阻电容、完成布局。这类工程经验,我认为都可以被模型学习掌握。
Graham:技术上可行,但问题在于何时能实现高效落地。我们投入大量时间,依靠确定性算法、数学方法求解,保证每次结果都正确。你提出的思路是:能不能用概率模型更高效解决这类问题?目前答案非常明确:还不行。随着技术迭代,未来 2 年、8 年、10 年,它是否能在算力与成本上具备竞争力,还需要观察。
Thiruvengadam:我同意。核心就是追求更高的可靠性(the march of nines),不断提升 9 的个数,直到 99.99999%,但芯片设计需要100% 精度。我们讨论的是用模型替代两套 EDA 工具。
Balasubramanian:这点至关重要。芯片设计领域,99.99% 的准确率就等于失败。仅仅一皮秒的时序偏差,就会造成整个违例。
Petr:我们常常忘记,人类还没有完全理解所有物理规律。所有模型都是对真实世界的简化,误差层层嵌套。无论智能体框架设计得多完善,在某处必然存在取舍;如果没有捕捉到这个约束,芯片就会报废。几十年来,我们持续优化仿真引擎,目的就是拿到确定性结果。AI 领域总有一种说法:用强化学习就能搞定。诚然它可以尝试,但基于数学的优化器速度更快、精度更高。我为什么要替换它?
Thiruvengadam:要意识到,追求高可靠度的难题在软件领域存在,硬件领域只会更严峻。软件领域尚且追求 100% 正确性,硬件流片成本极高,可靠性问题的代价会被进一步放大。
Balasubramanian:沿着设计流程往下走,可容忍的误差区间会急剧收窄。
SE:在这套管弦乐团式多智能体工作流中,谁掌握终止开关?防止智能体无限消耗 Token、无休止迭代,只为追求 100% 覆盖率收敛?
Graham:这属于部署前的准备工作,是基础设施的一部分。整套系统必须依托基础设施与防护护栏运行。IC 设计与验证存在大量近乎无限的求解问题,因此必须对耗时、Token 用量、工具覆盖范围设置约束。EDA 行业多年来一直在和客户协同处理这类问题,帮助客户权衡投入产出比。过去约束对象是 CPU 周期,覆盖从 RTL 到 GDS 上千项任务,算力来自本地或云端。现在新增了 Token 预算,但同样需要防护护栏。客户专门设立部门优化这类资源调度,我们很清楚这一点。
Petr:无限循环对我们并不陌生,所有数学求解问题都可能触发死循环,我们已经有成熟应对方案。
SE:IP 归属问题怎么处理?如果你用智能体完成设计交付给客户,或是客户使用你的智能体做自研设计,知识产权归谁?
Balasubramanian:IP 归属是我听到最多的顾虑,工具厂商和客户都非常关心。智能体确实可以生成代码,但风险在于:一旦代码库混入受版权保护的代码,且没有核验,就会产生法律纠纷。第二点,我经常跟客户强调:你的提示词就是你的核心知识资产(IQ)。你向模型描述路由问题的求解思路,相当于把算法告诉模型。很多人以为这些提示词不会被留存,但大模型服务商可以拿到提示词。一旦数据脱离隔离内网,就存在泄露风险。IP 保护至关重要,尤其是源代码外泄问题,这是当下的重大隐患。
Petr:还有一点:美国版权法不认可 AI 生成代码的版权。也就是说,纯由 AI 设计的芯片,无法获得版权保护。
Balasubramanian:没错,因为大模型本身不属于版权主体。
Thiruvengadam:关键区分点在于,我们讨论的不是完全由 AI 独立完成、没有任何人参与的芯片。
Petr:版权法条要求设计的主要部分由人类完成。遗憾的是,未来大部分场景里,主要工作将由 AI 承担。
Balistreri:我先简单复盘,再回到 IP 话题。想要以高投入产出比落地 AI,同时满足企业安全要求,存在多层难题。第一是成本:我们在适配层做优化,同样任务 Token 消耗降低 40%;自研开源权重模型性能接近主流模型,成本更低。第二是全流程问题,这就需要知识本体(ontology),不能只做单点加速。第三是自主可信性:会不会出现致命错误?系统是否内置拦截机制,阻止不合格结果输出。第四就是 IP 与安全问题。简单来说:你愿意把推理请求通过公网发给一家开发竞品芯片的模型服务商吗?如果在智能体层使用前沿大模型,就会面临这个风险;部分服务商甚至不支持零数据留存。在芯片这种高度重视安全、设计流程本身就是 IP 的行业,清晰的方案是部署本地私有定制模型。这同时解决 IP 泄露问题。我不是版权律师,但只要设计数据不离开企业内网,事实上仍归企业所有。虽然不一定满足版权登记条件,但其他人无法获取。
Petr:也不要低估逆向工程的风险。