博客

为什么是 AIMA：让 agent 来当推理操作员

私有化大模型推理卡在两个极端之间——图省事的吞吐上不去，要性能的每换一片芯片就得重做一遍。AIMA 的赌注：操作员换成 agent，知识沉淀在 YAML，不在某个工程师的脑子里。