全部 AI 动态

自适应并行推理：高效推理扩展的下一范式

伯克利 AI 研究团队梳理了并行推理领域进展，指出当前方法多由外部预设并行结构，模型无法自行决定何时分解任务、开多少线程。文章重点讨论自适应并行推理，即让模型根据问题自主决定并行化时机与协调方式，并提及 ThreadWeaver、ParaThinker、GroupThink、Hogwild! Inference 等方法。