跳到正文

#推理

今日 0 条
5月8日周五
  1. Berkeley AI Research64

    Berkeley AI Research:自适应并行推理——高效推理扩展的新范式

    Berkeley AI Research 发布文章梳理自适应并行推理(APR)进展。APR 让模型在推理时自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调,核心思路是把并行化融入模型生成的控制流。文章讨论了从固定并行到自适应控制的演进,以及 Multiverse、ThreadWeaver 等推理系统与训练奖励设计。

    推荐理由:梳理自适应并行推理的范式演进与实现路径,为高效推理探索提供系统性参考。

5月4日周一