跳到正文
原文
Hugging Face Blog·· 2025-07-10精选AI 评分68

Hugging Face 提出异步推理架构以优化机器人控制延迟

Asynchronous Robot Inference: Decoupling Action Prediction and Execution

AI 导读

Hugging Face 提出异步推理(Async Inference)架构,将动作预测与执行解耦,通过 gRPC 连接 PolicyServer 与 RobotClient 实现计算与执行重叠。该方案在 SmolVLA 等模型上实现任务完成时间约 2 倍加速,并支持自定义动作块聚合策略。

推荐理由

原文给出解耦预测与执行的异步推理架构,可显著降低机器人控制延迟并提升任务完成速度。

来源:Hugging Face Blog · huggingface.co