Hugging Face Blog·· 2025-07-10精选AI 评分68
Hugging Face 提出异步推理架构以优化机器人控制延迟
Asynchronous Robot Inference: Decoupling Action Prediction and Execution
AI 导读
Hugging Face 提出异步推理(Async Inference)架构,将动作预测与执行解耦,通过 gRPC 连接 PolicyServer 与 RobotClient 实现计算与执行重叠。该方案在 SmolVLA 等模型上实现任务完成时间约 2 倍加速,并支持自定义动作块聚合策略。
推荐理由
原文给出解耦预测与执行的异步推理架构,可显著降低机器人控制延迟并提升任务完成速度。
来源:Hugging Face Blog · huggingface.co