9月15日·星期二 18:43·来源:量子位

无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA

无问芯穹联合清华大学、上海交通大学开源具身智能端侧推理引擎APXInf,支持RTX 4090、Jetson Orin、Jetson Thor等平台,覆盖模型开发至机器人本体部署全链路。该引擎针对端侧算力、功耗和成本约束设计,兼顾小Batch、低延迟与实时交互。实测显示,PI 0.5 FP8模型在Jetson Thor上端到端推理延迟从278毫秒降至26毫秒以内,推理频率达38.46Hz。APXInf采用Rust构建极简运行时并提供Python接口,首发支持PI 0.5和WALL-OSS两款具身模型。
本文摘要由千智坊基于公开报道整理,查看完整内容:阅读原文(量子位)→