9月4日·星期五 07:36·来源:IT之家

英伟达开源发布 PAIR:本地跑 AI 新方案,调度 Mac / RTX PC 跨设备推理

英伟达日前发布开源测试版软件Personal AI Router(PAIR),用于在局域网内调度本地AI请求,将任务分配给可用计算设备。该方案支持苹果Mac及搭载RTX显卡的PC等设备协同推理,类似任务调度员机制。PAIR可自动识别网络内空闲算力,优化跨设备资源分配,提升本地AI运行效率。目前该软件以开源形式提供,便于开发者测试与二次开发。此举旨在扩展本地AI部署场景,减少对云端算力的依赖。
本文摘要由千智坊基于公开报道整理,查看完整内容:阅读原文(IT之家)→