9月8日·星期二 16:07·来源:36氪

端侧AI“小时代”

AI行业近期聚焦端侧小型化模型部署,多家厂商发布轻量级方案。某芯片公司推出适配手机与物联网设备的7B参数模型,内存占用降至2GB以内,推理速度较云端方案提升3倍。同时,开源社区出现面向智能家居的1.5B模型,支持离线语音指令与本地图像识别。市场数据显示,端侧AI芯片出货量季度环比增长45%,主要应用于安防摄像头与可穿戴设备。业内分析指出,此类模型降低数据延迟与隐私风险,但复杂任务仍依赖云端协同。某手机厂商宣布其旗舰机型将预装端侧助手,可实时处理文档摘要与会议记录。此外,多家创企获新一轮融资,总金额超2亿美元,资金用于优化模型压缩算法与边缘计算框架。行业预测,至2025年端侧AI设备渗透率将突破30%,推动智能终端向低功耗、高响应方向演进。
本文摘要由千智坊基于公开报道整理,查看完整内容:阅读原文(36氪)→