2026年8月27日0 条留言端侧AI加速落地:大模型正在"装进"手机与电脑过去两年,大模型的能力主要存在于云端——用户提问,数据上传到数据中心,模型在服务器上完成推理后再把结果传回来。但云端推理存在延迟、成本与隐私三座大山:网络波动影响体验,海量请求推高算力账单,敏感数据出域也让企业顾虑重重。端侧AI(On-Device AI)正是为解决这些问题而生。它把模型经过压缩、量化、剪枝后部署到手机、电脑、汽车、家电等终端设备上,让推理在本地完成。如今,主流旗舰手机已经能够流畅技术端侧AI大模型0
2026年8月2日0 条留言端侧AI加速落地:从AI手机到AI PC,小模型重塑终端体验近年来,大模型的部署重心正从云端向终端迁移。端侧AI(On-device AI)指直接在手机、PC、汽车等终端设备上运行AI模型,无需将数据上传到云端。这一趋势背后,是芯片算力的跃升与模型小型化技术的成熟。从芯片侧看,高通骁龙系列、苹果M系列芯片纷纷集成神经网络处理单元(NPU),为端侧推理提供专用算力。2024年,苹果在WWDC开发者大会上发布Apple Intelligence,将生成式AI能技术资讯端侧AI端侧模型大模型0
2026年7月8日0 条留言边缘AI:从云端走向终端的智能计算变革随着物联网设备的爆发式增长和实时性需求的日益提高,将AI计算完全放在云端已无法满足所有场景的需求。边缘AI——即在靠近数据源头的终端设备上直接运行AI推理——正在成为AI落地的新范式。边缘AI的核心驱动力来自三个方面:延迟、隐私和带宽。在自动驾驶场景中,车辆对障碍物的识别需要在毫秒级完成,任何网络延迟都可能导致事故。在医疗领域,患者影像数据的隐私保护要求数据不出医院内网。在工业场景中,海量传感器数技术资讯边缘计算AI芯片IoT0