2026年8月2日0 条留言端侧AI加速落地：从AI手机到AI PC，小模型重塑终端体验近年来，大模型的部署重心正从云端向终端迁移。端侧AI（On-device AI）指直接在手机、PC、汽车等终端设备上运行AI模型，无需将数据上传到云端。这一趋势背后，是芯片算力的跃升与模型小型化技术的成熟。从芯片侧看，高通骁龙系列、苹果M系列芯片纷纷集成神经网络处理单元（NPU），为端侧推理提供专用算力。2024年，苹果在WWDC开发者大会上发布Apple Intelligence，将生成式AI能技术资讯端侧AI端侧模型大模型0
2026年7月1日0 条留言边缘AI：在设备端运行大模型的挑战与突破当大语言模型开始在云端展现出惊人的能力时，一个新的问题随之浮现：能否将这些强大的AI能力"搬"到手机、物联网设备、汽车等边缘终端上运行？这就是边缘AI——在设备端而非云端运行AI模型——正面临的核心课题。边缘AI的驱动力来自多个方面。首先是隐私保护：用户数据不需要上传到云端处理，敏感信息在本地完成计算，这从根本上解决了数据外泄的风险。其次是实时性：自动驾驶、工业质检等场景要求毫秒级响应，网络延迟是技术测评边缘AI端侧模型模型压缩0