端侧on-device
端侧是指在用户设备上直接运行AI模型等计算，而不是在云端服务器上运行的方式。
5篇文章
最近提及 端侧是指在智能手机、个人电脑、浏览器等用户设备上处理数据并运行AI模型的方式，与把数据发送到服务器处理的云端方式相对。
由于数据不离开设备，这种方式有利于隐私保护，没有网络往返带来的延迟，也不产生服务器推理费用。受设备算力和内存限制，端侧通常使用较小的模型。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误，请通过更正请求告诉我们。
涉及该条目的文章
Google AI Edge Gallery中的端侧AI
端侧版本是在机器人本体上运行的压缩版，省去了网络往返，在带宽不足的地方也能让机器人持续工作。
端侧处理可以避免反复产生的云端推理费用，并让敏感信息留在用户的设备上。
设备端模型会检查该缓冲区，识别警报声或语音等声学模式。