今年的手机和电脑都在强调"AI",但和以前不一样的是,这次是"端侧AI"——AI运算直接在你的手机上完成,不需要上传云端。
端侧AI有什么好处?第一是隐私——数据不出手机,不用担心泄露。第二是速度——不用等网络,即时响应。第三是省电——小模型在本地运行比传数据到云端更节能。
手机芯片厂商纷纷推出AI加速单元(NPU),专门负责AI计算。最新旗舰手机的AI算力已经达到每秒数十亿次操作级别。足够运行中等规模的语言模型和图像处理。
行业判断,端侧AI和云端AI会长期共存。复杂任务在云端跑,简单高频任务在本地跑。未来你的手机会越来越聪明,而且越用越懂你。
