TensorFlow Lite 常见问题

TensorFlow Lite 常见问题

量化后精度掉了怎么办

按顺序排查：校准集是否覆盖真实分布、是否被随机数敷衍；模型首个算子是否不支持 int8 导致整图回退浮点（用分析器确认）；是否需要把部分层保留为浮点；per-channel 是否被关掉。逐项排除后仍不达标，再考虑 INT16 激活的折中方案，或者只对精度敏感的子模型保持浮点。

挂了 delegate 为什么反而更慢

因为不支持的算子会让运行时把计算图切段，段与段之间的数据要在 CPU 与加速器之间来回搬运，搬运成本可能超过加速收益。判断方法是先用分析器看算子分配，再对比挂与不挂 delegate 的端到端耗时——不要只看单个算子。

模型太大装不进安装包怎么办

优先做量化；其次把模型拆成按需下载的资源，首次启动时下载并校验完整性，而不是全部塞进安装包；最后再考虑换更小的主干网络。