RKNN Toolkit 常见问题

六、常见问题

• 问：能不能在开发板上直接转换模型？ 不能。转换必须在 x86 Linux PC 上做，板端只跑推理。
• 问：INT8 一定比 FP16 快吗？ 通常如此，但取决于算子是否真的走到了 NPU 的 INT8 通路；用性能评估输出确认。
• 问：量化数据集要多少张？ 没有固定答案，几十到几百张、覆盖真实分布即可，质量比数量重要，以官方文档与实测为准。
• 问：精度掉多少算正常？ 视任务而定，检测类任务一般要求掉点在可接受阈值内，具体阈值应由业务方定义。