RKNN-Toolkit2 Version 1.4.0已正式发布,请大家尽量使用最新版本!
GitHub - rockchip-linux/rknn-toolkit2
GitHub - rockchip-linux/rknpu2
OP支持情况:
https://github.com/rockchip-linu ... OP_Support-1.4.0.md
https://github.com/rockchip-linu ... tor_List_v1.4.0.pdf
主要更新:
1. 新增权重压缩功能支持;(RK3588/RV1106),减少内存消耗
2. RK3588新增sram功能支持,减少系统DDR负载
3. RK3588新增单batch多核支持;
4. 新增NPU直接输出NHWC layout的支持(C有对齐限制);
5. 新增Reshape、Transpose、MatMul、 Max、Min、exGelu、exSoftmax13等op部分shape下的npu支持;
6. 新增权重共享的功能;
7. 完善对非4维输入支持
8. 更新对 pytorch 1.10.2 版本的支持
9. 更新对 tensorflow 2.6.2 版本的支持
10. 更新 onnx_optimzie 接口功能,支持导入自定义量化参数
11. 优化 simulator 的内存占用,降低转换/推理模型的内存消耗,并提高其性能
|