Skip to content

Commit 0187369

Browse files
Milir-RadxaMilir-Radxa
authored
Merge pull request #1679 from Ronin-1124/main
docs: use single frame FPS in cubie series and fix several issues
2 parents f06d1d9 + c820b57 commit 0187369

43 files changed

Lines changed: 295 additions & 297 deletions

Some content is hidden

Large Commits have some content hidden by default. Use the searchbox below for content that may be hidden.

‎.gitignore‎

Lines changed: 1 addition & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -3,3 +3,4 @@
33
/static/json/commit_update_data.json
44
.DS_Store
55
/.vs
6+
node_modules

‎docs/common/ai/_cubie_acuity_env.mdx‎

Lines changed: 16 additions & 6 deletions
Original file line numberDiff line numberDiff line change
@@ -57,10 +57,11 @@ sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin
5757

5858
### 获取 ACUITY 下载包
5959

60-
在 [全志网盘](https://netstorage.allwinnertech.com:5001/sharing/Mh23BhPHq) 下载 ACUITY docker 压缩包并解压
61-
6260
<Tabs groupId="npu-type">
6361
<TabItem value="A733">
62+
63+
在 [全志网盘](https://netstorage.allwinnertech.com:5001/sharing/Mh23BhPHq) 下载 ACUITY docker 压缩包并解压。
64+
6465
<NewCodeBlock tip="X86 Linux PC" type="PC">
6566

6667
```bash
@@ -70,6 +71,9 @@ unzip docker_images_v2.0.x.zip
7071
</NewCodeBlock>
7172
</TabItem>
7273
<TabItem value="T527">
74+
75+
在 [全志网盘](https://netstorage.allwinnertech.com:5001/sharing/N6TVlZQVZ) 下载 ACUITY docker 压缩包并解压。
76+
7377
<NewCodeBlock tip="X86 Linux PC" type="PC">
7478

7579
```bash
@@ -87,7 +91,9 @@ unzip docker_images_v1.8.x.zip
8791
<NewCodeBlock tip="X86 Linux PC" type="PC">
8892

8993
```bash
90-
cd docker_images_v2.0.x unzip ubuntu-npu_v2.0.10.1.tar.zip sudo docker load -i ubuntu-npu_v2.0.10.1.tar
94+
cd docker_images_v2.0.x
95+
unzip ubuntu-npu_v2.0.10.1.tar.zip
96+
sudo docker load -i ubuntu-npu_v2.0.10.1.tar
9197
```
9298

9399
</NewCodeBlock>
@@ -96,7 +102,9 @@ cd docker_images_v2.0.x unzip ubuntu-npu_v2.0.10.1.tar.zip sudo docker load -i u
96102
<NewCodeBlock tip="X86 Linux PC" type="PC">
97103

98104
```bash
99-
cd docker_images_v1.8.x unzip ubuntu-npu_v1.8.11.tar.zip sudo docker load -i ubuntu-npu_v1.8.11.tar
105+
cd docker_images_v1.8.x
106+
unzip ubuntu-npu_v1.8.11.tar.zip
107+
sudo docker load -i ubuntu-npu_v1.8.11.tar
100108
```
101109

102110
</NewCodeBlock>
@@ -112,7 +120,8 @@ cd docker_images_v1.8.x unzip ubuntu-npu_v1.8.11.tar.zip sudo docker load -i ubu
112120
<NewCodeBlock tip="X86 Linux PC" type="PC">
113121

114122
```bash
115-
mkdir docker_data && cd docker_data sudo docker run --ipc=host -itd -v ${PWD}:/workspace --name allwinner_v2.0.10.1 ubuntu-npu:v2.0.10.1 /bin/bash
123+
mkdir docker_data && cd docker_data
124+
sudo docker run --ipc=host -itd -v ${PWD}:/workspace --name allwinner_v2.0.10.1 ubuntu-npu:v2.0.10.1 /bin/bash
116125
```
117126

118127
</NewCodeBlock>
@@ -121,7 +130,8 @@ mkdir docker_data && cd docker_data sudo docker run --ipc=host -itd -v ${PWD}:/w
121130
<NewCodeBlock tip="X86 Linux PC" type="PC">
122131

123132
```bash
124-
mkdir docker_data && cd docker_data sudo docker run --ipc=host -itd -v ${PWD}:/workspace --name allwinner_v1.8.11 ubuntu-npu:v1.8.11 /bin/bash
133+
mkdir docker_data && cd docker_data
134+
sudo docker run --ipc=host -itd -v ${PWD}:/workspace --name allwinner_v1.8.11 ubuntu-npu:v1.8.11 /bin/bash
125135
```
126136

127137
</NewCodeBlock>

‎docs/common/ai/_cubie_acuity_usage.mdx‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -514,7 +514,7 @@ Average 229388.52ms or 229388512.00us
514514

515515
板端 使用 NPU 推理 NBG 格式模型，可使用 `vpm_run` 工具进行推理测试，
516516

517-
`vpm_run` 安装与使用请参考 [**vpm_run 模型测试工具**](cubie_vpm_run)
517+
`vpm_run` 安装与使用请参考 [**vpm_run 模型测试工具**](cubie-vpm-run)
518518

519519
{/* ### 板端执行 */}
520520

‎docs/common/ai/cubie/_model-zoo-densenet121-keras.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -255,9 +255,11 @@ destroy npu finished.
255255
~NpuUint.
256256
```
257257

258-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
259-
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
260-
| 全志 A733 | Vivante VIP9000 | densenet121 | 224×224 | 10.4 ms | 3.6 ms | 8.3 ms | | 22.3 ms | 44.8 FPS |
258+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
259+
260+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
261+
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :-------- |
262+
| 全志 A733 | Vivante VIP9000 | densenet121 | 224×224 | 10.4 ms | 3.6 ms | 8.3 ms | | 22.3 ms | 120.5 FPS |
261263

262264
</TabItem>
263265

@@ -304,9 +306,11 @@ destroy npu finished.
304306
~NpuUint.
305307
```
306308

309+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
310+
307311
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
308312
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
309-
| 全志 T527 | Vivante VIP9000 | densenet121 | 224×224 | 12.9 ms | 2.4 ms | 10.6 ms | | 25.9 ms | 38.6 FPS |
313+
| 全志 T527 | Vivante VIP9000 | densenet121 | 224×224 | 12.9 ms | 2.4 ms | 10.6 ms | | 25.9 ms | 94.3 FPS |
310314

311315
</TabItem>
312316
</Tabs>

‎docs/common/ai/cubie/_model-zoo-lenet-caffe.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -253,9 +253,11 @@ destroy npu finished.
253253
~NpuUint.
254254
```
255255

256-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
257-
| :-------- | :-------------- | :---- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :-------- |
258-
| 全志 A733 | Vivante VIP9000 | lenet | 28×28 | 1.5 ms | 0.2 ms | 0.3 ms | | 2.0 ms | 500.0 FPS |
256+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
257+
258+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
259+
| :-------- | :-------------- | :---- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :--------- |
260+
| 全志 A733 | Vivante VIP9000 | lenet | 28×28 | 1.5 ms | 0.2 ms | 0.3 ms | | 2.0 ms | 3333.3 FPS |
259261

260262
</TabItem>
261263

@@ -297,9 +299,11 @@ destroy npu finished.
297299
~NpuUint.
298300
```
299301

302+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
303+
300304
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
301305
| :-------- | :-------------- | :---- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :--------- |
302-
| 全志 T527 | Vivante VIP9000 | lenet | 28×28 | 0.7 ms | 0.1 ms | 0.2 ms | | 1.0 ms | 1000.0 FPS |
306+
| 全志 T527 | Vivante VIP9000 | lenet | 28×28 | 0.7 ms | 0.1 ms | 0.2 ms | | 1.0 ms | 5000.0 FPS |
303307

304308
</TabItem>
305309
</Tabs>

‎docs/common/ai/cubie/_model-zoo-mobilenetv1-tensorflow.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -257,9 +257,11 @@ destroy npu finished.
257257
~NpuUint.
258258
```
259259

260+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
261+
260262
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
261263
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :-------- |
262-
| 全志 A733 | Vivante VIP9000 | mobilenetv1 | 224×224 | 5.7 ms | 1.1 ms | 1.8 ms | | 8.6 ms | 116.3 FPS |
264+
| 全志 A733 | Vivante VIP9000 | mobilenetv1 | 224×224 | 5.7 ms | 1.1 ms | 1.8 ms | | 8.6 ms | 555.6 FPS |
263265

264266
</TabItem>
265267

@@ -306,9 +308,11 @@ destroy npu finished.
306308
~NpuUint.
307309
```
308310

309-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
310-
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
311-
| 全志 T527 | Vivante VIP9000 | mobilenetv1 | 224×224 | 5.6 ms | 1.0 ms | 3.8 ms | | 10.4 ms | 96.2 FPS |
311+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
312+
313+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
314+
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :-------- |
315+
| 全志 T527 | Vivante VIP9000 | mobilenetv1 | 224×224 | 5.6 ms | 1.0 ms | 3.8 ms | | 10.4 ms | 263.2 FPS |
312316

313317
</TabItem>
314318
</Tabs>

‎docs/common/ai/cubie/_model-zoo-mobilenetv2.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -256,9 +256,11 @@ destroy npu finished.
256256
~NpuUint.
257257
```
258258

259+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
260+
259261
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
260262
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :-------- |
261-
| 全志 A733 | Vivante VIP9000 | mobilenetv2 | 224×224 | 6.2 ms | 1.5 ms | 2.0 ms | | 9.7 ms | 103.1 FPS |
263+
| 全志 A733 | Vivante VIP9000 | mobilenetv2 | 224×224 | 6.2 ms | 1.5 ms | 2.0 ms | | 9.7 ms | 500.0 FPS |
262264

263265
</TabItem>
264266

@@ -305,9 +307,11 @@ destroy npu finished.
305307
~NpuUint.
306308
```
307309

308-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
309-
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
310-
| 全志 T527 | Vivante VIP9000 | mobilenetv2 | 224×224 | 6.5 ms | 1.9 ms | 3.1 ms | | 11.5 ms | 87.0 FPS |
310+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
311+
312+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
313+
| :-------- | :-------------- | :---------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :-------- |
314+
| 全志 T527 | Vivante VIP9000 | mobilenetv2 | 224×224 | 6.5 ms | 1.9 ms | 3.1 ms | | 11.5 ms | 322.6 FPS |
311315

312316
</TabItem>
313317
</Tabs>

‎docs/common/ai/cubie/_model-zoo-ppseg.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -257,9 +257,11 @@ destroy npu finished.
257257
~NpuUint.
258258
```
259259

260-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
261-
| :-------- | :-------------- | :-------------------- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :------ |
262-
| 全志 A733 | Vivante VIP9000 | pp_liteseg_cityscapes | 512×512 | 30.5 ms | 1.6 ms | 81.8 ms | 146.0 ms | 260 ms | 3.8 FPS |
260+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
261+
262+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
263+
| :-------- | :-------------- | :-------------------- | :--------- | :----------- | :----------- | :----------- | :--------- | :----- | :------- |
264+
| 全志 A733 | Vivante VIP9000 | pp_liteseg_cityscapes | 512×512 | 30.5 ms | 1.6 ms | 81.8 ms | 146.0 ms | 260 ms | 12.2 FPS |
263265

264266
</TabItem>
265267

@@ -303,9 +305,11 @@ destroy npu finished.
303305
~NpuUint.
304306
```
305307

308+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
309+
306310
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
307311
| :-------- | :-------------- | :-------------------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------- | :------ |
308-
| 全志 T527 | Vivante VIP9000 | pp_liteseg_cityscapes | 512×512 | 39.4 ms | 6.4 ms | 122.5 ms | 346.0 ms | 514.3 ms | 1.9 FPS |
312+
| 全志 T527 | Vivante VIP9000 | pp_liteseg_cityscapes | 512×512 | 39.4 ms | 6.4 ms | 122.5 ms | 346.0 ms | 514.3 ms | 8.2 FPS |
309313

310314
</TabItem>
311315
</Tabs>

‎docs/common/ai/cubie/_model-zoo-resnet50-tflite.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -260,9 +260,11 @@ destroy npu finished.
260260
~NpuUint.
261261
```
262262

263-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
264-
| :-------- | :-------------- | :------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
265-
| 全志 A733 | Vivante VIP9000 | resnet50 | 224×224 | 19.0 ms | 0.6 ms | 7.3 ms | | 26.9 ms | 37.2 FPS |
263+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
264+
265+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
266+
| :-------- | :-------------- | :------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :-------- |
267+
| 全志 A733 | Vivante VIP9000 | resnet50 | 224×224 | 19.0 ms | 0.6 ms | 7.3 ms | | 26.9 ms | 136.9 FPS |
266268

267269
</TabItem>
268270

@@ -309,9 +311,11 @@ destroy npu finished.
309311
~NpuUint.
310312
```
311313

314+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
315+
312316
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
313317
| :-------- | :-------------- | :------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
314-
| 全志 T527 | Vivante VIP9000 | resnet50 | 224×224 | 21.6 ms | 2.8 ms | 14.3 ms | | 38.7 ms | 25.8 FPS |
318+
| 全志 T527 | Vivante VIP9000 | resnet50 | 224×224 | 21.6 ms | 2.8 ms | 14.3 ms | | 38.7 ms | 69.9 FPS |
315319

316320
</TabItem>
317321
</Tabs>

‎docs/common/ai/cubie/_model-zoo-resnet50v2.mdx‎

Lines changed: 8 additions & 4 deletions
Original file line numberDiff line numberDiff line change
@@ -256,9 +256,11 @@ destroy npu finished.
256256
~NpuUint.
257257
```
258258

259-
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
260-
| :-------- | :-------------- | :--------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
261-
| 全志 A733 | Vivante VIP9000 | resnet50v2 | 224×224 | 15.7 ms | 1.7 ms | 8.9 ms | | 26.3 ms | 38.0 FPS |
259+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
260+
261+
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
262+
| :-------- | :-------------- | :--------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :-------- |
263+
| 全志 A733 | Vivante VIP9000 | resnet50v2 | 224×224 | 15.7 ms | 1.7 ms | 8.9 ms | | 26.3 ms | 112.4 FPS |
262264

263265
</TabItem>
264266

@@ -305,9 +307,11 @@ destroy npu finished.
305307
~NpuUint.
306308
```
307309

310+
此性能数据仅计算模型推理的时间消耗。如无特别说明，不包含预处理和后处理的时间消耗。
311+
308312
| SoC | NPU | 模型 | 输入分辨率 | 网络创建耗时 | 网络准备耗时 | 单帧推理耗时 | 后处理耗时 | 总耗时 | 帧率 |
309313
| :-------- | :-------------- | :--------- | :--------- | :----------- | :----------- | :----------- | :--------- | :------ | :------- |
310-
| 全志 T527 | Vivante VIP9000 | resnet50v2 | 224×224 | 27.3 ms | 3.1 ms | 16.3 ms | | 46.7 ms | 21.4 FPS |
314+
| 全志 T527 | Vivante VIP9000 | resnet50v2 | 224×224 | 27.3 ms | 3.1 ms | 16.3 ms | | 46.7 ms | 61.3 FPS |
311315

312316
</TabItem>
313317
</Tabs>

0 commit comments

Comments
 (0)