Skip to content

README.md

Latest commit

 

History

History
136 lines (116 loc) · 5.69 KB

README.md

File metadata and controls

136 lines (116 loc) · 5.69 KB
Raw

SSD Python例程

python目录下提供了一系列Python例程，具体情况如下：

序号 Python例程 说明
1 ssd_bmcv.py 使用SAIL解码、BMCV前处理、SAIL推理

1. x86/riscv PCIe平台

1.1 环境准备

如果您在x86/riscv平台安装了PCIe加速卡，并使用它测试本例程，您需要安装libsophon(>=0.3.0)、sophon-opencv(>=0.2.4)、sophon-ffmpeg(>=0.2.4)和sophon-sail(>=3.1.0),具体请参考x86-pcie平台的开发和运行环境搭建或riscv-pcie平台的开发和运行环境搭建。 此外您可能还需要安装其他第三方库：

pip3 install -r requirements.txt

注:

上述命令安装的opencv是公版opencv，如果您希望使用sophon-opencv，可以设置如下环境变量：

export PYTHONPATH=$PYTHONPATH:/opt/sophon/sophon-opencv-latest/opencv-python/

若使用sophon-opencv需要保证python版本小于等于3.8。

1.2 测试命令

python例程不需要编译，可以直接运行。参数说明如下:

# --bmodel: bmodel path, can be fp32 or int8 model with batch_size = 1 or 4.
# --input_path:  input path, can be image directory or video file.
# --conf_thre:  confidence threshold, default: 0.
# --tpu_id: default: 0.
# --results_directory: default: results.

测试实例如下：

python3 ssd_bmcv.py --bmodel ../data/models/BM1684X/ssd300_fp32_4b.bmodel --input_path ../data/VOC2007-test-images

执行完成后，会将预测结果保存在同目录的results/中，打印日志信息如下：

read image:  000001.jpg
......
......
......
read image:  009963.jpg
total_time(ms): 451671.91, img_num: 4952
avg_infer_time(ms): 255.88

2. arm SoC平台

2.1 环境准备

如果您使用SoC平台测试本例程，您需要交叉编译安装sophon-sail(>=3.1.0)，具体可参考交叉编译安装sophon-sail。此外您可能还需要安装其他第三方库：

pip3 install -r requirements.txt

注:

上述命令安装的opencv是公版opencv，如果您希望使用sophon-opencv，可以设置如下环境变量：

export PYTHONPATH=$PYTHONPATH:/opt/sophon/sophon-opencv-latest/opencv-python/

若使用sophon-opencv需要保证python版本小于等于3.8。

2.2 测试命令

SoC平台的测试方法与x86 PCIe平台相同，请参考1.2 测试命令。

3. 精度与性能测试

3.1 精度测试

本例程在SSD/tools目录下提供了eval.py脚本，以计算推理结果的mAP。具体的测试命令如下：

# 请根据实际情况修改 --ground_truths 和 --result_json参数
# --ground_truths: 数据集的标注文件，这里默认设置为../data/pascal_test2007.json
# --result_json: 预测结果文件，可以填cpp或python例程运行生成的.json格式文件。
python3 eval.py --result_json ../python/results_bmcv.json

执行完成后，会打印出mAP信息：

 Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.430
 Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.715 # mAP
 Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.453
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.054
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.250
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.542
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.382
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.531
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.549
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.158
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.430
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.643

3.2 性能测试

可以使用bmrt_test测试模型的理论性能：

bmrt_test --bmodel {path_of_bmodel}

也可以参考1.2 测试命令打印程序运行中的实际性能指标。

read image:  000000.jpg
......
......
......
read image:  009963.jpg
total_time(ms): 451671.91, img_num: 4952
avg_infer_time(ms): 255.88 # infer_time

测试中性能指标存在一定的波动属正常现象。

3.3 测试结果

经本地编译测试，caffe at SSD中VOC07+12模型在VOC2007-test数据集上的mAP为71.7%。

在BM1684X PCIE上，不同模型的精度和性能测试结果如下：

例程 精度 batch_size mAP infer_time
ssd_bmcv fp32 1 71.5% 66.1ms
ssd_bmcv fp32 4 71.5% 255.8ms
ssd_bmcv int8 1 71.1% 5.5ms
ssd_bmcv int8 4 71.1% 22.5ms

在BM1684 PCIE上，不同模型的精度和性能测试结果如下：

例程 精度 batch_size mAP infer_time
ssd_bmcv fp32 1 71.6% 38.5ms
ssd_bmcv fp32 4 65.0% 184.9ms
ssd_bmcv int8 1 71.1% 20.1ms
ssd_bmcv int8 4 62.9% 73.2ms

注:

1.同一例程、同一模型在soc与pcie上的infer_time相近，mAP相同。

2.1684的4b模型存在精度问题，正在排查中。