ONNC 1.0.0 & NVDLA - Vengineerの戯言

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

ONNC 1.0.0がリリースされたようです。

関連ブログ

2018年4月22日、Skymizer
2018年8月23日、推論時に使用メモリを減らす
2018年10月29日、Cortex-M用のONNXコンパイラ
2018年11月15日、Bitmainのチップが載った 96Boards

　・The first open-source compiler backend that supports NVIDIA Deep Learning Accelerator (NVDLA)

　・Initial release of nv_full hardwre configuration support

NVIDIAのNVDLAのnv_fullをサポートしているのね。

ソースコードは、ここ

NVDLAのSoftwareは、こちら

prebuilt/linux/ には、コンパイラとランタイム、それから、カーネルドライバもアップされている

　・libnvdla_compiler.so
　・libnvdla_runtime.so
　・nvdla_compiler
　・nvdla_runtime
　・opendla_1.ko
　・opendla_2.ko

nvdla_compilerの使い方は、NVDLAの内部構成調査(4. NVDLA_compiler と Caffeデータの変換)

Test applications

　・For sanity tests which has input embedded in it. ./nvdla_runtime –loadable <loadable_file>

　・For network tests which need image input ./nvdla_runtime –loadable <loadable_file> –image <image_file>

　・Run in server mode ./nvdla_runtime -s

　・./nvdla_compiler [-options] –prototxt <prototxt_file> –caffemodel <caffemodel_file> -o <outputpath>

[U May Need Itnvdla_runtime options #9]
nvdla_runtime inference issue #19
new nvdla_runtime error #140
nv_full runtime test failed #143
Does the NVDLA backend have a plan to support INT8 configuration? #151

おっと、Jetson XavierでのNVDLAの使い方もあったよ。これ

Use DLA directly, without TRT?

ONNC-Based Software Development Platform for Configurable NVDLA Designs

Domain-Specific Accelerator Design & Profiling for Deep Learning Applications

[ONNC on NVDLA The first open-source software and hardware NVDLA system]