NVIDIA、TensorRTのParserとPluginをOSS化！

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

Twitterに流れてきたお話

NVIDIA open sources parsers and plugins in TensorRT

お、とうとう、と思ったけど、Parser と Plugin だけだった。そうだよな。コアは命だからね。。。公開しないよね。

OSS化したものは、

引用
　・Extend parsers for ONNX format and Caffe to import models with novel ops into TensorRT
　・Plugins enable you to run custom ops in TensorRT. Use open sourced plugins as reference, 
　　or build new plugins to support new layers and share with the community
　・Samples provide a starting point for your inference apps, contribute samples that cover new workflows and pipelines

github の ここに、いろいろあります。

Parser部分は、CaffeとONNX

Plugin部分は、たくさんある。

Parser部分より、Plugin部分の方がかなり有益なのかもしれない。TensorRTでいろいろなモデルを独自に作るときとかね。

OSS化することで、多くの目が監視してくれるのが、大きなメリットなんでしょうね。。。