Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

TensorRTで、Plugin を書けば、いろいろと拡張できる

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

TensorRTの周辺のコードが github にて公開されてから2か月

vengineer.hatenablog.com

TensorRT 7 が公開され、関連するコードの一部が github にも公開されています。

news.developer.nvidia.com

その中で、Pluginのコードにも追加があったようです。

github.com

TensorRT 7では、以下の5つ。

  • batchedNMSPlugin
  • embLayerNormPlugin
  • fcPlugin
  • instanceNormalizationPlugin
  • specialSlicePlugin

この前に、Adding support for building BERT plugins with GPU_ARCHS specified (#255)

なるもので大きく更新されています。BERT_GENCODESなるものが関係しているようですね。