MicrosoftのONNX RuntimeがTensorRTとnGraphをサポート？

engineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

最も生産性の高い開発者向けプラットフォーム構築へコミットメントを継続し、開発者の最新のコンピューティングトレンド活用を実現にちょこっと。

引用
  レイテンシーを極力抑え、費用対効果の高い推測を実現するため、
  マイクロソフトは FPGA 上で稼働するハードウェアアクセラレーションモデルの一般提供を発表します。
  また、NVIDIA および Intel チップセット上での高速推論に向け、NVIDIA TensorRT と 
  Intel nGraph の ONNX ランタイムサポートも発表します。

Azure Machine Learning の最新アップデート: ML ライフサイクルの簡素化と加速を実現にもちょこっと。

引用
  MLflow 実装、
  TensorRT および Intel nGraph での ONNX ランタイムのサポート、
  モデルの精度向上のためにキュレーションされたオープン データを提供する新しい Azure Open Datasets サービスなど、
  選択肢と柔軟性を提供するオープン ソース機能

Build Faster AI Solutions with the Intel-Optimized ONNX Runtime

ONNX Runtimeを覗いてみたら、onnxruntime/core/providers/にありましたよ。既に。

　・cpu
　・cuda
　・mkldnn
　・ngraph
　・tensorrt

これで、Intel x86_64 と NVIDIAをサポートしたので、もうやることないのか？

Azure Data Box EdgeというFPGAが入ったものがあるんですが、これはサポートされないのかな？

あー、Armがあったけど、どうなるのかな？

あー、ONNX RuntimeのBUILD.mdの中にあったよ。ARM Builds