Model Server for Apache MXNetでONNXをサポート

Vengineerの戯言 : Twitter、Slideshare
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

Model Server for Apache MXNet introduces ONNX support and Amazon CloudWatch integration

学習したモデルをサクッとデプロイできるエコシステムがないとね。

詳細は、こちら => MMS ONNX Serving

    1). MXNetモデルをONNXフォーマットにexport

      % mxnet-model-export --model-name onnx-squeezenet --model-path .


    2). サーバーを立ち上げる

      % mxnet-model-server --models squeezenet=onnx-squeezenet.model


    3). 画像をサーバーに送って、判定する

      % curl -X POST http://127.0.0.1:8080/squeezenet/predict -F "input_0=@kitten.jpg"

いやー、超簡単だね。。。。