Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

glow:TensorFlow Lite importerが追加されるし、Intel NNP-Iの開発は継続されている

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

理由はよくわからないのですが、Facebookクラウド用推論のためのフレームワークである glow に TensorFlow Lite importer が追加されました。

github.com

この時点では、125個の TensorFlow Lite の Op の内、57個をサポートしているようです

これにて、ONNX、Caffe2、そして、TensorFlow Lite をサポートしたことになり、推論用であれば十分なんでしょうか?

 

それから、開発が中止されたがカスタマーが居ることでサポートが継続されている Intel NNP-Iですが、glow の中でも開発はまだやっているようです。

github.com

このコードみると、

BB.newNode("NNPICustomDSP")
.addMember(MemberType::VectorNodeValue, "Inputs")
.addResultFromCtorArg() // for now use single output
.addInput("KernelParams") // paramsblob
.addInput("WalkConfig") // NNPIWalkConfig
.addMember(MemberType::Unsigned, "PrivateAreaSize")
.addMember(MemberType::String, "KernelName")
.addMember(MemberType::Int64, "ICERefCallback") // NNPIDspIceRefCallback*
.setDocstring("This is an experimental NNPI-specific node representing a "
"custom DSP op");

BB.newNode("NNPICustomIA")
.addMember(MemberType::VectorNodeValue, "Inputs")
.addResultFromCtorArg() // for now use single output
.addMember(MemberType::String, "KernelName")
.addMember(MemberType::String, "IAPath")
.setDocstring("This is an experimental NNPI-specific node representing a "
"custom IA op");

みたいのがあって、DSPで動くノードと、IA(x86-64)で動くノードがあるのね。