…ple Metal uTVM (マイコン) この他に、下記のようなライブラリにも対応しています。 ARM Compute Library CBLAS CoreML CuDNN DNNL EdgeTPU (Google TensorFlow Lite) ARM NPU:Ethon-N AMD MIOpen NNPACK ONNX ROCLABS Google TensorFlow Lite NVIDIA TensorRT Thust Xilinx Vitis AI これだけいっ…

… Meetup の uTVM のスライドです。 TensorFlow Lite for Microcontrollerへの対抗ですね。 このブログでも何度も 取り上げたOctoML は、uTVM に結構力をいれています。 なんと、µTVM RPC server PR has merged TVM は、RPCを使って、ターゲットと接続していろいろとできるのですが、 uTVM でもできるようになったんですね。 この点は、TensorFlow Lite for Microcontr…

…e アジェンダは、 uTVM Today Upcoming RFCs uTVM Portability uTVM CI Future Work uTVM Roadmap Standalone Model Execution Quantization Improvements Q & A and Discussion です。 uTVM に関してはこのブログでも6月19日に紹介しました。 どうやら、OctoML、uTVM にかなりリソースをかけてそうですね。。。 venginee…

@Vengineerの戯言 : TwitterSystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった このブログでも以前紹介した「μTVM」 こちらは、紹介記事で medium.com こちらが全文。 tvm.apache.org μTVMは、TensorFlow Lite for Microcontrollerの対抗 μTVMは、AutoTVMにて、実機で実行した時間をベースにチューニングができるというもの。特別なハードウェア無しに、…

…そして、TVM も uTVM を出したし この1年間で、 ・AIアクセラレータの実物が出てきた (Cerebras, Intel Nervana, Habana, Groqなど) 特に、CerebrasのCS-1はバケモノで、今後色々と楽しめそうだ。 ・Graphcoreの実態(実物や性能)が分かってきた ・Intel GPUのアナウンス ・Jetson Nano、Google Edge TPU、Raspberry Pi 4とかなり盛り上がり、からあげさんとも逢えた。 特に、…

…日のブログに書いた uTVM vengineer.hatenablog.com ちょっと進捗があったみたい。 A replacement implementation of the TVM runtime, focused on a minimal subset of the overall runtime. ARMv7/x86で、12kb以下の .text だって。 github.com サンプルコードは、ここにあるみたい。 tvm/utvm_runtime_standal…

…ものもあるんだね。 uTVMって、TensorFlow Lite for Microcontrollerの対抗なんだろうね。 具体的には、[RFC[μTVM] Bringing TVM to Bare-Metal Devices #2563]の模様。 追記)、2019.07.27 : マージされていました。 下図は引用です。 ハードウェアがRISC-Vの時の事例で、 ・IRからCコードを生成、 ・Cコンパイラでオブジェクトファイルに ・Linkerでリンクして、実行可能なプロ…