Intelじゃなくて、IntelAIのgithubにいろいろあった

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

Intelのgithub は、いろいろ調べていたんだけど、Intel AIのgithub にもいろいろあった。

OpenVINO™ model server
Inference Model Manager for Kubernetes

Intel Nauta

引用
  Nauta is an integrated deep learning (DL) platform built on Kubernetes, 
  and includes carefully selected open source components and Intel-developed custom applications, tools, 
  and scripts—all validated together to deliver an easy to use, and flexible deep learning environment. 

Introducing Nauta: A Distributed Deep Learning Platform for Kubernetes
Nauta
Nauta Zoo

ちなみに、あたしは、Kubernetes が何だか、分かりません。。。。

何故か？ TensorFlow用のものも。
Intel AI Quantization Tools for TensorFlow
Model Zoo for Intel® Architectureのモデルを量子化（32FP => 8INT)に変換。
これって、Xeon に入った、INT8命令を上手く使っているのでしょうかね。

http://3s81si1s5ygj3mzby34dq6qf-wpengine.netdna-ssl.com/wp-content/uploads/2019/04/intel-cascade-lake-dl-boost-block.jpgを見ると、IntelのVector Neural Network Instructions (VNNI)が速い理由。
AVX 512 INT8 w Intel DL Boost (VNNI)では、3命令が1命令になるので、3倍速くなると。。。