OpenVINOの Intel GNA対応

はじめに

このブログでは、Intel GNAについて何度か書いています。

• そういえば、Intel GNAってあるんだけど使っている？ - Vengineerの戯言
• Intel VPUのデバイスドライバ - Vengineerの戯言
• Intel Meteor LakeにVPUを搭載、Linuxでも使えるかも？ - Vengineerの戯言

今回は、GNA 3.5 についてです。

既に、OpenVINO 2023.2 が出ていますが。。。

GNA 3.5 と OpenVINO 2023.1

OpenVINO 2023.1 の Relese Notes によると、

- Runtime:
  - Intel® Gaussian & Neural Accelerator (Intel® GNA) is being deprecated, the GNA plugin will be discontinued with 2024.0.  
- Intel® Gaussian & Neural Accelerator (Intel® GNA) 
  - Introduced support for GNA 3.5, new version of GNA HW included in Intel® CoreTM Ultra (codename Meteor Lake). 

GNA plugin は、2023.0 で discon になると、そして、Meteor Lakeに入っている GNA 3.5 をサポートすると。。

• Intel、次世代「Meteor Lake」の生成AIデモで、VPU搭載の恩恵をアピール | TEXAL

によると、Meteor Lake には、

• GNA (Gaussian Neural Acceleration) 3.5
• Movidius VPU 2.7

が搭載されていると。

OpenVINO 2023.2

• Configurations for Intel® Gaussian & Neural Accelerator (GNA) with OpenVINO™

おわりに

Meteor Lake では、GNA と VPU 入りになって、お得な気分。

• Configurations for Intel® NPU with OpenVINO™

と思っていたら、下記のように、Intel GNA => NPU になるんですね。