はじめに
ルネサスのDRPはかなり前からあるのは知っているのですが、どのDRPがAIに対応していたのは最近知りました。
で、このブログで DRP を取り上げていたかな?と思い、検索してみたら、なんと、2020年9月30日に、DRP-AI について書いていました。。*1
DRP-AI
によると、DRP-AI は、下記のような感じになっているようです。
8 x 8 の乗算器を別途設けるという形ですね。乗算器への入力と出力はDMAを使っているようですね。
次世代AIアクセラレータ
従来技術に比べて最大10倍の電力効率を実現した人工知能(AI)チップを開発 (2022年12月8日) にて、次世代AIアクセラレータを発表しています。
今回開発したAIアクセラレーターは、「DRP-AI」が持つ動的な回路切り替え技術などの高い柔軟性を活用することで、枝単位できめ細かく枝刈りした場合でも効率よく演算をスキップすることができます。これにより、認識精度に必要な演算のみに絞りつつ、高いハードウエア並列性を維持して処理できるようになります。演算量を最大90%削減する枝刈り率※9のAIモデルにおいて、従来技術に比べ最大で10倍の高速化を実現し、1W当たり最大で10TOPSの電力効率を達成しました。また、モデルにもよりますが、枝刈りにより演算量を90%削減した場合でも、認識精度はわずか3%程度の低下にとどまり、ほぼ同等の精度が得られることを確認しました
で、実証では、
本技術を搭載したAIチップを試作し、10分の1に軽量化された畳み込み層※10の性能評価を実施した結果、製品化されているエンドポイント機器向けAIプロセッサーとしては世界トップレベルの実効効率(1W当たり10TOPS)を実証しました。ルネサスの現行製品と比べても10倍以上の電力効率となります。
とありますので、試作チップは作ったんですね。。。
- 従来品 : 1 TOPS/1W
- 今回のAIアクセラレータ : 10 TOPS/W
おわりに
消費電力効率大切ですね。で 1/10 になった畳み込み層をうまく処理するシステムにて10倍の消費電力効率って、、?
関連記事(追記、2024.01.31、小島さんの記事)
追記)、2024.02.27
*1:笑