Tenstorrent : TT-Metal (その1)

はじめに

Tenstorrentのソフトウェアとしては、TT-Budaについてはこのブログでも紹介しました。今回は、もう一つのソフトウェアである TT-METALIUM について調べてみます。

TT-METALIUM

下図は、Tenstorrent のソフトウェアのTT-METALIUM のサイトから説明のために持ってきました。

TT-Metalium: Open Access to Tenstorrent Hardware & Software

Great for development customers who want to customize their models, write new ones or even run non-machine learning code. No black boxes, encrypted APIs, or hidden functions.

TT-Metalium は、BOTTOM UPでカーネルからCUSTOM OPSを作るためのものです。ユーザーが独自にカーネルを開発し、カスタムOPとしてPythonから呼び出せるようにするためのものです。

下図は、事前に用意されている ライブラリである TTnn と TTnn + TT-Metalium による違いを説明しています。TTnn はライブラリとして使い、カスタムでOPを作る時は、TT-Metalium を使ってね。というものですかね。

TT-Metal のコード

TT-Metal のコードは、下記に github にあります。

github.com

ドキュメントは、ここにあります。

ここに例題があります。

テストコードに中に、サンプルプログラムがいっぱいあります。

例題とテストコードを覗いてみtら、なんだか、OpenCLっぽい Programming Model になっています。

おわりに

次回は、TT-Metal のサンプルコードを見ていきたいと思います。