はじめに GigabyteのAmpere ComputingのAltra Max搭載のサーバー、G242-P36 www.phoronix.com G242-P36 下図は、上記の記事から説明のために引用します。 メモリチャネルは、8．DIMMの数は16枚。 PCIe は、x16 が 6 SLOT CPUとメモリを全部搭載した時の写真…

はじめに Tenstorrent の TT-Buda の Model の生成およびその Model のローディングの部分を見ていきます。 TensTorrent Device Image (TTI): Saving/Loading User GuideのTensTorrent Device Image (TTI): Saving/Loadingに Tenstorrent Deveci Image (TTI)…

はじめに このブログでは、何度も、Ampere Computingについて取り上げました。 今回は、Ampere Computing の Altra (64コア) とマザーボードで $1,500 と、Xの投稿で流れてきたので、記憶のために残します。 Ampere arm 64 core CPU + ASRock Rack mATX mobo…

はじめに Tenstoorentのソフトウェアとしては、TT-Buda というものがあります。下図は、Tenstoorentのサイトから引用しています。 TT-Buda は、Tenstorrent の github にて、公開されています github.com TT-Buda の実態は、PyBuda です。PyBuda のドキュメ…

はじめに NVIDIAのH20のスペックの情報が下記の記事にあったので、記録として残します。 www.tomshardware.com お値段に関しては、REUTERS の下記の記事にありました。 Exclusive: Nvidia's new China-focused AI chip set to be sold at similar price to H…

はじめに Tenstorrent の Compute Tile は、Tenisix と呼ばれています。今回は、Tensix について、みていきます。 Tensix の構成 Tenstorrent の Compute Tile : Tensix は、下記のような構造になっています。Tenstorrentの Tensix AI IP の頁から説明のため…

はじめに Intel Core Ultra には、NPU が搭載されています。この NPU が Microsoft DIrectML でも使えるようになったようです。 blogs.windows.com DirectML 1.13.1 and ONNX Runtime 1.17 リリースでは、DirectML 1.13 にて、NPUをサポートしたと書いてあり…

はじめに 昨日のブログでは、TenstorrentのGrayslullの内部構成を探ってみましたが、今日は Wohm Hole の内部構成を探っていきます。 Wohm Hole の内部構成 Wohm Holeの内部構成は、このファイルからわかります。下記のような内容になっています。 # Note ta…

はじめに Tenstorrentのgithubに公開されているtt-budaのドキュメントの中に、Grayskull の内部構成の図を見つけたので、ブログに残しておきます。 Hardware Overview 下図は、Hardware Overview にあります。説明のために引用します。 13 x 12 の Tile の構…

はじめに AMD XDNA Driver for Linux を覗いてみる (その3) 今回は、mailbox 関連を見ていきます。 amdxdna_mailbox.c amdxdna_mailbox.c で、Host と XDAN 間の mailbox を実装しています。 memcpy(&record->re_x2i, x2i, sizeof(*x2i)); memcpy(&record->r…

はじめに 昨日のTenstorrentに関するブログの最後に書いた umd の中に、Black Hole というキーワードを見つけたので、中を探ってみたいと思います。 Black Hole Tenstorrent の Black Hole は、Grayskull => Wormhole の後のチップで、TSMC 6nm で開発中とい…

はじめに このブログでも何度も取り上げている Tenstorrent。その Tenstorrent が開発した Grayskull Chip を搭載した PCIe Board の販売が開始されました。 Grayskull dev board ここに PCIe AI Dev Card として掲載があります。お値段が付いているのは、 G…

はじめに NVIDIA Grace に関して、このブログでも何度も書いています。 下記のブログでは、PCIe について書いています。 vengineer.hatenablog.com x12 clNVLINK/PCIe x56 PCIe Gen5 と2種類の PCIe があるようです。で、PCIe Controller はいくつあるのでし…