Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

NVIDIAのNVSwitchのシリコン


Nextplatformの下記の記事に、NVIDIAのDGX-2とNVSwitchに関してアップされています。

NVIDIA DGX-2って、お値段、価格は39万9千ドル。 お家が買えます。

Tesla V100の32GB HBM2メモリ搭載版、
最大16GPUまでを相互接続可能にする「NVSwitch」、
半精度(FP16)で2PFLOPSの性能を実現



   DGX-2は、
  ・Volta V100 SXM3 x 2ユニット
    ここに Volta SXM3 board が8枚搭載、6個のNVSwitch ASICで相互接続
  ・他のDGX-2と接続するためのNVSwitch fabric backplane (12ポート)
  ・8個の 100 GB/sec EDR InfiniBand or 100 Gbsec Ethernet network interface cards (Mellanox Technologies) 
    1.6 Tb/sec越えの転送レート
  ・2 x Xeon SP Platinum (24コア Skylake) @ 2.7GHz
    上記Volta V100 SXM3 x 2ユニットと接続するためのPCIe Switch
  ・1.5 TBのDRAM
  ・NVM-Express flash drives (標準で30 TB、最大60TB)

  DGX-1Vは、
 ・2 x “Broadwell” Xeon E5-2698 v4 (20コア) @ 2.2 GHz]
 ・128 GB メモリ
 ・4 x 1.82 TB flash drives (not NVM-Express capable) = 合計で 7.28 TB

なので、メモリとflashが大幅に増加。

CPUをアップグレードすると$5,328、DRAMをアップグレードすると$35,000」

Inside Nvidia’s NVSwitch GPU Interconnect
には、NV Switchのシリコン写真が載っています。

16個のGPUをサポート。。。めっちゃ、横長。。。。

引用
This is very interesting indeed. There are two blocks of eight NVLink ports, on the right and left side of the die, plus another two NVLink ports in the top center of the chip. The crossbar seems to link the eight ports on the right side in a non-blocking manner with the eight ports on the left, and in the dead center of the die is a forwarding circuits that we presume are used to link either set of NVLink port bundles with the two NVLink ports at the top. This is a different configuration than we think was intimated before this die shot came out and that was suggested by this diagram that was put out on announcement day last week:

2ポートのNVLinkは何に使うのか?

これって、POWER9用じゃん。。。

PCWatchの後藤さんの記事:IBMがNVIDIAとのGPUコンピューティングを可能にするPower9の概要を発表によると、
POWER9は NVLink 2.0 を2ポート持っているので。。。

下記の図は、ここからの引用です。

https://cdn-ak.f.st-hatena.com/images/fotolife/V/Vengineer/20190803/20190803150826.jpg

の⑥がXeon部分なので、ここにPOWER9システムを入れればいいんじゃん。。と思っています。

そんでもって、
2018 年 4 月 24 日 (火) にベルサール高田馬場にて開催の NVIDIA Deep Learning Seminar 2018にて、
NVIDIAの成瀬さんのDGX-2 を取り巻く GPU 最新技術情報
にも、NVSwitchのお話載っていますよ。