Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

SambaNova SystemsもGbEを付けてくる?

はじめに

昨日、SambaNova SystemsがLLM Inference に PIVOT していたということを書きました。

vengineer.hatenablog.com

今日は、その先、どうするかを見ていきます。

募集

SambaNova Systemsの募集、Principal Engineer, Memory and Interface IP Integration です。

sambanova.ai

無くなってしまうので、魚拓を残します。

SN40Lにて、HBM3を追加していますので、その先のお話だと思います。

下記のところに、Ethernetについて書いてあります。また、high-speed PHY とかもあります。

 Preferred Qualifications

NoC (Network on Chip) experience is a plus
Domain expertise in the Ethernet stack (400G / 800G MAC, PCS, FEC)
Working knowledge of interfacing to high-speed PHY / PMD
Experience with sub-system performance modeling and analysis

PCIe => Ethernet

SN10, SN20, SN30 では、PCIe で die間およびパッケージ間を接続していました。

SN40L でもたぶんPCIe で接続していますが、上記の内容から、PCIe から Ethernet に変えようとしているのでしょうか?

400Gだと、50GB/s、PCIe Gen5 x16 が 64GB/s。800Gだと、100GB/s。PCIe Gen6 x16 で 128GB/s

PCIe だと、x16 を伸ばすのは無理なので、x8 以下になり、結果、帯域は半分になり、Ethernetの方が帯域が大きくなります。

おわりに

SambaNova Systems も Die に ethernet を追加して、die (package)間を接続する作戦になりそうですね。。。

The base salary for this position ranges from $165,000/year up to $210,000/year.

これ、年収2000万円超えですよね。日本の物価を考えると、日本のお賃金の3倍と考えるといいので、$55,000 となり、800万円ぐらいですかね。