Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう！

MosaicMLという会社

はじめに

Nervana Systemsの元CEOのNaveen Rao san (@NaveenGRao)が2021年10月13日(日本時間、2021年10月14日)に創業したMosaicMLがステルスモードから情報を公開しました。

前日、こんなツイートしています。

MosaicML という会社

サイトは、https://www.mosaicml.com// です。

会社のロゴは、こんな感じ、説明のために、サイトの一番上にあるロゴの画像を引用しました。

f:id:Vengineer:20211017100617p:plain

MLが右上にあるっぽいですね。

Twitterのアカウント名は、@MosaicML です。

さあ、公開されている情報を徹底的に掘り下げてみましょう！

Team

まずは、Team、つまり、人です。人がすべてと言っていいほどだと思っているので、この部分は非常に重要です。

  • CEO & Co-founder : Naveen Rao (元Nervana Systems CEO => Intel に買収、2020年3月まで、2020年12月創業)
  • CTO & Co-founder : Hanlin Tang (元Nervana Systems Software => Intel に買収、2020年11月まで、2020年12月創業)

CTOの Hanlin Tang san は、Nervana Systemsの時は、Senior Algorithm engineer ということなので、この点からもハードウェアではなさそうですね。

2021年10月13日にアップされたブログ

Making ML Training Efficient, Algorithmically! には、

f:id:Vengineer:20211017102338p:plain

とありますので、

が主要メンバーだと想定しています。

Our mission is to reduce the time, cost, energy, and carbon impact of AI / ML training so that better AI models and applications can be developed.

とありますので、学習時のコスト、エネルギー消費を削減するための会社、という感じですかな。

10月8日の Naveen Rao san の下記の連投Tweet。このTweetの中で、MosaicMLのミッションのことを言っているのではないでしょうか・

もう、性能だけではなく、コスパ(性能/ドル)になってしまっていると。まあ、最初からそうですから。性能だけじゃ、ビジネスできないので。。。

そして、上のブログには、

We tackle this problem at the algorithmic and systems level.

とあるので、ハードウェアではなく、アルゴリズムとシステム・レベルで解決すると。。。

調達資金は、37Mドル。

プロダクト

Composer is an open-source library of methods for efficient ML training and ways to compose them together into recipes. At launch, we’ve implemented around 20 different efficiency methods curated from the literature and rigorously benchmarked their performance benefits. Along with several strong baselines, we aim to accelerate the path from research to industry with reproducible code and ease-of-use. See our Methodology blog for more information on the science underpinning Composer. Many more methods, models, and datasets will be coming on-line in the coming months!

Composerは、Algorithmic Methods の内容を実装したものっぽい。

Methodology というブログでは、下記の用いこれらのライブラリを増やすとも書いてあります。

In the coming months, we will continue to grow our open-source library of methods and work with customers to reduce the time and cost of their existing workloads and take on more ambitious machine learning problems.

Explorer is an interface that establishes a language to talk about efficiency. Choose the best set of methods for your desired tradeoff between quality and cost or training time. Visualize measured trade-offs of cost, time, and quality across thousands of training runs on standard benchmarks. Filter by method, cloud, and hardware type to reach your optimal operating point.

Explorer のページを見ると、Image Classification (ImageNet) の Dataset の ResNet-50, 16-bit (A100) のBaseline model を使って、いろいろな インフラ(AWS、GCP) & Methods にて学習したら、時間、精度、コスト どうなるのかを表示してくれています。

おわりに

学習時のコスパを良くするサービスを提供する MosaicML 。このビジネスがどのくらい成長するかは、あたしにはわかりませんが、ディープラーニングでのハードウェア開発のブームは終わったのではと感じています。

下記のブログ(AIコンサルタントのKarl Freund san (@karlfreund) によると、

www.forbes.com

競合は、

  • Codeplay : OpenCL/SYCL でずーと注目している会社です
  • OctoML : TVM開発メンバーの会社です

っぽいです。

Ampere Computingを振りかえってみた

はじめに

来週の日曜日の半導体チップ雑談でのお題は、「Ampere Computing」です。

そのために、Ampere Computing のおさらいをしてみます

vengineer.hatenablog.com

vengineer.hatenablog.com

vengineer.hatenablog.com

Ampere Computing という会社

Ampere Computing のCEOは、Renée J. James san (元Intel社長、CEOではない)です。Renée J. James san は、

Wikipedia によると、2013年5月16日、Intelの社長になりました(CEOはブライアン・クルザニッチ san)。3年後の2016年2月にIntelを去りました。 その時のPC Watchの記事がこちら。今回の退任は他社でCEOに就任するためだという。

pc.watch.impress.co.jp

そのCEOが Ampere Computing だったわけです。

eetimes.itmedia.co.jp

Renée J. James san は、Ampere ComputingのCEOではありますが、投資会社(プライベート・エクイティ・ファンド) Carlyle Groupの幹部でもあるわけです。

www.carlyle.com

そして、Ampere Computingは、Carlyleの投資先でもあるわけです。

www.carlyle.com

下記の記事によると、

一方のJames氏は、2015年の夏にIntelを去った後、2016年初頭にCarlyle Groupに幹部として入社した。Carlyle Groupは、X-Geneを「Ampere Computing」としてリブランドし、James氏が2017年秋にCEOに就任した。

とあります。Ampere Computing は Carlyle Group が保有している X-Gene をベースにしている。

eetimes.itmedia.co.jp

下記の記事のタイトル「MACOM Sells AppliedMicro’s X-Gene CPU Business」にあるように、MACOM が Carlyle Group に AppliedMicro の X-Gene CPU ビジネスを売却

www.anandtech.com

January 26, 2017 : MACOM Successfully Completes Acquisition of AppliedMicro

MACOM - MACOM Successfully Completes Acquisition of AppliedMicro

MACOMに買収されたAMCCとは？

ascii.jp

このブログに書いた AppliedMicro の X-Gene の記事。2017年3月23日

vengineer.hatenablog.com

Ampere Computing の今

Ampere Computing の従業員、500名

www.nextplatform.com

Ampere Computing の今後

説明のために下記の図を引用します。

f:id:Vengineer:20211013093036p:plain

  • 2020 : Altra、7nm、80コア
  • 2021 : Altra Max、7nm、128コア
  • 2022 : Ampere Next Generation、5nm
  • 2023 : Ampere Feature Processors

7nm の次は 5nm、コア数を128個から 196個、256個とまだまだ増えそうです。

おわりに

  • Intel : Sapphire Rapids は 56コア
  • AMD : Rome/Milan (64コア)、Geona (96コア)

に対して、Ampere Computingは、128コア、x86-64の Intel/AMDのコアはThreadがあるのでx2になるが、実コアでは 劣る。

新しい戦いの始まりなのだろうか？

Altra Max Product Brief

雑談、1on1、30名の方にやりました。

はじめに

2021年9月7日のこのブログに書いた「定年後の暇をどうするか？を考える (その1)」

vengineer.hatenablog.com

その中の、「皆さんのお話を聴く (雑談をする)」を積極的にやりました

どのくらいやったのか？

30名の内容は、下記のように、雑談、1on1、だけでなく、相談もありました。 相談の方については、1on1の予定をしています。

  • 雑談、17名
  • 1on1、11名
  • 相談、2名

9月と10月の活動

  • 9月 (17名) : 1on1 (4名)、雑談(12名)、相談(1名)
  • 10月 (8名) : 1on1 (6名)、雑談(2名)

多い週では、5名の方と、雑談、1on1 をやりました。

1on1の時の質問

1on1の時は、あたしからみなさんに5つの質問をしています。 質問の内、最初の3つはTwitterにて以下のように公開しています。4つ目は、1on1をやることが決まったらお知らせし、5つ目は当日、4つ目の質問後になります。

  • 1 今のお仕事って何？
  • 2 どこが一番楽しい？
  • 3 何が無くなればもっと幸せ？
  • 4 は、1on1をやることになったら、お知らせします
  • 5 は、1on1当日の4.の質問の後に、お知らせします

この質問の中で、特に「3. 何が無くなればもっと幸せ？」に関しては、みなさん、悩まれるようです。

何故なら？、だいたいは、何があれば？とか、何が欲しい？という、何かを得ることで幸せになれる？とするのですが、この質問では、何が無くなると、幸せになれる？、という逆の質問だからです。

これからどうするのか？

今後も、雑談、1on1を継続して行いますが、とりあえず、

  • 雑談、1on1 50名 or 1on1 25名

を目指したいと思います。

おわりに

定年後の準備のために始めた、「雑談、1on1」、すごくいいです。

  • いろいろな人とお話できる
  • 話すことでエネルギーを使い、心地よい、疲労感もあるときがある
  • 腹筋(横隔膜)の運動になる

というのが今のところ感じていることです。

既に、来週までに5名の方と、1on1の予定が入っているので、25名の方との 1on1 の方が早いかもしれません。

Intel DMI (Direct Media Interface)の復習をしてみた

はじめに

昨日の半導体チップの雑談で、Intel Gen12 & Chipset のお話をしました。

お話の中で、CPU <=> I/O Chipset の間の DMI が x8 DMI 4.0 になっていました。

DMI (Direct Media Interface)

DMI について、上記の Wiki の復習しました。

DMIは、物理層としては PCIe Express を使っているようです。下記のように、2006年にDMIとして登場しました。基本的には、x4 の実装です。

  • DMI (2006)
  • DMI 2.0 (2011)
  • DMI 3.0 (2015)
  • DMI 4.0 (2021))))

2.0、3.0、4.0は、PCI Express の Generation と同じで、2.0 は、PCI Express Gen2という感じです。

DMI 3.0 に関しては、2021年の 500シリーズにて、x4 から x8 になったようです。調べてみたら、全部が x8 になったのではなく、H590とZ590のみ x8になったようです。

blog.livedoor.jp

DMI 4.0 に関しては、2021年の 600シリーズ(Intel Gen12のChipset）で導入され、Chipset 側にも PCI Express Gen4 が導入されました。

おわりに

DMI、2021年に 500シリーズの一部にて、DMI 3.0 x4 => x8 、2021年の 600シリーズでは、DMI 4.0 x8 を導入しています。

Chipset 側に多くのSERDESを使いインターフェース (PCI Express や USB 3.x) が増えたため、CPU <=> I/O Chipset 間の転送レートを増やしています。

とは言え、PCI Express Gen4 x8 程度ではまだまだ足りないのでは？とは、思っています。

アマゾンプライムで 007、24作品を連続して観ると、丸二日かかるよ

パンデミックの影響で公開が延び延びになっていた、007の最新作(007／ノー・タイム・トゥ・ダイ (2020) / NO TIME TO DIE 、MGM/Universal (A Comcast Company))の公開記念で、アマゾンプライムにて、007、24作品が落ちてきたので、約1か月かけて全部観ました。連続してみると、だいたい48時間なので2日間かかります。

24作品全部、MGMですが、5作品目の「007は二度死ぬから」20作品目の「ダイ・アナザー・デイ」までは UNITED ARTISTS（AN MGM COMPANY)が加わりました。 21作品目からUNITED ARTISTSからCPLUMBIA(SONY PICTTURES ENTERTAINMENT company) に変わり、映画の中ではSonyのVAIOのノートPCが登場しています。

００７／ドクター・ノオ (1962) / DR. NO 第1作目、約60年前の作品。まだ、007の武器は出てこない。 ショーン・コネリー(1930年生まれ)なので、30代なんだ。

００７／ロシアより愛をこめて (1963) / FROM RUSSIA WITH LOVE ロシアまで行っているー。

００７／ゴールドフィンガー (1964) / GOLDFINGER この作品からタイトルと同じ主題歌がオープニングとエンディングに流れた

００７／サンダーボール作戦 (1965) / THUNDERBALL この作品では、武器がいろいろ出てくる

００７は二度死ぬ (1967) / YOU ONLY LIVE TWICE 舞台は日本。タイガー田中は、丹波哲郎。キャシー鈴木は、浜美枝。OSATO(大里)本社は、ホテルニューオータニ

女王陛下の００７ (1969) / ON HER MAJESTY'S SECRET SERVICE この作品だけ、第2代目のジェームズ・ボンド、Ｇ・レーゼンビー

００７／ダイヤモンドは永遠に (1971) / DIAMONDS ARE FOREVER ここでも核兵器。ボンド役にＳ・コネリーが復活したシリーズ第７作。

００７／死ぬのは奴らだ (1973) / LIVE AND LET DIE ロジャー・ムーアが3代目の007。1927年生まれって、ショーン・コネリー(1930年生まれ)よりお年寄りジャン。。。

００７／黄金銃を持つ男 (1974) / THE MAN WITH THE GOLDEN GUN

００７／私を愛したスパイ (1977) / THE SPY WHO LOVED ME JAWSが出てきた。次作のムーンウォーカーじゃないんだ。それからオープニングの曲のタイトルは、「THE SPY WHO LOVED ME」ではなく、

００７／ムーンレイカー (1979) / MOONRAKER 宇宙に。スペースシャトル、６機。JAWSが出ているが、最後は一緒に戦っていた。。。

００７／ユア・アイズ・オンリー (1981) / FOR YOUR EYES ONLY オープニングソングがシーナ・イーストンだった。超懐かしいです。今回の舞台は、イタリア。。。の冬山。

００７／オクトパシー (1983) / OCTOPUSSY 舞台は、東ベルリン => インド ００７／美しき獲物たち (1985) / A VIEW TO A KILL ロジャー・ムーア最後の作品

００７／リビング・デイライツ (1987) / THE LIVING DAYLIGHTS 4代目、ティモシー・ダルトン。ソ連(KGB)、インド、

００７／消されたライセンス (1989) / LICENCE TO KILL CIAの友人が麻薬マフィアに大怪我させられた(結婚式当日の夜に妻も殺された)。友人を助けるために007を辞め、麻薬マフィアに復讐するという今までと違う展開

００７／ゴールデンアイ (1995) / GOLDENEYE 6年ぶりの007、ピアース・ブロスナンに！ロシアの軍人(将軍)がゴールデンアイを盗み、悪いことをするお話。

００７／トゥモロー・ネバー・ダイ (1997) / TOMORROW NEVER DIES テロリストとの闘いと思ったが、

００７／ワールド・イズ・ノット・イナフ (1999) / THE WORLD IS NOT ENOUGH パイプライン(天然ガス)の利権に関するもの。お年のQから新しい後継者も登場。

００７／ダイ・アナザー・デイイ (2002) / DIE ANOTHER DAY 北朝鮮の将軍の息子(大佐)がDNAを変えちゃう医療技術で顔などを変えて、盗んだダイヤモンドをアイルランドで発掘されたものとして売り出したセレブという設定。Qが前作の後継者になった。

ここから MGM + UNITED ARTISTS から MGM + Universal (Sony Company) になりました。007もマッチョなダニエル・グレイグ(あたしより年下)になりました。映像もかなりきれいになり、特撮もふんだんに使うことになりました。

ここからの4作品は、スペクターという組織との闘いになります。実は最初はスペクターとの闘いだった。MGM + UNITED ARTISTSから MGM + COLUMBIA (A Sony Company)になっています。

Qもおじさんから若い人に。。。

００７／カジノ・ロワイヤル (2006) / CASINO ROYALE ダニエル・クレイグ(1968年生まれなので、38歳)の007。筋肉マッチョな007

００７／慰めの報酬 (2008) / QUANTUM OF SOLACE

007 スカイフォール (2012) / SKYFALL

007 スペクター (2015) / SPECTRE ここまでの4作品は繋がっている。スペクター、死んじゃったけど、2021年の25作品目はどうなるのだろうか？

最新作は、劇場公開中です。

007／ノー・タイム・トゥ・ダイ (2020) / NO TIME TO DIE MGM + COLUMBIA (A Sony Company) からMGM + Universal (A Comcast Company) に変わっていますね。なんでだろうか？

Questa Intel FPGA Edition、Windows版だけど、WSL2からも動いたよ

はじめに

Intel FPGAではシミュレーションには、旧Mentor Graphics(現ジーメンスEDA)のModelSimでしたが、Questaになったようです。

www.intel.com

ModelSimの時は32ビット版だったので、Windows 10のWSLでは動きませんでした。

ここには、

とあるので、Windows 10のWSLで動くかもしれない！

またシミュレーション速度ですが、

のように速くなります。おまけに

  • Mixed language support – Verilog/SystemVerilog, VHDL and SystemC

ということで、SystemCが追加されました。

21.3

Intel 開発ツール、21.3 で確認してみました。

Download Center for FPGAs

Windows版はありましたが、Linux版はありません。

Windows版では、

  • Questa - Intel FPGA Edition (includes Starter Edition) (Install Size: 2.15 GB)、Download Size: 440.0 MB
  • Questa - Intel FPGA Edition (includes Starter Edition) Part 2 (Install Size: 13.43 GB)、Download Size: 10.9 GB

の2つのファイルに分割されていて、2つのファイルをダウンロードしないとインストールできないです。Part 2が10.9GBもあるのでダウンロードに2時間以上かかりました。

インストール & ライセンスの設定

ダウンロードしたファイルをクリックして、インストールしました。

Intel FPGAのサイトでライセンスを獲得し、ライセンスファイル(license.dat)としてストアします。

環境変数の設定

環境変数 MGLS_LICENSE_FILE にライセンスファイル(license.dat) の場所を設定します。

動作確認

例題の examples/systemverilog/classes/associative_array に移動し、

vsim -c -do run.do

でシミュレーションができました。バージョンは、2021.2 でした。

Questa Intel Starter FPGA Edition-64 Version 2021.2 win64 Apr 14 2021

WSL2 での動作確認

WSL2 では、vsim ではなく、vsim.exe で実行できることを確認しました。

SystemVerilogの検証機能

ModelSimでは、SystemVerilogの多くの機能は利用できました。

Questa Intel FPGA Editionでも残念ながら、svverificationというライセンスが必要な検証機能は使えないようです。

  • constrained random
  • assertion

DPI

WSL2からもdpiの例題が全部動きました。

おわりに

Download Center for FPGAsには、

  • Free with purchase of Quartus Prime (Starting Oct 15th, 2021) -- Customers who have purchased Intel Quartus Prime Pro or Standard Editions in 2021 are eligible for 6-month free license.

とあるので、もしかしたら、有償のQuartus Primeを買うと、半年間、Questa Intel FPGA Edition が使えるようです。

Intel FPGAに、RISC-Vなソフトコア(Nios-V)が登場！

はじめに

Intel FPGAの Niosが RISC-V になったということをTwitterのTLで知ったので調べました。

Nios-V

上記のサイトを眺めてみたら、

Nios® V processor is the next generation of soft processor for Intel® FPGAs based on the open-source RISC-V Instruction Set Architecture. This processor is available in the Intel® Quartus® Prime Pro Edition Software starting with version 21.3.

とあり、Intel Quartus Prime Pro Editionで使えること。つまり、無償ではないと。

下の方を見ると、Nios V/m : Microcontroller が今回提供されるコア。

Nios V Processor Reference Manualは、ここ

  • RV32IA (5-stages: Instruction Fetch, Instruction Decode, Instruction Execute, Memory, Wrte Back)

  • Exception Controller

  • Interrupt Controller (Option)

Nios V/m の外部との信号線

  • Clock
  • Reset
  • RISC-V Based Debug Module Agent
  • irq[15:0]
  • 32-bit AXI4 (Data Bus)
  • 32-bit AXI1 (Instruction Bus)

おわりに

も提供されるということなので、現在のSoC FPGAのCPUコアもArm Cortex-A53x4から RISC-Vベースのコアに変わるんでしょうね。。