Vengineerの戯言

人生は短いけど、長いです。人生を楽しみましょう!

Sparse Tensor Accelerator Modeling Tutorial @ ISCA 2021

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

ISCA 2021 での Sparse Tensor Accelerator Modeling Tutorial のビデオが Youtube にアップされました。

Part 1 と Part 2 (TimeLoop v2) があります。

Part 1

(1/7) www.youtube.com

(2/7) www.youtube.com

(3/7) www.youtube.com

(4/7) www.youtube.com

(5/7) www.youtube.com

(6/7) www.youtube.com

(7/7) www.youtube.com

Part 2 : (TimeLoop v2)

(1/6) www.youtube.com

(2/6) www.youtube.com

(3/6) www.youtube.com

(4/6) www.youtube.com

(5/6) www.youtube.com

(6/6) www.youtube.com

澤さんの「やめる」という選択、を読んで。。

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

金曜日の「まさかのチャンスで、転職」で衝動買いした

「やめる」という選択

を読み終えました。

半分ぐらいは、金曜日の夜に読んで、残り半分は週末のいつもの場所(下の写真)で読みました。

f:id:Vengineer:20210801100610p:plain

本の内容

まー、本の内容はここに書いてもね。

まー、買って読んでください。

とはいっても、ね。

キーワードとしては、

  • こんまりメソッド
  • 自己中
  • 一振りする (まー、始めてみる)

などがありました。

実はかなり似ていた

vengineer.hatenablog.com

に書いたことに似ていた。。。。

「やめる」という選択

あたしは3年前に転職しました。29年間続けてきた大企業での仕事を「やめる」という選択をし、 ベンチャーと言われる大企業に比べると小さな会社(大企業の部レベルぐらい)に転職しました。 突然転職したのではなく、そのかなり前から転職の準備はしていて、転職前の3年ぐらいはそれなりにやっていたわけです。 つまり、それなりに始めていたわけです。。。

で、昨年の2月後半からずーと在宅勤務。 転職して通勤時間は減ったもの、乗る時間帯と区間の違いにより座れる可能性が少なくなったので、逆に電車に乗っているのが辛かったです。 なので、この在宅勤務、あたしにとってはとっても嬉しい。もう、通勤を「やめる」という選択をします。絶対に。

間もなく定年

あと数年で定年です。定年になっても継続雇用制度はありますが、それでもそんなに長く働くことはないと思います。 「働ない」という選択肢もありますが、それだと、たぶん、いや、絶対に「暇」なので、ゆるく働きたいと思います。その時は絶対に「在宅勤務」です。。。

おわりに

澤 san お名前と、プレゼンテーションの達人ということだけは知っていましたが、実際にプレゼンテーションを観たり聴いたりしたことはありませんでした。 たまたま、LinkedInでのビデオを観て、なんか面白そう、ということで Voicy もちょっと聴いてみたら、話が上手い。いや、話し方が上手い。。 ということは、プレゼンテーションも上手いだろうな。 それから、普通の人にもわかりやすい言葉や表現を使っていて、話すスピード、ひとことひとことはっきりくっきりお話しているのを感じました。 (あたしは、それができない。。。)

ということで、偶然、先週の金曜日の出会いで週末、楽しいひと時を過ごすことができました。

2021年7月の映画鑑賞

7月、50本、アマゾン100円(6本)

  • 6月、57本、アマゾン100円(6本)
  • 5月、50本、アマゾン100円(7本)
  • 4月、37本、アマゾン100円(9本)
  • 3月、32本、アマゾン100円(12本)、DVD(3本)
  • 2月、25本、アマゾン100円(10本)
  • 1月:26本、アマゾン100円(5本)

  • 7月までの映画鑑賞、275本

センセイ君主 (2018) 浜辺美波、かわいいわー。。

太陽は動かない (2020) 最初の方、よくわからなかった。

エイス・グレード 世界でいちばんクールな私へ (2018) / EIGHTH GRADE 8年生って、中学3年なのね。ハイスクールの映画は多いけど、中学生の作品って少ないよね。

ブラッドショット (2020) / BLOODSHOT コミック原作なのね。

トゥモロー・ウォー (2021) / THE TOMORROW WAR Amazon Original作品。かなり、よかったよ。

二度めの夏、二度と会えない君 (2017) タイムループ。。。一度、経験したい。。。

窮鼠はチーズの夢を見る (2019) BLなんだ。成田凌、いろんな役をやるね。

人間失格 (2009) ある意味幸せな人ね。

ポリーmy love (2004) / ALONG CAME POLLY ベン・スティラーって、こういう役しかやらない、できないのかしら。。。。ナイトミュージアムで知ったけど。

42 ~世界を変えた男~ (2013) / 42 何事も最初は大変なんだよ。。。本当に。

カフカ 「変身」 (2012) / METAMORPHOSIS カナダ映画、時代設定はいつだろうか? TVが無いので1950年代より前? 邦題は変身だけど、原題のETAMORPHOSISは「変態」。確かに、変態だわ。 DVDのジャケットは蠅っぽいけど、実際は変なゴキブリっぽいです。

カイジ 人生逆転ゲーム (2009) カイジ、おバカというか、単純。喉元過ぎれば。。。。。ラストに出てくる吉高由里子の太ももがかなり太かった気がした。 天海祐希、もっと悪役やってほしい。

カイジ2~人生奪回ゲーム~ (2011) 前作のラストに出てきた吉高由里子がメインに。。。

カイジ ファイナルゲーム (2019) 前作から8年。カイジ役の藤原竜也、めっちゃ、おっさんになっている。。。。 福士蒼汰の悪役、なかなかよかった。

アナベル 死霊館の人形 (2014) / ANNABELLE DVDで観たので、2度目。アナベルがどのようにして生まれたのか?

アナベル 死霊博物館 (2019) / ANNABELLE COMES HOME 無くなった父親と会いたいために、アナベルが入っているケースの扉を開けちゃって、大変なことになっちゃうお話。

パラレルワールド・ラブストーリー (2018) よくわからない映画だった。パラレルワールドっぽいけど、そうじゃなかった。 清水尋也ちはやふるの須藤役。が研究員としてちょこと出てた。

シネマの天使 (2015) 広島の大黒座のお話。本郷奏多が普通の役やっていた。

ウォークラフト (2016) / WARCRAFT 違う世界からきた民族が侵略をするというおとぎ話。。。鬼っぽい。。。

ザ・グラッジ 死霊の棲む屋敷 (2020) / THE GRUDGE 「呪怨」のハリウッドリメイク版。サム・ライミが制作。

フルートベール駅で (2013) / FRUITVALE STATION 2009年1月1日未明に、カリフォルニア州オークランドの地下鉄フルートヴェイル駅で起こった実話。

青夏 きみに恋した30日 (2018) 葵わかな、と、佐野勇斗の高校生のひと夏の青春ドラマ。

ダイナマイト・ファミリー (2014) / A DYNAMITE FAMILY 父親と母親が再婚して、お互いに子供達がいがみ合うお話。再婚後生まれた妹が兄弟を呼び出したその夜、父親と母親は行方不明に。。。

ズーム/見えない参加者 (2020) / HOST ZOOMの中のみで展開するストーリー

記憶屋 あなたを忘れない (2020)、アマゾン、100円 ナミヤ雑貨店の奇蹟っぽい映画。芳根京子が可愛らしい役をやっていた。

ANNA/アナ (2019) / ANNA、アマゾン、100円 スパイ映画。ヘレン・ミレン、相変わらず、いい役やっています。主役のスーパーモデルのサッシャ・ルス、美しい。

ウォリアー・ゲート 時空を超えた騎士 (2016) / THE WARRIORS GATE / ENTER THE WARRIORS GATE / 勇士之門 お姫様役の女優さん(ニー・ニー)がすごくいい。

インターセクション (2013) / INTERSECTIONS 最初はなんだかよくわからなかったが、いろいろと複雑に絡まっているお話だった。

ドニー・ダーコ (2001) / DONNIE DARKO 2001年のサンダンス映画祭でよかった作品のようだが、よくわからん映画だった。ジェイク・ギレンホールが若い(20歳ぐらい)

お姉ちゃん、弟といく (2006) 26歳の江口のりこに会える作品。42分とかなり短いが、内容が無いようなので、このぐらいでもいい感じ。

サマーウォーズ (2009) TV放映されたので、Amazonにも落ちてきた。ゲームの世界のお話だけど、現実にも起こってしまうお話。。。まー、ありえないことだけどね。

狼たちの報酬 (2007) / THE AIR I BREATHE 原題とは全く違う邦題。
ブレンダン・フレイザーって、ハムナプトラの人だよね。

グッドバイ ~嘘からはじまる人生喜劇~ (2019)、アマゾン、100円 モテるのうらやましい限りだわ。

狂っちゃいないぜ (1999) / PUSHING TIN 管制官のお話だけど、ジョン・キューザック、めっちゃ若いし、 ケイト・ブランシェットなんて、この作品が2作目。 アンジェリーナ・ジョリーはふくよかでバストも出しているしね。

シャイラク (2016) / CHI-RAQ Spike Lee監督、表現はユニークだけど、平和は大切。

犬鳴村 (2019) / HOWLING VILLAGE 日本映画のホラーとしては、よくできた作品。。。奥菜恵を久しぶりに見た。1979年生まれなのでアラフォーね。パ★テ★オ (1992)の時が懐かしい。。。

アイアン・スカイ (2012) / IRON SKY 面白かった。ブラックコメディ&SF。スタートレックのパロディなんだね。

ホビット 思いがけない冒険 (2012) / THE HOBBIT: AN UNEXPECTED JOURNEY ホビット 竜に奪われた王国 (2013) / THE HOBBIT: THE DESOLATION OF SMAUG ホビット 決戦のゆくえ (2014) / THE HOBBIT: THE BATTLE OF THE FIVE ARMIES 最初のホビットはTVで見た気がする。これはシリーズの最後の作品なので出ているキャラクタの関係がさっぱりわからなかった。。。

レッド プラネット (2000) / RED PLANET よくできた作品だったが、スマホっぽいものは登場しなかった。それ以外はイイ感じだった。

エクストリーム・ジョブ (2019) / EXTREME JOB 韓国の刑事アクション・コメディ、めっちゃおもろくて、笑ったわ

ハイウェイの彼方に (2019) / ADOPT A HIGHWAY、アマゾン、100円 イーサン・ホークがやる役としては、珍しい。

スタートアップ・ガールズ (2019) 一般的には、こんなイメージなんだろうか? スタートアップ?

スポンティニアス (2020) / SPONTANEOUS、アマゾン、100円 高校生が突然爆発しちゃうお話。31人も爆発してその高校も閉鎖されちゃった。

ブレードランナー 2049 (2017) / BLADE RUNNER 2049 DVDで見たときはよくわからなかったが、レイチェルの子供があのお部屋のお姉さんだったねの。

新聞記者 (2019) 最近の内閣というか政府の中身を見ている感じであった

おおかみこどもの雨と雪 (2012) 声優でも宮崎あおい

拷問男 (2012) / DADDY'S LITTLE GIRL 後半の拷問はすごかったわ。あの後、あの人は生きていけるのかしら。。。

ザ・ゴールドフィンチ (2019) / THE GOLDFINCH、アマゾン、100円 かなり良かった。それにしても、あの家、なんですか。砂漠の中にある住宅街。それも、途中で切れている。。。

ヘイル、シーザー! (2016) / HAIL, CAESAR! コーエン兄弟作品。。。

まさかのチャンスで、転職

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

なんとなく、下記のツイートがちょっと反応があったので、記録として残します。

なんでこんなツイートをしたのか?

何でこんなツイートをしたのか?というと、Linkedin でたまたま、澤円 san のビデオを観て、澤さんの話の中に出てきた、まさかのチャンス、からです。

ビデオはこれです。

www.linkedin.com

そして、お話の中のほぼ100%、あたしが思っていることややってきたことだった。ですよ。

Voicy

ビデオの中で、Voicy やっているということで、3つほど、聴きました。プレミアム・リスナーにならなくても、結構聞けます。 (通常はスポンサー付きになっているようです。

voicy.jp

衝動買いしちゃった

「やめる」という選択

も衝動買いしちゃいました。

まさかのチャンスって?

チャンスはいつ遭遇するかはわかりません。たった今遭遇していても、そのチャンスをつかめる状態にしていないとつかめません。

あたしの場合は、

のように、思っていたので、おーーーーーー、チャンスじゃん、と思って、転職したしだいです。 おまけに、リストラというものがついて、一粒で2倍、美味しかったです。。。

おわりに

ということで、現在、奉公中です。定年までは奉公したいとおもいます。その後は、お役目ごめんになるぐらいまではやりたいとは思っています。

Esperanto Technologiesの ET-SoC-1 の詳細が出てくるっぽい?

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

Esperanto Technologies が ET-SoC-1 をアナウンスしたのが、昨年(2020)の12月。

vengineer.hatenablog.com

ET-SoC-1 の詳細がだんだんでてきたっぽい

今年のHotChips 2021(8月)に ET-SoC-1 の詳細を発表するようですが、WikiChip に ET-SoC-1 の詳細がアップされているので、中を確認してみました。

fuse.wikichip.org

いろいろと更新されている

  • In fact, [Chris Celi](https://www.linkedin.com/in/christopher-celio-324488b3/)o who developed BOOM moved on to Esperanto to work on the ET-Maxion (although since 2020 he joined Intel as a CPU Architect). : CPU アーキテクトの道を進んでいてすごい

  • ET-Maxon / ET-Minion : かなり詳細な情報がアップされている

  • ET-Minion 間の接続 (8個のET-Minionが1つのTile) => Minion Neighborhood (32KBの共用命令キャッシュ、1サイクルでキャッシュラインサイズの64バイトを転送、ラウンドロビンで供給)
  • ET-Minion : Minion Shire (4個のMinion Neighborhood + 4x4 XBar + L2(1MB) x4)、NeighboorhoodsとXBarは、Low Voltage

ET-SoC-1 全体構成

  • 34 Minion Shires (6x6) : PCIe Controller Tile + ET-Maxion x 4 Tile (4MB/L2)
  • DRAM Controller : LDPPR4x 16x16b (256b), 32GB, 137GBs
  • PCIe Controller : x8 Gen4
  • 20W
  • OCP M.2 Acceleraor Module
  • TSMC N7 ?
  • 238 B tr
  • 1.5GHz, 1GHz/20W
  • 128 OPS(INT8)/s, 128GOPS/1GHz, 1088 ET-Minions => 138.3 TOPS(INT8)
  • ET-Minions : 32b/16b FP

おわりに

上記の情報、Linley Newsletter / Esperanto Minions Excel at AI , December 22, 2020 の情報からなのだろうか?

もっと詳しい情報が、HotChips 2021 で発表されるかな?

TensorFlow の MLIR を利用した TAC (Target aware convertion for TFLite model)

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

TensorFlow Lite for Micro controller は、TensorFlow の repo から独立して、tflite-micro になりました。 とはいえ、TensorFlow との関係は継続しているようです。

それから、TensorFlow Lite に関して、TACというのを見つけました。

TAC (Target aware convertion for TFLite model)

TAC

compiler/mlir/lite/experimental/tac になっているので、まだ、実験的な感じ。commit には、「OSS target aware conversion」とあるので、Googleの中ではいろいろとやっているんですね。

モデル内の各Opのコストモデルを使って、どのHardwareで実行するとより速くなるかをやってくれるようです。

ただし、Op間でHardwareをSwitchしたときのコストはどうなるのだろうか?と思いましたが、各Hardwareモデル内のGetHardwareSwitchingCostというメソッドがあるので、Switching Cost も考慮できそうですね。各Opに対しては、GetOpCostというメソッドがあります

tac_translate と

tac_translate というプログラムで、TensorFlow Liteのモデルを変換できるようです。 また、Pythonでは、tac.py の中の run_tac 関数でモデルの変換ができるようです。

対応しているモデル

です。

独自Hardware に対しては、SimpleHardwareクラスを継承してモデルを作ればできるようです。ここに簡単な説明があります。TagetHardwareクラス(SimpleHardwareクラスの親クラス)を使うことの説明もあります。

おわりに

Google Edge TPU がモデルとして追加される日はいつでしょうかね。

NVIDIAのAtlanって、全部入り。。。

@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそすべては、SystemC v0.9公開から始まった 

はじめに

ちょっと古いですが、NVIDIAのAtlan。

car.watch.impress.co.jp

車載用のNVIDIAのSystem : Parker (2018/1TOPS) => Xavier (2020/30TOPS) => Orin (2022/254TOPS) => Atlan (2024/1000TOPS)

Parker => Xavier で 30 倍、Xavier => Orin で 8 倍、Orin => Atlan で 4 倍。。。絶対的な性能向上はしていますが、比率的には下がっていますね。 とはいえ、1000TOPSとは。。。

2023年にサンプル出荷が開始され、2025年に量産予定。ということは、既にチップの仕様は固まって、ある程度開発が進んでいるのかな。。。

Altan は、全部入りジャン

他の記事を調べてみたら、チップの上に何が載っているかの写真が出てきました。

news.mynavi.jp

その写真部分を説明のために引用します。

f:id:Vengineer:20210724110654p:plain

  • CPU : GRACE-NEXT (GRACE が 2023年、Altanのサンプルが2023年ということは、GRACEは2021年今年にはサンプルがあることになるね)
  • GPU : AMPERE-NEXT (AMPERE-NEXT が 2022年に出てくるので、既にあるということね)
  • NPU : BLUEFIELD、何故に、BLUEFIELDが必要なの???? 400Gbps
  • MEMORY : 何故か?わざわざ、メモリがある?

400Gbps って、何に接続するんだ?

Orin

Orin に関しては、Linxu 5.10にてサポートされたようです。Hercules CPU (Arm A78) x 12 コア + Ampere GPU

www.phoronix.com

NVIDIA Tegra234 SoC support. The NVIDIA T234 is the Orin SoC used by the NVIDIA DRIVE AGX Orin with 12 Hercules CPU cores and Ampere graphics.

また、Wiki によると、こんな感じ。

Tegra 186 : Tegra X2 (Parker) Tegre 194 : Tegra Xavier Tegra 234 : Tegra Orin

OrinのCPUは、Cortex-A78E っぽいです。 AltanのCPUは、Armv9 の Makalu っぽいです。

www.anandtech.com