はじめに
下記の投稿にあるように、TURINGがLLM専用アクセラレータ(Hummingbird)について説明する会に参加しました。
TuringではLLM専用半導体アクセラレーター開発プロジェクト「Hummingbird」を立ち上げて、半導体ですぐれた業績を収めた方をリーダーに現在進めています。
— 山本一成🌤️チューリングのCEO (@issei_y) 2024年1月2日
Hummingbirdの方向性は
・LLM推論のみ
・int4ベース
・あれもこれも作ろうとしない。
今後も定期的にHummingbirdについて説明していきます。 pic.twitter.com/5HQEaXqWbh
下記のXのスペースに録音として残っています。
— 山本一成🌤️チューリングのCEO (@issei_y) 2024年1月2日
今回は、TURINGのHummingbirdについて、書いてみたいと思います。
TURING Hummingbird
- LLM推論のみ
- INT4ベース
- あれもこれも作ろうとしない
というのがスペースが行われる前の情報で、
について、スペースにて語られています。。。
スペースの中であたしが気になったのは、
- 開発費に100億円かかると、10,000万台作って、10,000円の費用が載るよね
- スマホで10.000円載るのは辛いよね
- 自社開発なら数十万でもOKじゃん
ということ。これ、大切です。。。開発費はどこかで回収しないといけないので、数十万でOKなら、最初は1,000台でもOKという感じ。
スケジュール
- 現在はシミュレータにて機能検証
- 2024年の終わりには、FPGA検証。ただし、性能は 1/100 - 1/1000
- 2025年 : Test chip (シャトルを利用前提)
- 2026年から 実製品 (SoC, アクセラレータ, Chipletの選択があるが、SoCは考えていない)
- 2028年 : 動いている
- 2030年 : 量産
チップ開発において、ハックエンドは車載に実績にあるところに任せる
他の車載半導体開発を見てみる
汎用品(色々な顧客がいるという意味)を開発販売している下記の3社の売上を見てみます。
Mobileye
Mobileye (Intelが買収して、昨年再IPOしている)の売上は、下記のような感じ。直近では四半世紀で $500M の売上です。
NVIDIA の automotive
NVIDIA の automotive (データセンター用GPUで独占しているNVIDIAですが、automotive の売上は直近の四半世紀で $200M台。全体の売上は、$18.120Mなので、2%未満です。
ルネサス
ルネサス (四半世紀で、2000億円未満。結構な金額。ただし、車載全体)
上記の図は、Renesas moves to chiplets for automotive processors から説明のために引用します。
追記)、2024.01.04 - SDV時代を見据えたプラットフォームへの進化を目指すルネサスの第5世代R-Car
- 予測 AI(トランスフォーマ)に対応する省電力動的再構成プロセッサ・システムの開発
が AIアクセラレータに相当するんでしょうね。
おわりに
どうやら、アクセラレータをして実装するようですが、メインとなるSoCはどこかから調達することになりますよね。そこって、ルネサスになるんですかね。
どうなんでしょうか?
追記)、2024.01.04
半導体開発費を50億円として、10万台を想定して、50,000円と
半導体開発費を50億円と仮定します。この場合スマホ用半導体なら200万台生産して一個あたり2500円で採算ギリギリです。一方、車載なら10万台生産で一台あたり5万円です。自動車の単価を考えるなら5万円は許容可能です。これがTuringが車載半導体で勝ち目があると考える理由の一つです。
— 山本一成🌤️チューリングのCEO (@issei_y) 2024年1月3日
これはあくまでも半導体開発のためのNREだけ。これにWaferのコストやパッケージまでの部品コストや製造コスト諸々が乗るよね。
お節介ポストするポヨ
— 情報収集専用垢なので基本呟かないでも呟くときは発作が起きたと思ってくださいポヨ (@Johoshushupopo) 2024年1月3日
開発費とチップ製造費を分けて考えた方が良いポヨ
またチップ面積と歩留まりは重要ポヨ
製造原価に加え販管費と利益を考えるとプライスターゲットは見えてくるポヨ https://t.co/5voquwe9Qw pic.twitter.com/6jBHGXnrBE
そして、上記のWafer価格はあくまでも量産価格。10万個だと、Wafer1000枚ぐらいなので、量産価格にはならないよね。
この金額はあくまでもウェハーの量産時価格、10000個だと、ウェハー100枚でまかなえるので当然量産時価格ではない
— Vengineerの妄想(準備期間) (@Vengineer) 2024年1月3日