はじめに
Xの下記の投稿で知った「Majestic Labs」
Every single startup working on next-gen AI chips (July 2026)
— Deedy (@deedydas) 2026年7月25日
Every approach attacks data movement differently to break Nvidia’s dominance:
– eliminate DRAM (Groq)
– eliminate the interconnect (Cerebras)
– eliminate the compute/memory split (d-Matrix)
– eliminate the server’s… pic.twitter.com/fACNx7JIrp
どんなものを作っているのかを調べてみました。
Majestic Labs
まずは、Google検索でヒットしたのが下記の記事
新型AIサーバー「Prometheus」を、2026年4月28日に発表した。1サーバーあたり最大128TB（テラバイト）の高速メモリを各プロセッサに直結させる設計で、最新GPUサーバーの約1000倍のメモリ容量を1筐体に収める。
とあります。
1サーバー当たり、最大 128 TB って。。 256GB の メモリモジュールでの 512枚必要ですよね。
どんな感じになるんでしょうかね。
サイトは、こちら。ここにサーバーらき写真の一部が載っていましたので記録に残すため、引用します。
これは、Rear側でしょうか？ Product のページのも写真がありましたので、説明のために引用します。
これは、Front側でしょうか？
これは、横からでしょうか？
Founder
- Sha Rabii : Co-Founder and President : Goole (2011.12 - 2018.3, Pixel Dual Core/Pixel Neural Core => Meta (2018.7 - 2022.12, AR関連)
- Ofer Shacham : Co-Founder and CEO : Google (2013.8 - 2018.7) => Meta (2018.7 - 2023.8)
- Masumi Reynders : Co-Founder and COO : Google (2015.10 - 2018.11) => Meta (2018.11 - 2023.10)
Google で、Pixel関連の開発をやっているメンバーでの創業のようですね。
Majestic Labs は、2023.11、創業のようです。
Silicon は、Carey Kloss (- 2025.3) : (Nervana Systems : 2014 - 2016.8, Intel : 2016.8 -2020.4) , Analog Inference (2020.4 - 2023.7)
職を見てみる
We are seeking an experienced SoC Architect – AI Acceleration (RISC-V and Compute Cluster Development) to lead the architecture and integration of Majestic’s compute subsystem.
とあります。RISC-V ベースの Computer Cluster なんでしょうか？
SoC Management Subsystem Architect の募集のところには、
We are looking for a seasoned SoC Architect to lead the design and integration of the management subsystem within Majestic’s AI acceleration platform. In this role, you will define and drive SoC-level architecture for control and management flows — integrating ARM cores, interconnects, high-speed IO, and system management interfaces. You’ll collaborate closely with peer architects, hardware, firmware, and system engineers to ensure a cohesive, high-performance design that bridges silicon and software seamlessly.
とあります。SOC ARCHITECT では、RISC-Vだったのに、こちらでは ARM cores ですね。
Gemini さんにも聞いてみた
Majestic Labs（マジェスティック・ラボ）は、元Googleや元Metaのシリコンエンジニアたちによって2023年に設立された、アメリカ（カリフォルニア州ロス・アルトス）およびイスラエル（テルアビブ）を拠点とするハードウェア・AIスタートアップ企業です。
どんな会社か
- 創業者: Ofer Shacham氏、Sha Rabii氏、Masumi Reynders氏の3名（20年以上協力関係にあるベテランのシリコンエンジニア）
- 資金調達: Bow Wave CapitalやLux Capitalなどから、累計で約1億ドル（約1.5億円規模）の資金調達を行っていることで注目を集めています。
- ターゲット層: 超大規模データセンターを運営するテック大手や、膨大なデータを扱う金融・製薬業界など。
何を作っているのか（主な製品・技術）
Majestic Labsは、AIデータセンターの最大のボトルネックである「メモリ不足」と「コスト・電力の肥大化」を解決するための高容量AIサーバーおよび独自のシリコンアーキテクチャを開発しています。
主な特徴は以下の通りです。
- 従来の1000倍のメモリ容量
特許出願中の独自のシリコンアーキテクチャにより、従来の企業用サーバーと比較して最大1000倍のメモリ容量を持つシステムの構築を目指しています。
サーバーラックの劇的な集約（圧縮）
開発中のシステムは、最大10台もの既存のサーバーラックをたった1台のサーバーに置き換える（圧縮する）ことが可能とされています。これにより、データセンターにおける電力、冷却、設置スペースの需要を大幅に削減します。
GPUを補完するメモリ集約型ワークロードへの特化
- 同社は「NVIDIAのGPUを全面的に置き換えるわけではない」としており、AIの進化に欠かせないGPUの計算処理能力を活かしつつ、固定化されがちな「計算とメモリの比率」の制限を打破し、メモリ集約型のAIワークロードを強力に補完することを目指しています。
現在は2027年のプロトタイプ発表・商用化に向けて開発が進められています。
具体的にどうやって、圧縮するの
Majestic Labsがサーバーラックを「圧縮（1台に集約）」する仕組みは、物理的な筐体を小さくしているわけではなく、「コンピュート（計算処理）とメモリを切り離し（ディスアグリゲーション）、独自のチップと技術で膨大なメモリを効率よく統合・共有する」というアプローチによって実現しています。
具体的には、以下のような技術と仕組みによって構成されています。
1. 汎用DRAM（LPDDRなど）のプール化と大規模搭載
- 高価なHBM（High Bandwidth Memory）に頼らない
現在のAI用GPUは、チップ上に高価で容量が限られるHBMを直接搭載していますが、これでは十分なメモリ容量を確保するために「本当は計算能力そんなにいらないのに、メモリのために無駄に多くのGPU（＝サーバーラック全体）を買わされる」という非効率が生じています。
最大128TBのメモリ空間
- Majestic Labsのサーバー「Prometheus」は、汎用的な高密度DRAM（LPDDRなど）をサーバー内に大量に配置し、1台のシステムで最大128TBという、従来のGPUサーバーの数十〜100倍以上のメモリをひとまとめ（プール）にします。
2. 独自開発の「AIU（アクセラレータ）」と「メモリインターフェースチップレット」
- 2種類の専用ダイ（Silicon）
同社は、多数のコアを持つAI処理用チップ（AIU：「Ignite」）と、計算チップとメモリの間に配置する「メモリインターフェースチップレット」の2つのシリコンを独自開発しています。
超広帯域インターコネクト
- 「大量の汎用DRAMを使うと速度が落ちる」という弱点を克服するため、独自の物理層・プロトコルによる接続技術を開発。HBMに匹敵するような高速データ転送と低レイテンシを、オフパッケージのDRAM間で実現しています。
3. フラットで均一な共有メモリ空間（単一のメモリプール）
- 複雑な階層をなくす
通常のGPUクラスターは、GPUごとのローカルHBMやホスト側のメモリなどが幾重にも階層化されており、データのやり取り（シャードや同期）に膨大な手間と待ち時間が発生します。
Majestic Labsのシステムでは、搭載されたすべてのAIプロセッサが、巨大なひとつのフラットな共有メモリ空間（Uniform, shared memory）にアクセスします。どのプロセッサからも、すべてのメモリ領域へ均一な帯域とレイテンシでアクセスできるため、プログラムの書き換えを最小限に抑えつつ、巨大モデルを効率よく動かせます。
なぜこれが「ラックの圧縮」につながるのか？
従来のAIインフラでは、たとえば数兆パラメータの巨大モデルを動かすために「十分なメモリを積む目的だけで、何台ものサーバーラック（＝多数のGPUと配線）」を並べる必要がありました。
Majestic Labsは、「1台のサーバーの中に必要なだけの膨大なメモリプールと、それを超高速で束ねるチップ」を詰め込むことで、従来なら10台のラックを必要としたシステム環境を、1台の筐体に丸ごと押し込める（圧縮する）ことに成功しています。これにより、設置スペースだけでなく、電力や冷却コストも劇的に削減できる仕組みになっています。
Majestic Labsが開発している「Ignite」は、同社のメモリ集約型AIサーバー「Prometheus」の中核を担う独自開発のAIプロセッサー（AIU：Artificial Intelligence Unit）です。
NVIDIAのGPUとは異なるアプローチで設計されており、主な特徴や詳細は以下の通りです。
1. 基本アーキテクチャと設計思想
- プログラマブルコアと行列演算の融合: Igniteは、ニューラルネットワークの計算に最適化された行列演算アクセラレータと、柔軟な処理を行うためのプログラマブルコアを組み合わせて構成されています。
- ベース技術: ARMのIPやオープンソースの「RISC-V」プラットフォームなどを活用し、多様なAIワークロードの要件に合わせた効率的な演算が行えるよう独自設計されています。
- 推論（Inference）およびエージェント処理への特化: モデルの学習（Training）よりも、巨大言語モデル（LLM）の実行、長文コンテキストの処理、エージェントAI、グラフニューラルネットワーク、表データモデルなどの推論・実運用フェーズに重点を置いています。
2. 「128TBの巨大共有メモリプール」との統合
- プロセッサとメモリの協調: 従来のGPUは、チップのすぐそばに高価で容量の少ないHBM（High Bandwidth Memory）を密着させる必要がありましたが、Igniteはサーバー全体で最大128TBに達するフラットで均一な共有メモリ空間（単一のメモリプール）にアクセスします。
- マルチプロセッサ構成: 1台のPrometheusサーバー内には、最大12基のIgniteプロセッサを搭載可能で、それぞれがボトルネックなしに巨大なメモリ空間を共有・利用できます。
3. NVIDIA「CUDA」への対抗とソフトウェアエコシステム
- NVIDIAが「CUDA」という強力な独自エコシステムで市場を支配しているのに対し、Igniteを採用するシステムでは、AIエンジニアにとって馴染み深いPyTorchなどの標準的なフレームワークで開発・プログラミングが行えるようソフトウェア環境が整えられています。これにより、既存のAIアプリケーションからの移行や開発のハードルを下げる狙いがあります。
Igniteは、単体でGPUの最高処理速度を競うためのチップではなく、「プロセッサがメモリデータの到着を待ってアイドル状態になってしまう（メモリバウンド）」というAIの最大の弱点を根本から解消するために最適化されたアクセラレータです。
おわりに
どうやら、従来の10台分のサーバーを1台のサーバーに置き換えられる何かを作っているようです。2027年プロトタイプのようですね。
ベース技術: ARMのIPやオープンソースの「RISC-V」プラットフォームなどを活用し、多様なAIワークロードの要件に合わせた効率的な演算が行えるよう独自設計されています。
とあるので、Arm と RISC-V が同居するんですね。
最大12基のIgniteプロセッサを搭載可能
1基の Ignite には、10TBぐらいのDRAMが繋がる想定なんだ。。。
- Ignite (AIU) chiplet <=> Interconnect Chiplet <=> DRAM
128TBなメモリを 1U x 4 に搭載するということは、1Uに、128GB Memory Module を 32個接続する Interconnect chiplet を 8個搭載して、32TB、これを4つということになるんでしょうか？
上のサーバーの写真では、どうも水冷じゃないので、これだけの物量を空冷で冷やせるものでしょうか？
www.blocksandfiles.comに下記の図が載っていました。説明のために引用します。
それから、下記の写真も。こちらも説明のために引用します。これ、下が計算機で上がメモリなんでしょうね。それとも、下がHostで、上が計算機＋メモリなんでしょうか？
あれれ、
They will draw a total of 120 kW and use cold-plate, liquid cooling.
も書いてある。空冷じゃなくて、水冷なのね。
