Vengineerの妄想(準備期間)

人生は短いけど、長いです。人生を楽しみましょう!

2024-02-13から1日間の記事一覧

GPGPUのL3 Cacheは、LLMの性能にどのような影響を与えるのか?

はじめに NVIDIAの下記の論文を見直して、気が付きました。 GPU Domain Specialization via Composable On-Package Architecture GPGPUのL3 Cacheって、LLMの性能にどのような影響を与えるのか? グラフを見てみたら、 下図は上記の論文の Figure 9 です。こ…