HBMは、複数のDRAMチップを垂直方向に積層し、非常に広いデータバスで接続するメモリ技術である。

主な特徴：

・メモリチップの3D積層

・TSVによる垂直配線

・広いメモリバス

これにより、従来のメモリよりもはるかに高い帯域を実現できる。

従来のメモリ（DDRなど）は、主に基板上に配置され、チップとは比較的長い配線で接続される。

一方HBMでは、GPUやAIチップの近くに配置され、インターポーザ上で直接接続される。

主な違い：

・配線距離が短い

・データバス幅が広い

・消費電力効率が高い

この構造により、HBMは 極めて高いメモリ帯域 を実現できる。

HBMは世代ごとに性能が向上している。

代表的な世代：

・HBM（初期世代）

・HBM2

・HBM2E

・HBM3

・HBM3E

最新世代では、1つのメモリスタックで 1TB/s級の帯域 を実現するものもある。

AIトレーニングでは、大量のデータを高速に処理する必要がある。

そのため、AIアクセラレータの多くはHBMを採用している。

代表例：

・NVIDIA AI GPU

・AMD AIアクセラレータ

・各種AIサーバーチップ

AIサーバーでは、複数のHBMスタックをGPU周囲に配置する構成が一般的になっている。

HBMの採用により、半導体設計には新しい課題も生まれている。

主な課題：

・先端パッケージ技術の必要性

・熱設計の難易度上昇

・高密度配線設計

・コスト増加

特にHBMは 2.5Dパッケージ と組み合わせて使用されることが多く、パッケージ技術の重要性をさらに高めている。

AI半導体の進化は、トランジスタの性能だけでなく、メモリとパッケージの統合技術 によって支えられている。

・AI計算ではメモリ帯域が重要

・HBMは3D積層メモリ技術

・HBMはAIチップで広く採用

・先端パッケージとの組み合わせが不可欠

１．なぜAI計算ではメモリ帯域が重要なのか？

２．HBMと従来メモリの構造的な違いは何か？

３．HBMが先端パッケージ技術と組み合わされる理由は何か？

 

 

 

 

 

コラム監修：角本 康司 (オーティス株式会社)
語学留学や商社での企画開発を経て2011年にオーティス株式会社入社。経営企画部を中心に製造・技術部門も兼任し、2018年より代表取締役として事業成長と組織強化に努めている。

 

※本記事は教育・啓発を目的とした一般的な技術解説であり、特定企業・製品・技術を示すものではありません。