■AIサーバーの熱問題は「チップ」だけではない
GPUが冷えても、サーバー全体が成立するとは限らない。
例えば電源回路。
AIサーバーでは大電力を扱うため、電源部品からも熱が発生する。
●MOSFET
●インダクター
●トランス
●コンデンサー
などにも熱対策が必要になる。
ここでは、
●放熱シート
●絶縁材
●ギャップフィラー
●熱伝導性粘着材
などが使われる可能性がある。
■VRMは小さいが高発熱になりやすい
GPUへ大電流を供給するため、VRMにも大きな負荷がかかる。
VRM部品はGPUほど大きくないが、発熱密度が高い場合がある。
しかも周囲には多数の部品がある。
そのため大型ヒートシンクを直接置きにくい。
ここでは、
●薄型TIM
●小型放熱シート
●絶縁性放熱材
などが重要になる。
つまりAIサーバーでは、大きな熱源だけでなく、
小さな高発熱部品への局所熱対策も必要になる。
■光通信部品も熱を出す
AIデータセンターでは、大量のデータを高速に通信する。
通信速度が上がれば、
●光モジュール
●DSP
●ドライバーIC
●レーザー
なども発熱する。
つまりAIサーバーの熱対策は、演算だけではなく、通信にも広がる。
AIサーバー全体では、
GPU。
メモリ。
電源。
通信。
すべての熱を処理する必要がある。
■部品ごとに適した冷却方法は違う
GPUには液冷。
VRMには放熱シート。
通信部品にはTIM。
筐体にはグラファイト。
このように、AIサーバー全体を一つの方式で冷却するとは限らない。
重要なのは、
発熱量と実装条件に合わせて冷却方式を使い分けることである。
つまりAIサーバーは、熱対策技術の集合体になる。
■冷却設備にも電力が必要になる
AIサーバーは大量の電力を使う。
そしてその熱を処理するため、
●ファン
●ポンプ
●チラー
●空調 にも電力が必要になる。
つまり、
演算のために電力を使う。
↓
熱が出る。
↓
その熱を処理するために、さらに電力を使う。
という構造になる。
そのためAIデータセンターでは、冷却効率そのものが経済性に直結する。
■熱を再利用する考え方も出てくる
液冷で大量の熱を回収できれば、
その熱を、
●建物暖房
●給湯
●工場
●農業施設
などへ利用することも考えられる。
つまりAIサーバーの熱問題は、冷やす問題から、
熱をどこへ持っていくかというエネルギー問題へ広がる。
■AI制御で冷却を最適化する
AIサーバーは、常に同じ負荷で動くわけではない。
GPU負荷が高い時間。
低い時間。
通信量が多い時間。
待機状態。
これによって発熱も変わる。
そこで、
●温度
●消費電力
●GPU負荷
●冷却液流量
●ファン回転数
を監視し、必要な場所だけ冷却能力を上げる。
つまり、AIをAIで冷やすという制御も重要になる。
■しかしAI制御でも接触不良は直せない
AIが、「GPUが熱い」と判断し、ファン回転数を上げる。
冷却液流量を増やす。
それでもTIMが浮いていれば、熱はコールドプレートへ移らない。
つまり制御技術が高度になっても、
物理的な熱経路
が正しくなければ冷えない。
ここでも界面部材の重要性は変わらない。
■AIサーバーでは量産性も重要になる
高性能TIMを一枚だけ、熟練者が丁寧に貼れば、良好な熱性能が得られる。
しかしAIサーバーを大量生産する場合、
●TIM
●絶縁材
●ガスケット
●グラファイト
●粘着材
を大量に、同じ位置へ、同じ状態で組み込む必要がある。
人手だけでは、
●貼付位置
●圧力
●気泡
●異物
にばらつきが出る。
そのため、熱対策部材そのものも自動化に適した形へする必要がある。
■リール供給という考え方
小型の熱対策部材を、
一個ずつバラ品で供給する。
それより、
キャリア上へ一定ピッチで配置し、
リール状態で供給できれば、
●自動剥離
●自動吸着
●自動貼付
へつなげやすい。
つまり、材料性能だけでなく、供給形態までが部品仕様になる。
■一体化すると顧客工程を減らせる
例えば顧客が、
1.絶縁フィルムを貼る
2.TIMを貼る
3.グラファイトを貼る
という3工程を行っているとする。
これらを事前に高精度で積層し、一部材として供給できれば、貼付工程を減らせる可能性がある。
さらに、
●位置ズレ
●異物混入
●作業時間
も減らせる。
つまりAIサーバー向け熱対策では、高性能材料を販売するだけではなく、
顧客がそのまま組み込める機能部材へすることにも価値がある。
■ただし一体化しすぎれば熱抵抗も増える
部材を一体化すれば工程は減る。
しかし、
粘着層。
絶縁層。
保護層。
が増えれば、熱抵抗も増える可能性がある。
さらに、
●反り
●厚み
●剥離性
の問題も増える。
そのため、部材点数を最小化することが目的ではない。
熱性能と量産性が最も安定する構成を選ぶ必要がある。
■加工精度が熱性能になる
AIサーバー向け部材では、
●数十μmのバリ
●0.1mmの貼付ズレ
●小さな気泡
●わずかな反り
が熱性能に影響する可能性がある。
つまり、
加工精度は図面品質だけではない。
冷却性能そのものになる。
ここはAIサーバーと精密加工の大きな接点である。
■試作で冷えることと、量産で冷え続けることは別である
開発段階では、理想的な状態で熱評価を行える。
しかし量産では、
●材料ロット
●金型摩耗
●加工速度
●張力
●温湿度
●貼付設備 が変化する。
一個だけ良好な温度を出すことはできても、
何万個でも同じ温度性能を再現することは別の技術である。
AIサーバーでは高性能化するほど許容される温度余裕も小さくなりやすい。
そのため、熱性能の再現性 が重要になる。
■研究者視点 : AIサーバーの熱問題は、一つの材料では解けない
AIサーバーの熱経路には、
●シリコン
●TIM
●金属
●グラファイト
●空気
●冷却液
など、多くの材料が存在する。
つまり、
「最も熱伝導率の高い材料を選ぶ」だけでは解決しない。
必要なのは、
熱源から最終排熱先までの総熱抵抗を下げることである。
TIMだけ良くても冷えない。
液冷だけ高性能でも冷えない。
グラファイトだけ高性能でも冷えない。
すべての熱経路がつながる必要がある。
■現場視点 : AIサーバーの熱問題は、「どこで熱が止まっているか」を探す
GPU温度が高い。
このとき、
ファン不足。
液冷不足。 と決めつけてはいけない。
原因は、
●TIM
●接触圧力
●気泡
●ヒートスプレッダー
●冷却液
●空気流
●電源部品の熱干渉 など、どこにあるか分からない。
重要なのは、熱源から最終排熱までを順番に確認することである。
■AIサーバーの熱対策で確認すべきこと
GPU・半導体
●発熱量はどの程度か
●発熱密度はどの程度か
●ホットスポットはどこか
●HBMなど周辺熱源の影響はあるか
界面
●TIMは適切か
●TIM厚みは適切か
●気泡や浮きはないか
●接触圧力は適切か
●パッケージの反りを吸収できるか
熱拡散
●熱を横方向へ広げる必要があるか
●グラファイトは必要か
●銅やアルミが適するか
●ベイパーチャンバーが必要か
冷却
●空冷で成立するか
●液冷が必要か
●高発熱部品だけ液冷するか
●最終的に熱をどこへ捨てるか
絶縁・シール
●金属部材との絶縁は十分か
●液冷部のシールは適切か
●バリや異物の影響はないか
●温度サイクル後も性能を維持できるか
量産
●自動貼付できるか
●リール供給できるか
●部材ピッチは安定しているか
●複数部材を一体化できるか
●量産で同じ接触状態を再現できるか
つまりAIサーバーの熱対策は、
材料選びではなく、熱経路と量産工程を同時に設計することなのである。
■OTIS視点 : AIサーバーそのものを作らなくても、熱のボトルネックには入れる
OTISは、
GPUメーカーではない。
AIサーバーメーカーでもない。
液冷装置メーカーでもない。
ベイパーチャンバーメーカーでもない。
しかしAIサーバー内部では、
高性能半導体と、高性能冷却装置の間に、大量の薄い機能部材が存在する。
TIM。
グラファイト。
銅箔。
アルミ箔。
絶縁フィルム。
熱伝導性粘着材。
シール材。
EMI材。
これらは、熱源と冷却装置をつなぐ部品である。
ここがOTISの主戦場になる。
■AIサーバーでOTISが狙うべき課題
完成したAIサーバーそのものを狙うのではない。
その中に存在する、
共通する加工課題
を狙う。
例えば、
●GPU周辺TIMの高精度加工
●HBM周辺の薄膜絶縁
●グラファイトの異形加工
●銅箔・アルミ箔の熱拡散部材
●コールドプレート周辺のシール材
●液冷部の絶縁部材
●VRM向け放熱・絶縁部材
●光モジュール向けTIM
●複数材料の高精度積層
●自動貼付向けリール供給 である。
これらはAIサーバーの機種が変わっても、共通して発生しやすい課題である。
■「材料を売る」のではなく、「界面を成立させる」
OTISがTIMメーカーになる必要はない。
グラファイトメーカーになる必要もない。
材料メーカーから高性能材料を調達し、
必要な、
●形状
●厚み
●積層
●位置
●供給形態 へ加工する。
つまり、高性能材料を、AIサーバーで実際に使える状態へ変える。
これがOTISの価値になる。
■AIサーバーでは一体化提案との相性がよい
例えば、
TIM
+
絶縁材
+
粘着材
あるいは、
グラファイト
+
絶縁フィルム
+
固定材
を事前に積層する。
顧客では一度貼ればよい。
これによって、
●工程削減
●貼付位置安定
●異物削減
●自動化 へつなげられる可能性がある。
AIサーバーの高密度化が進むほど、
一枚ずつ人が貼る工程は難しくなる。
そのため、複合機能部材化は重要な方向になる。
■OTISでできること
OTISでは、
●TIM加工
●放熱シート加工
●グラファイト加工
●銅箔加工
●アルミ箔加工
●絶縁フィルム加工
●熱伝導性粘着材加工
●シール材・発泡体加工
●EMI材加工
●高精度打ち抜き
●微細加工
●高精度ラミネート
●異種材料積層
●部分ラミネート
●ハーフカット
●リール・ツー・リール加工
●自動貼付向け供給形態
●複数機能材の一体化
●画像検査を含む量産工程設計 などを通じて、
AIサーバーの熱対策材料を、量産工程で実際に使える部材へ変えることに貢献できる。
■OTISの専門外
OTISは、
●GPU設計
●HBM設計
●AIサーバー設計
●データセンター設計
●液冷装置そのものの設計
●コールドプレート流路設計
●ベイパーチャンバー本体設計
●CFD専業解析
●熱材料そのものの配合開発
を専門とする会社ではない。
ただし、
●半導体メーカー
●材料メーカー
●サーバーメーカー
●冷却装置メーカー
●設備メーカー と連携し、
熱源と冷却装置の間をつなぐ機能部材を量産成立させる領域では貢献できる。
■この技術が重要になる市場
★★★★★ AIサーバー
★★★★★ AIデータセンター
★★★★★ GPU・AIアクセラレーター
★★★★★ HBM・先端パッケージ
★★★★★ 光通信・高速通信機器
★★★★☆ エッジAI
★★★★☆ 高性能コンピューティング
★★★★☆ AIロボット
■まとめ
AIサーバーの性能競争は、冷却能力の競争でもある
AIサーバーは、大量の電力を使う。
その結果、大量の熱が発生する。
さらに、
GPU。
HBM。
電源。
通信。
これらの高発熱部品が狭い空間へ集まる。
だからAIサーバーでは、半導体を高性能化するだけでは足りない。
その性能を維持するために、熱を外へ出し続ける必要がある。
そのためには、
TIMで熱を受ける。
グラファイトや金属で熱を広げる。
ベイパーチャンバーで熱を拡散する。
空冷や液冷で熱を運ぶ。
最終的にデータセンター外へ熱を捨てる。
という長い熱経路を成立させる必要がある。
そして、その熱経路の途中には、
数十μmから数mmの、目立たない部材が存在する。
TIM。
絶縁材。
粘着材。
グラファイト。
金属箔。
シール材。
これらの小さな部材に、
0.1mmの浮きがある。
気泡がある。
バリがある。
位置がずれる。
それだけで、高性能な冷却装置の能力を使い切れないことがある。
つまりAIサーバー時代に重要になるのは、
最も高性能な冷却装置を選ぶこと だけではない。
熱源から最終排熱先まで、すべての熱経路をつなぐこと である。
そしてOTISが狙うべきなのは、
AIサーバーそのものではない。
GPUそのものでもない。
冷却装置そのものでもない。
その間にある、
熱・絶縁・固定・シール・薄膜・自動化
という共通課題である。
AIの性能が上がるほど、
熱はさらに厳しくなる。
冷却技術が高度になるほど、
その間にある薄い部材の精度も重要になる。
だからAI時代には、
「熱の最後の1mm」を量産で成立させる技術
が、これまで以上に重要になるのである。
コラム監修:角本 康司 (オーティス株式会社)
語学留学や商社での企画開発を経て2011年にオーティス株式会社入社。経営企画部を中心に製造・技術部門も兼任し、2018年より代表取締役として事業成長と組織強化に努めている。
※本記事は教育・啓発を目的とした一般的な技術解説であり、特定企業・製品・技術を示すものではありません


