TECH COLUMN 技術コラム

2. 世の中の熱問題編 どこで熱問題が起きているのか
2-1. AIサーバーの熱問題 ~AIの進化を止めるのは、半導体性能ではなく熱かもしれない~

材料・加工技術

公開日:
2. 世の中の熱問題編 どこで熱問題が起きているのか<br>2-1. AIサーバーの熱問題 ~AIの進化を止めるのは、半導体性能ではなく熱かもしれない~

ChatGPTをはじめとする生成AIの登場によって、世界は大きく変わり始めている。
文章を書く。
画像を作る。
動画を生成する。
プログラムを書く。
今まで人間が行っていた知的作業の一部を、AIが代替し始めている。
しかし多くの人が見ているのは、AIの賢さである。
実際にはその裏で、熱との戦いが起きている。

■AIは巨大な発熱装置である

AIはソフトウェアに見える。

しかし実際には、

 ● GPU

 ● CPU

 ● メモリ

 ● 通信機器  といったハードウェアの上で動いている。

そしてこれらは、膨大な計算を実行している。

計算量が増えるほど、電力消費は増える。

そして消費した電力のほぼ全ては、へ変わる。

 

つまりAIとは、電力を知能へ変換する技術であると同時に、

電力を熱へ変換する技術でもある。

人間の知恵熱みたいなものか。

■AIが賢くなるほど熱は増える

AI業界では、より大きなモデル。

より多くのデータ。

より高速な推論。が求められている。

つまり、AIが進化するほど、演算量は増える。

演算量が増えれば、発熱量も増える。

これは避けることができない。

■GPUはなぜ熱くなるのか

GPUの内部では、膨大な数のトランジスタが動作している。

電流が流れると、抵抗によって熱が発生する。

これは中学校の理科で学ぶジュール熱と同じ原理だ。

つまり、GPUが熱いということは、それだけ仕事をしているということでもある。

人間は熱が出た時は仕事しない方が良いに決まっている、GPUがかわいそうに思える。

■AIサーバーの本当の課題

一般の人は、AI競争というと、どの会社が優秀なAIを作るかに注目する。

しかしデータセンター運営者やサーバーメーカーが見ているのは、別の問題だ。

それは、この熱をどう処理するかである。

■AIサーバーは冷却能力で決まる

例えば、どれだけ高性能なGPUを搭載しても、

冷却できなければ、性能を下げなければならない。

これはサーマルスロットリングと呼ばれる。

つまり、理論性能よりも、実際に冷やせるかの方が重要になる。

■空冷の限界が見え始めている

従来のサーバーは、ファンによる空冷が主流だった。

しかしAIサーバーでは、発熱量が急増している。

すると、空気だけでは熱を運びきれなくなる。

そのため近年は、液冷への移行が急速に進んでいる。

■なぜ液冷なのか

理由は単純だ。

水は空気よりも、

はるかに熱を運びやすい。

そのため、

GPU

 ↓

冷却プレート

 ↓

冷却液

 ↓
熱交換器 という構造が増えている。

 

つまり現在のAIサーバーは、コンピューターというより、

冷却設備に近づいている。

確かに人間も暑い時、海やプールに行きたがる。

■AIサーバーは熱密度との戦い

昔のサーバーは、部屋全体が熱かった。

しかし現在は違う。

問題になるのは、部だけ異常に熱い状態である。

これをホットスポットという。

特に、

 ● GPU

 ● HBMメモリ

 ● 電源周辺 などで発生しやすい。

■なぜ熱密度が問題なのか

例えば、100Wの発熱でも、机サイズに広がっていれば問題にならない。

しかし、切手サイズの領域に集中すると、急激に温度が上がる。

つまりAIサーバーの課題は、

発熱量ではなく、熱密度なのである。

■今後さらに熱問題は悪化する

AI業界は今後も、より高性能化を目指す。

つまり、

 ● GPU大型化

 ● 演算量増加

 ● 消費電力増加 が続く。

すると、熱問題はさらに深刻になる。

将来的には、AI競争=冷却競争になる可能性すらある。

■研究者視点 : AIの進化を支えるのは熱設計

現在研究されているのは、

 ● 液冷

 ● 浸漬冷却

 ● ベイパーチャンバー

 ● 高熱伝導材料

 ● 次世代TIM など。

しかし本質は、熱をどこへ逃がすかである。

■現場視点 : 最後は接触で決まる

どれだけ優れた放熱材を使っても、

 ● 浮き

 ● 空気層

 ● 圧力不足 があれば冷えない。

つまりAIサーバーでは、接触熱抵抗が重要になる。

■OTIS視点

AIサーバー向け熱対策では、

 ● 放熱材加工

 ● 絶縁放熱材加工

 ● 微細加工

 ● 高精度ラミネート

 ● 異種材料接合

 ● 高精度打ち抜き などが重要になる。

特に、高性能材料を量産で成立させることが重要になる。

■OTISでできること

OTISでは、

 ● 放熱シート加工

 ● グラファイト加工

 ● 高精度ラミネート

 ● 微細加工

 ● 異形状積層

 ● 自動化供給対応 などを通じて、

AIサーバー向け熱対策部材の量産成立へ貢献できる可能性がある。

■OTISの専門外

OTISは、

 ● GPU設計

 ● AIモデル開発

 ● データセンター運営

 ● 液冷システム開発 を専門とする会社ではない。

しかし、熱対策材料を量産で成立させるという領域では、重要な役割を担える可能性がある。

■この技術が重要になる産業

★★★★★ AIサーバー

★★★★★ データセンター

★★★★☆ クラウドサービス

★★★★☆ エッジAI

★★★★☆ スーパーコンピューター

■まとめ

多くの人は、AI競争を知能競争だと思っている。

しかし実際には、その裏で、熱との戦いが起きている。

AIが進化するほど、発熱量は増える。

そして今後は、どれだけ賢いAIを作れるかだけではなく、

どれだけ熱を処理できるかが、競争力を左右する時代になるのかもしれない。

 

 

コラム監修:角本 康司 (オーティス株式会社)
語学留学や商社での企画開発を経て2011年にオーティス株式会社入社。経営企画部を中心に製造・技術部門も兼任し、2018年より代表取締役として事業成長と組織強化に努めている。

 

※本記事は教育・啓発を目的とした一般的な技術解説であり、特定企業・製品・技術を示すものではありません

最新記事

  • 2. 世の中の熱問題編 どこで熱問題が起きているのか<br>2-1. AIサーバーの熱問題 ~AIの進化を止めるのは、半導体性能ではなく熱かもしれない~

    2. 世の中の熱問題編 どこで熱問題が起きているのか
    2-1. AIサーバーの熱問題 ~AIの進化を止めるのは、半導体性能ではなく熱かもしれない~

    ChatGPTをはじめとする生成AIの登場によって、世界は大きく変わり始めている。 文章を書く。 ... 続きを読む
  • 1. 基礎編 熱とは何か<br>1-7. 熱対策はなぜ材料だけで決まらないのか 〜未来産業を止めるのは、材料性能不足ではなく、界面と工程かもしれない〜

    1. 基礎編 熱とは何か
    1-7. 熱対策はなぜ材料だけで決まらないのか 〜未来産業を止めるのは、材料性能不足ではなく、界面と工程かもしれない〜

    ここまで、 • 熱とは何か • 熱はどう移動するか • 熱抵抗 • 接触熱抵抗 • 小型化... 続きを読む
  • 1. 基礎編 熱とは何か<br>1-6. なぜ小型化すると熱問題が悪化するのか 〜未来産業は、小さいのに熱いという矛盾と戦っている〜

    1. 基礎編 熱とは何か
    1-6. なぜ小型化すると熱問題が悪化するのか 〜未来産業は、小さいのに熱いという矛盾と戦っている〜

    AI。 EV。 ロボット。 ARグラス。 ウェアラブル。 3D半導体。 未来産業には、共... 続きを読む

関連記事

  • 2. 世の中の熱問題編 どこで熱問題が起きているのか<br>2-1. AIサーバーの熱問題 ~AIの進化を止めるのは、半導体性能ではなく熱かもしれない~

    2. 世の中の熱問題編 どこで熱問題が起きているのか
    2-1. AIサーバーの熱問題 ~AIの進化を止めるのは、半導体性能ではなく熱かもしれない~

    ChatGPTをはじめとする生成AIの登場によって、世界は大きく変わり始めている。 文章を書く。 ... 続きを読む
  • 1. 基礎編 熱とは何か<br>1-7. 熱対策はなぜ材料だけで決まらないのか 〜未来産業を止めるのは、材料性能不足ではなく、界面と工程かもしれない〜

    1. 基礎編 熱とは何か
    1-7. 熱対策はなぜ材料だけで決まらないのか 〜未来産業を止めるのは、材料性能不足ではなく、界面と工程かもしれない〜

    ここまで、 • 熱とは何か • 熱はどう移動するか • 熱抵抗 • 接触熱抵抗 • 小型化... 続きを読む
  • 1. 基礎編 熱とは何か<br>1-6. なぜ小型化すると熱問題が悪化するのか 〜未来産業は、小さいのに熱いという矛盾と戦っている〜

    1. 基礎編 熱とは何か
    1-6. なぜ小型化すると熱問題が悪化するのか 〜未来産業は、小さいのに熱いという矛盾と戦っている〜

    AI。 EV。 ロボット。 ARグラス。 ウェアラブル。 3D半導体。 未来産業には、共... 続きを読む

CONTACT お問い合わせ

岡山 / Okayama

0867-42-3690

東京 / Tokyo

03-6810-4830

お問い合わせはこちら