半導体業界に大きな変化が訪れようとしている。背景には、AI（人工知能）モデルを生成する学習に加えて、そのモデルを利用する推論の市場が急拡大していることがある。こうした「推論シフト」に伴い、GPU（画像処理半導体）に加えて、CPU（中央演算処理装置）やAI用ASIC（特定用途向け半導体）、メモリーの重要性が増していく。
推論市場のけん引役が、自律的にタスクを処理するエージェント型AI（AIエージェント）である。その普及とともに、CPUの重要性が高まっている。AIエージェントは、複数のAIモデルやツールを駆使して一連のタスクをこなす。このとき、CPUはAPI（アプリケーション・プログラミング・インターフェース）の呼び出しやデータベースへのアクセス、セキュリティー認証といった周辺処理や、推論処理のオーケストレーション（全体制御）などを担う。こうした周辺処理は増加傾向にあり、遅延が生じないようにCPUの改良が強く求められている。
CPUの需要増は、推論シフトで起きる変化の序章に過ぎない。推論需要の高まりとともに「電力」「メモリー」「製造能力」の不足が深刻化する見込みだ。これら3つの課題の克服を巡り、半導体業界で新たなプレーヤーが台頭し、勢力図に変化が生まれそうだ。
AI「推論シフト」の大波、半導体業界はどう変わる／AI Factory実現へ――DLCが導く次世代AIインフラ
2026/09/29 (火) 15:30 ～ 16:30
AI市場の軸足が「学習」から「推論」へシフトしています。これに伴い、「ポストNVIDIA」と呼べるような企業は台頭するのか、メモリー技術の主導権を誰が握るのか、AI半導体を巡る覇権の行方を解説します。
こうした半導体業界の潮流に関して、2026年9月29～30日に東京国際フォーラムで開催する「日経クロステックNEXT 東京 2026」で日経クロステック記者の久保田龍之介が解説する予定だ。
推論シフトによって3つの不足が生じる（出所：日経クロステック）
[画像のクリックで拡大表示]
