AI向けASIC(Application-Specific Integrated Circuit)は、機械学習で繰り返す演算に合わせて回路とデータの流れを設計した集積回路だ。多数の演算器をソフトウェアから使い分けるGPUに比べ、対象を絞ることで不要な処理やデータ移動を減らせる。ただし、ASICが常にGPUより速く安いわけではない。処理内容が固まり、十分な稼働量が見込めて初めて、開発費と専用ソフトへの投資を運用時の効率で回収する道が開く。
構造の違い──汎用の並列処理と用途別の回路
GPUは多数の演算器を備え、プログラムを変えて画像処理、科学技術計算、AIの学習や推論を走らせる。新しいモデルや演算が登場しても、対応するソフトウェアを用意すれば同じハードウェアを転用しやすい。この柔軟性が、モデル構造を何度も変える研究開発で強みになる。
ASICは特定用途向け集積回路の総称であり、必ずしも一つの計算しか実行しないチップを意味しない。違いは、想定する用途に合わせて演算器、メモリー、通信経路の構成を設計段階から絞り込む点にある。Google Cloudの公式資料は、機械学習向けASICであるTPUが行列積を主な処理とし、TPU v6eとTPU7xの行列乗算ユニット(MXU)では256×256個の積和演算器をシストリックアレイとして配置すると説明している。データを演算器の間で順に渡し、行列計算中のメモリーアクセスを抑える設計だ。
推論向けとは限らない
運用中のモデルで同じ形の計算を大量に繰り返す推論は、用途特化の効果を得やすい。低遅延や電力効率を優先し、処理量を高い水準で維持できるサービスなら、専用回路に投じた費用を一回あたりの計算費用で薄められる。imec IC-Linkは、推論では低遅延とエネルギー効率の比重が高まり、処理が安定して量も大きい場合にASICが適すると整理している。
一方、「ASICは推論、GPUは学習」と固定するのも正確ではない。GoogleのTPUは学習と推論の双方に使われ、AWSは学習向けのTrainiumと推論向けのInferentiaを展開する。AWSの公式資料によると、共通の開発環境NeuronはTrainiumとInferentiaに対応し、PyTorchやJAX、vLLMを使った学習から本番推論までを支える。用途特化の範囲は製品ごとに異なり、チップの呼び名だけでは担当する工程を決められない。
採算を決める四つの条件
第1は処理の安定性だ。回路を決めた後にモデルの主要演算や必要な精度が変われば、既存チップの利用率が下がり、場合によっては再設計が要る。GPUなら新しいカーネルやライブラリーで追随できる余地が広い。
第2は稼働量である。ASICでは論理設計、検証、IPの組み込み、製造用データの作成、試作、量産立ち上げに先行費用が発生する。処理量が少なければ、市販GPUを必要な分だけ調達するほうが総費用を抑えやすい。逆に、同じ処理を長期間、高い稼働率で回せる事業者は、電力と台数の削減を積み上げやすい。
第3はソフトウェアと人材だ。専用回路の性能を引き出すにはコンパイラー、演算ライブラリー、監視、障害解析までそろえる必要がある。imec IC-Linkは、GPUには成熟したソフトウェア基盤と経験者の層があり、カスタムチップでは統合と保守の負担が増えると指摘する。チップ単体の消費電力だけを比較しても、運用全体の採算は分からない。
第4は供給網だ。先端プロセスの製造枠、設計IP、高帯域メモリー、パッケージ基板のどれかが欠ければ量産は止まる。設計会社は回路図をつくるだけでは足りず、製造委託先とパッケージ、試験工程をつなぐ役割も負う。案件ごとの価格と歩留まりは契約や設計条件で変わるため、「何個つくれば必ずGPUより安い」という共通の境界は置けない。
日本企業は設計から量産までをつなぐ
日本のカスタム半導体企業も、顧客の構想を製造可能なチップへ落とし込む工程を事業にしている。ソシオネクストはカスタムSoCについて、商品化の上流から入り、世界の製造パートナーやIP・ツール企業と連携し、システム設計から生産・品質管理までを一気通貫で支援すると説明している。公式サイトが示す対象にはフロントエンドとバックエンドの設計、低消費電力化、ソフトウェア、製造技術、SoCパッケージが含まれる。
この役割は、クラウド事業者が自ら半導体工場を持たなくてもASICを開発できる理由の一つだ。ただし、日本国内の同一案件でGPUとASICを動かし、設計費、電力、保守費を同じ条件で比べた公的資料は、本稿の執筆時点で確認できていない。国内企業が工程を担っている事実と、特定のAIサービスでASICの採算が成立するかどうかは分けて見る必要がある。
GPUを選ぶ場面
モデルの構造が頻繁に変わる開発、利用量をまだ読めない新規サービス、複数種類の処理を同じ設備で回す環境ではGPUが選びやすい。既存の開発者、ライブラリー、監視ツールを引き継げる点も大きい。Google Cloudも、行列計算が中心の大規模モデルをTPU向けとする一方、独自演算が多いモデルや頻繁な分岐、高精度計算を要する処理はTPUに適さず、GPUやCPUを含めて選ぶよう案内している。
ASICへの移行はGPUの全面的な置き換えではなく、安定した処理を専用回路へ切り出す判断だ。学習か推論かという一語で決めず、演算の形、変更頻度、稼働量、ソフトウェア移行費、供給網を同じ表で比べる必要がある。
よくある質問
ASICとGPUの根本的な違いは何か
ASICは想定用途に合わせて演算器、メモリー、通信経路を設計する集積回路で、GPUは多数の演算器をプログラムから使い分ける並列プロセッサーだ。GoogleのTPUでは、ニューラルネットワークの行列計算に合わせたMXUが演算の中心を担う。
AIの推論なら必ずASICが安くなるのか
必ずしも安くならない。処理量が少ない場合やモデルの変更が続く場合は、設計費と専用ソフトの保守費を回収しにくい。ASICの採算にはアルゴリズムの安定性、量産規模、人材、製造プロセスとパッケージの確保を含めた評価が要る。
ASICはAIモデルの学習には使えないのか
使われている。GoogleのTPUとAWSのTrainiumは学習を支える用途特化チップであり、専用回路だから推論に限られるわけではない。選択を左右するのは、対象の演算が回路に合うか、モデル変更にソフトウェア側で追随できるかという条件だ。
出典・参考資料
- TPU architecture(Google Cloud)GPUとTPUの構造、TPUが機械学習向けASICであること、MXUの構成を説明する公式資料
- Introduction to Cloud TPU(Google Cloud)TPU、GPU、CPUに向く処理と、TPUで扱いにくい演算を示す公式資料
- AWS Neuron(Amazon Web Services)TrainiumとInferentia向けの開発環境、学習と推論への対応を説明する公式資料
- ASIC vs GPU for AI(imec IC-Link)ASICとGPUの選択を、性能、電力、開発規模、ソフトウェア、人材、供給網から整理した解説
- カスタムSoC(ソシオネクスト)システム設計から生産・品質管理までを支援する国内カスタムSoC事業の公式説明