多様化するAIチップ ― AIアクセラレータからエージェントAI向けCPUまで

GPU（Graphics Processing Unit）を中心としていたAIアクセラレータが多様化してきた。GPUやTPU（Tensor Processing Unit）だけではなく、エージェントAI用にCPUやLPU（Language Processing Unit）なども登場している。AIがディープラーニングから生成AI、リーズニングAI、さらにAIエージェント、フィジカルAIへと発展してきたことと同調して、AIチップも多様化してきた。

AIアクセラレータではAMD（米国）もGPUを出荷し、AI専用のTPUを発表したGoogle（米国）、ソフトバンクが買収したMIMD（Multiple Instruction Multiple Data）ベースのGraphcore（英国）をはじめ、さらにウェーハスケールインテグレーションのCerebras（米国）、推論重視でワークフローを切り替えられるAIチップのSambaNova（米国）、オープンソースのRISC-VのCPUコアを使うTenstorrent（米国）、LPUのGroq（米国）などもクラウド向けのAIチップを続々開発している。

AIデータセンターを利用してクラウドサービスを提供するCSP（クラウドサービスプロバイダ）やハイパースケーラだけではない。日本のスタートアップEdgeCortix、米国のスタートアップSiMa.aiなどは、AIインフラとは別にエッジAIで生成AIを利用できる能力の高いAI チップを開発している。

AIのビッグバンでノーベル賞

AIチップは、人間の脳をニューラルネットワークモデルで模倣したものであり、学習を通じて物事を覚えさせた後に、今度は推論して何かを言い当てる（予想する）という過程を通る。学習から推論、さらにはテキストのLLM（大規模言語モデル）を通じて文章や画像などを生み出す生成AI、さまざまな業務を自律的に設計、実行、最適化してくれるエージェントAI、実世界のモノ（ドローンやロボット、クルマなど）にAIを実装したフィジカルAIなど用途に向いたAIチップの開発が盛んになってきた。

かつては、従来のノイマン型コンピュータでは答えに時間がかかる画像認識などのパターン認識にAIは向いていると言われた。2012年にカナダ・トロント大学のジェフリー・ヒントン教授の研究室で画像認識にGPUを使ってみると、誤認識率が格段に小さくなった。これまでモデルベースの改良を幾度となく繰り返してきた研究者たちが、ヒントン教授のグループの結果に驚き、追試した結果、さらに少ない誤認識率を得られるようになった。この研究からヒントン教授はノーベル賞を受賞し、ディープラーニングとして最近のAIの出発点となった。NVIDIAのジェンスン・フアンCEO（最高経営責任者）は、2012年のこの出発点をAIのビッグバンと呼んでいる。

生成AIの発明

この画像認識AIに学習させるデータを増やしていき、これまでの目的（画像認識や音声認識など）に応じた専用的なAIから汎用的なAIに近づけようとする動きが出てきた。この結果、言葉の文脈やルールも大量に学習させることで、文章を理解したり作成したりできるようなLLMが発明され、生成AIを使えるようになり、私たちは生成AIへ質問することが自然に身につくようになった。生成AIによって、AIが一部の研究者たちのツールから大衆化した。

大量学習を必要とする生成AIは、技術的にAIチップを大量に並列処理し、短期間に学習させることを目指していたが、それでも学習にはとても長い時間がかかっていた。2020年ごろの最先端のAIチップ（GPU）を数千台ならべて並列処理しても、学習させるのに300日程度かかったと言われている。それほどまで長い期間を学習に費やして、ようやく生成AIを開発できた。

こんな逸話がある。300mmウェーハ1枚から1個しかとれない巨大なAIチップ（図1）を設計・製品化したCerebrasに、なぜ、このような大規模チップを開発したのかを取材した時（2019年）、AIモデルを開発しているソフトウェア技術者から、今のGPUよりもっと性能の良いチップが欲しいと言われたからだと話していた。それまでほとんどのソフトウェア開発者は、当時のGPUでの学習時間の長さに絶望していたのだ。生成AIをいち早く発明したOpenAI（米国）は、300日かけても学習させることを諦めなかった。

AIチップの高性能化要求はますます加速

AIチップの競争は、もっと高性能なチップが欲しいという強い要求から始まり、いまはさらに加速している。このため、半導体チップの平面上の2次元微細化競争は、ほぼ止まっているのにも関わらず、より高性能、より低消費電力のチップが強く求められるようになった。とはいえ、そのような半導体チップの集積度は極めて高く、軽く100億トランジスタは超える。このようなAIチップはきわめて複雑すぎるため、そのようなチップをユーザーが入手しても簡単にはAIシステムを作れない。そこで、NVIDIAはGPUを効率よく動かすためのソフトウェアCUDAを発明しただけではなく、さまざまな分野のAIを作るためのソフトウェアにも注力してきた。このため、より高性能なAIチップと、それを動かすソフトウェアを提供できるNVIDIAが半導体売上額でトップを走るようになった。

大量の積和演算器を集積したGPU

AIチップの出発点は、NVIDIAのGPUを使ったAIの学習にあった。GPUはコンピュータ上で絵を描くためのチップである。NVIDIAのジェンスン・フアンCEOは、GPUの開発当時、ゲーム機用の絵を高速に描く半導体チップを目指していた。当時、GPUの内部構造から数値計算するのに向いたチップであるため、スーパーコンピュータにも使えることは見抜いていた。事実、ゲーム用の絵作りの次に東京科学大学（旧東京工業大学）のスパコン「つばめ」にGPUを採用、演算速度を高めた。しかし、フアンCEOはニューラルネットワークの演算に使えるとは思っていなかったという。なぜGPUがAIプロセッサとして使えるのだろうか。

GPUには小さな積和演算器が数十から数百個並列動作するように構成されている。もともとGPUはコンピュータで絵を描くグラフィックス機能を高速に実現するため、１枚の絵を数十ブロックに分割して、それぞれのブロック内の絵を同時に描くことで高速に絵を描くように設計されていた。

このGPU内の各ブロックに集積された積和演算器が、脳内の神経（ニューロン）に結び合わせたニューラルネットワークと同様な構造であることから、カナダのトロント大学のジェフリー・ヒントン教授の研究室で画像認識にGPUを使ってみたのだ。

視神経からの画像データは、神経細胞であるニューロン（小さな積和演算器）に入力され、ある種の重みをつけて、データ（1か0）に重み（例えば0〜0.9）を掛け算して演算していた。このニューロンは多入力1出力の演算器というモデルで（図2の下）、その出力データは次のレイヤーの多数のニューロンに入力される。つまり一つの層に多数のニューロンが絡み合ったニューラルネットワークを構成している（図2の上）。1ニューロンの出力データをいったんメモリに保管し、次のレイヤーのニューラルネットワークを構成するニューロンに重みをつけて入力される。ニューラルネットワークのレイヤーが複数あり、それらを経て学習されることからディープラーニングと呼ばれている。

現在のAIチップは、このニューラルネットワークの演算システムを基本としており、積和演算器と重みのメモリ、データを計算用に一時保存するメモリなどを集積したICとなっている。AIは用途ごとに学習あるいは調整しなければならない専用のチップである。このため、AIモデルというソフトウェアで用途ごとに対応する。

エージェントAIにはCPUが最適

これに加えて、エージェントAIに向いたチップは、一つの業務を処理した後、次の業務へと自律的に移動できるような回路も集積している。一つの業務がAI処理するように設計されていれば、GPUのように一斉に並列処理するが、業務から業務へ移動する場合にはむしろCPUがフローに沿って動作するため適している。最近のAIチップにCPUが使われ始めたり、NVIDIAがCPUのVeraチップ（図3）を開発したりしているのは、エージェントAIへの応用を意識しているためだ。

GPUとCPUとの違いを、最近Arm（英国）のレネ・ハースCEOが次のように述べている。「GPUなどのAIアクセラレータはダンプカーのようなもの。力ずくで一気に並列処理する。しかし、エージェントAIはワークフロー（業務手順）に沿ってクエリー（データベースから情報を取り出すための指示）として働くだけではなくタスクも行い、スケジューリング機能も持つ。つまり、スケジュールに基づいて働くのがエージェントであるからCPUと同じ役割を果たす」。

NVIDIAが出資したスタートアップのGroqは、LPUと呼ぶ、LLMの推論処理に向いた逐次処理に適した構造を持つチップを開発した。AIアクセラレータと違い、１秒間に生成するトークン数（LLMでの情報の基本単位）が多く高速で、消費電力が少ない。

2026年7月に入ってAMDが発表したAIチップセットは、サーバー向けのCPU「6thGen EPYC」とGPU「MI400シリーズ」だが、これらを組み合わせたAIサーバーのコンピュータラック「AMD Helios」とCerebrasの「Wafer Scale Engine 3」を使い分けて組み合わせることで、これまでの5倍速いトークン生成速度（Tokens/second/W）が得られたという。推論では、レイテンシー（遅延）やスループット、トークン容量、コスト、規模など異なる要求が求められている。AMD Heliosは、高速のスループットやプロンプトの処理などを行い、Cerebras のWSE3はメモリバンド幅の広いトークン生成を短いレイテンシーで処理する。これら二つのエンジンを一つのワークフローに接続したという。いわば、いいとこ取りだ。

エッジAI向けチップにも生成AI

AI技術は、エージェントAIだけではなく、次世代のAIとしてエッジAI向けチップの市場も切り開いている。ロボットなどのフィジカルAIでは、インターネット環境のないエッジAIにも生成AI程度の機能が期待されているからだ。現在はAIデータセンター向けにAIクラウドというAIのインフラ作りに目が向いているが、そのインフラがほぼ出来上がる先にはエッジAIが求められる。

エッジAIの代表例が日本のスタートアップで米国のNASAの承認も得られたEdgeCortixや、弁当箱サイズのAI装置を販売し始めたSiMa.aiなどだ。EdgeCortixは、「SAKURA-II」と呼ぶAIチップ（図4）を開発、従来のディープラーニングと生成AIのLLMの両方に対応する。DNA（Dynamic Neural Accelerator）方式の技術をコアとしており、二つの演算エンジンをリアルタイムに切り替えることができる。特長は8ビットの精度で60TOPS（60Tera operations per second：1秒間に60兆回演算）もの性能を持ちながら、消費電力が10Wしかないことだ。

昨年のセミコンジャパン2025で展示していたが、16ビットで画像認識させ、その画像をテキストで説明する生成AIを使う場合、最初のトークンが出てくる時間は0.6秒、その後のスピードは24.3トークン/秒と高性能だった。ラズベリーパイの標準開発ボードに同社のチップを載せたドーターボードという構成のデモであった。SAKURA-IIはTSMC（台湾）の12nmプロセスで製造されているが、NEDO（新エネルギー・産業技術総合開発機構）の支援による次世代のSAKURA-Xでは7nmプロセスで、さらなる高性能と低消費電力を目指している。

音声で尋ね、音声で答えるという生成AIのLLMを利用したAIチップ「MLSoC Modalix」をすでに一般販売し、それをボードに組み込んだ装置を一般販売し始めたスタートアップがSiMa.ai（シーマエーアイと発音）である。2026年4月のIT Week 2026ではインターネットがつながらない災害時を想定したデモを見せた。災害時は誰でもパニックになりやすく、何をするべきかとっさにはわからない。そのような時に生成AIに質問しアドバイスを受ける、というデモだった。音声で尋ね音声で答えるのにほぼストレスなく回答が得られ、パソコンと接続したこの装置の消費電力は13Wしかなかった。しかも装置の価格は20万円程度である。

AIデータセンター向けAIチップは限られた設計力の企業のみに

AIチップは生成AIまでできるほど高性能にするためには、数百億～千億トランジスタというかなり高集積度のICになるだろうが、これを3nmや2nmで設計することは極めて難しくなっている。エージェントAIのように自動的にワークフローを管理し実行するような場合のCPUは、従来のマルチコア（2コアないし4コア程度）からメニーコア（16～64コア程度）で設計するとなると、かなりのスキルが必要となる。このため、AIデータセンター向けに2nmのチップ開発では限られた設計請負企業しか対応できない恐れがある。

Apple（米国）はこれまでスマホやパソコン用のSoCは自社設計してきたが、サーバー向けはBroadcom（米国）に依頼する模様だ。このため設計できるファブレス企業としてBroadcomのほかにMarvell（米国）やMediaTek（台湾）なども期待され、日本のファブレス半導体であるソシオネクストの設計力も評価されている。またArmがIP販売だけではなくIC設計までも手がけるのも複数の顧客からの要求による。ニッポン半導体復活のためには設計力の強化も不可欠ではないだろうか。

Writer

津田 建二（つだ けんじ）

国際技術ジャーナリスト、技術アナリスト。

現在、英文・和文のフリー技術ジャーナリスト。

40年以上、半導体産業を取材してきた経験を生かし、ブログ（newsandchips.com）や分析記事で半導体産業にさまざまな提案をしている。セミコンポータル（www.semiconportal.com）編集長を務めながら、マイナビニュースの連載「カーエレクトロニクス」のコラムニストとしても活躍。

半導体デバイスの開発等に従事後、日経マグロウヒル社（現在日経BP社）にて「日経エレクトロニクス」の記者に。その後、「日経マイクロデバイス」、英文誌「Nikkei Electronics Asia」、「Electronic Business Japan」、「Design News Japan」、「Semiconductor International日本版」を相次いで創刊。2007年6月にフリーランスの国際技術ジャーナリストとして独立。著書に「エヌビディア～半導体の覇者が作り出す2040年の世界」（PHP研究所刊）、「半導体ニッポン」（フォレスト出版）、「メガトレンド　半導体2014-2025」（日経BP社刊）、「知らなきゃヤバイ! 半導体、この成長産業を手放すな」、などがある。

URL： http://newsandchips.com/