OpenAI、独自開発AIチップ「Jalapeño」の性能を公開

OpenAIは火曜日、Hot Chipsカンファレンスで、独自開発したAIチップ「Jalapeño」の詳細と、初めてとなるベンチマーク結果を公開しました。

SemianalysisのInferenceXベンチマークでテストされたJalapeñoは、現在の最先端の推論（Inference）プロセッサと比較して、ユーザーあたりのトークン数とキロワットあたりのスループット（処理能力）の両方で優位性を示しました。推論とは、学習済みのAIモデルが新しいデータに対して予測や判断を行うプロセスです。

OpenAIのハードウェア責任者であるリチャード・ホー氏は、「結果として、最先端技術を大きく上回る性能向上が見られた」と述べています。「Jalapeñoは、単位電力あたりでより多くのAI処理を実行できると同時に、応答速度も向上します。多くの顧客にサービスを提供する上で非常に効率的でありながら、低遅延も実現可能です。」

注目すべきは、この比較対象にNvidiaの最新システムが含まれている点です。しかし、Jalapeñoが本格的に展開される頃には、競合技術も大きく進歩している可能性があります。ホー氏は、Jalapeñoは2026年末に「ごく少量」で展開され、2027年に本格的な展開が始まるとの見通しを示しました。

昨年10月に初めて発表されたJalapeñoは、Broadcom（AVGO）との緊密な協力のもと開発されました。OpenAI自身のモデルも開発プロセスを支援しました。同社はJalapeñoをマルチジェネレーション（複数世代にわたる）プラットフォームとして展開する計画で、AI製品、モデル、チップ、メモリを一体的に開発できるようにすることを目指しています。

このフルスタックアプローチにより、OpenAIは推論プロセス中にしばしばボトルネックとなる特定の段階に対処することができました。特にJalapeñoは、推論処理中に遅延を引き起こす「プリフィル（Prefill）」と「コミュニケーション」の段階を最小限に抑えるように設計されています。