AI向け推論ソフト開発のInfinity、1500万ドル調達

AIインフラ企業Infinityは月曜日、Touring Capital、Principal VC、OpenAIやAnthropicの研究者を含む投資家から、評価額1億ドルで1500万ドルを調達したと発表しました。同社は、AIチップでAIモデルをより容易に実行するためのソフトウェアを開発しています。

NVIDIAがトッププレイヤーとなった大きな理由の一つは、高性能チップだけでなく、本来グラフィックス実行用に設計されたGPUを汎用的なCPUのように動作させるソフトウェア「CUDA」（Compute Unified Device Architecture）にあります。主要なAI開発フレームワークであるPyTorchやTensorFlowはCUDA上で構築されています。これにより、開発者はPythonのような一般的な言語でアプリケーションを記述し、これらの主要AIフレームワークを使用すれば、デフォルトでNVIDIAチップ上で実行されます。ほとんどのアプリケーション開発企業は、チップを直接制御する低レベルソフトウェアである「カーネル」（kernel）を自社で記述し、他のAIチップにアプリケーションを移植するリソースやノウハウを持っていません。

そこでInfinityは、SRAM、GPU、スマートフォンチップ、Systolic Arrayなど、あらゆる種類のチップで動作するCUDA代替カーネルソフトウェアの構築を目指しています。Infinityは、製品ごとにNVIDIAの市場支配力を切り崩そうとする新しいスタートアップの波の一部です。同社は、あらゆるチップで動作するユニバーサル推論ライブラリを構築し、これらのチップが最先端の研究結果を自動的に複製できるようにすることを目指しています。

Infinityは昨年、Google Brainの研究者であり、ハッカーネットワークコミュニティ「AGI House」の創設者でもあるジェレミー・ニクソン氏によって設立されました。ニクソン氏は、AIシステムが「メタテクノロジー」になり得るという信念、「自動発明」という考えに没頭していたため、同社を設立したとTechCrunchに語りました。彼自身、「Omega」と呼ばれる機械学習アルゴリズムを発明し、新しい機械学習アルゴリズムを生成し、フィードバックループで自動的に評価したとのことです。この成功から、このアプローチが有効な他のケースについて考えを巡らせ、ハードウェアに目を向け、自動化システムがチップの実行をより効果的に支援するために必要なカーネルなどの低レベルコードも生成できると信じるようになりました。

InfinityのAI研究エージェント「Ignition」は、NVIDIA代替チップでのAI推論に必要な低レベルコードを記述することを目的としています。エージェントは、コードを実行するハードウェアのパフォーマンスをテスト、デバッグ、測定し、パフォーマンス向上のために必要に応じてコードを自動的に書き直します。このシステムは自己最適化されており、継続的に学習・改善されます。また、ニクソン氏によると、プロプライエタリな設計に関わらず、異なるチップアーキテクチャに適応します。その結果、InfinityはCUDAレベルのソフトウェアスタックを実現したと主張しています。

顧客には、AIチップメーカー（そしてNVIDIAの競合となり得る）であるD-Matrixが含まれており、Infinityは他の大手チップおよびクラウド企業とも交渉中であるとニクソン氏は述べています。ただし、人間は高レベルの指示を提供し、エージェントがより退屈な作業を行います。あるケーススタディでは、エージェントが人間単独よりもはるかに高速に動作し、数年または数ヶ月かかる可能性のあったプロセスを数時間または数日に短縮したことが判明しました。

Infinityは、前払いのライセンス料ではなく、トークン/秒の変化を測定することで、パフォーマンス向上とコスト削減の成果の一部を受け取ります。現在、Infinityには設計、運用、エンジニアリングを含む26人の従業員がいます。