人工知能推理に焦点を当てたクラウドコンピューティング企業DeepInfraが、シリーズBラウンドで1億700万ドルを調達し、世界中のデバイス拡張を推進。韓国ウォンで約1581億9250万ウォンの規模となる。生成型AIの超越実験段階から「代理型AI」への移行期において、DeepInfraは既存の汎用クラウドの制約を突破する計画だ。本ラウンドの投資は500 GlobalとGoogle Cloudの元エンジニアGeorge Harrickが主導した。さらに、NVIDIA、サムスン電子の投資部門Samsung Next、Supermicro、A.Capital Ventures、Crescent Cove、Peliciis、Peak6、Upper90なども参加した。注目すべきは、主要投資家たちがAIインフラ市場の成長潜在力に同時に注目している点だ。DeepInfraはAIワークロードの中でも「推理」段階に特化した企業である。推理とは、訓練済みのAIモデルが実サービス環境でユーザーリクエストを処理する段階を指す。同社は、現行のクラウドプラットフォームはこのニーズを前提に設計されていないと考えている。特に代理型AIにおいては、一つのタスクを完了するために数十から数百回のモデル呼び出しが必要となり、遅延やコストの急激な不安定さを引き起こす可能性がある。この課題を解決するために、DeepInfraは推理を付加サービスではなくコア工程とみなす「トークン工場」を構築中だ。同社は、メッセージングアプリ「imo」のエンジニアチームによって設立され、imoは世界で2億人以上のユーザーに拡大した。戦略として、大規模分散システムの運用経験をAI推理インフラに移行させることを掲げている。既存の運用者が外部の空きサーバー「Spot」容量を借用する方式と異なり、DeepInfraは米国の8つのデータセンターで自社ハードウェアを運用している。GPUからAPIまで、スタック全体を制御することで効率化を図ると述べている。同社は、NVIDIAの分散推理プラットフォーム「Dynamo」やBlackwell、Vera Rubin GPUを活用し、推理コスト効率を最大20倍向上させると主張している。特に、DeepInfraは代理型AIが従来の生成型AIチャットボットよりもはるかに多くのリソースを消費すると考えている。現在、同プラットフォーム上の全トークン流量のうち30%以上が自主代理からのものであり、これもこの見解を裏付けている。これは、AI推理の需要が単なるチャットボットの応答を超え、自動化されたビジネス処理へと急速にシフトしていることを示している。現時点で、DeepInfraのプラットフォームはNVIDIA Nemotronシリーズを含む190以上のオープンソースAIモデルをサポートしている。また、敏感情報を外部クラウドに送信することに負担を感じる企業向けに「ゼロデータ保持」ポリシーも提供している。これは、安全性、コスト、速度を同時に考慮した企業AI市場において差別化を図る狙いと解釈される。共同創業者兼CEOのNikolai Borisovは、創業から4年前にAI推理が企業AIワークロードの中心になると考えていたが、今やそれが現実になったと述べている。彼は、オープンソースモデルがクローズドソースモデルに追いつき、より低コストでイノベーションを拡散していると分析し、代理型システムが持続的かつ大規模な需要を生み出していると強調した。さらに、AI推理はもはや単なる薄い処理層ではなく、今後の多くのAIワークロードの「ボトルネック」になると述べている。500 GlobalのTony Wangも、AI推理需要の急増に伴い、開発者やエンジニアはより高速で柔軟、かつ安定したインフラを必要としていると評価した。彼は、DeepInfraチームがグローバル規模の分散システムの構築と運用能力を証明しており、目的型AI推理インフラが次世代のAI産業を支える中核となると考えている。今回の資金調達は単なる資金集めにとどまらず、AIインフラの競争の焦点が訓練から推理へと移行していることを示している。特に、代理型AIの普及が正式化する中、AI推理を迅速かつ低コストで処理する方法が、クラウド市場の新たな勝負所となりつつある。TP AI注意事項 本文はTokenPost.aiの言語モデルを用いて要約されたものであり、原文の主要内容を欠落させたり、事実と異なる可能性がある。
DeepInfra、シリーズBラウンドで1億700万ドルを調達……AI推論インフラのグローバル展開
人工知能推理に焦点を当てたクラウドコンピューティング企業DeepInfraが、シリーズBラウンドで1億700万ドルを調達し、世界中のデバイス拡張を推進。韓国ウォンで約1581億9250万ウォンの規模となる。生成型AIの超越実験段階から「代理型AI」への移行期において、DeepInfraは既存の汎用クラウドの制約を突破する計画だ。
本ラウンドの投資は500 GlobalとGoogle Cloudの元エンジニアGeorge Harrickが主導した。さらに、NVIDIA、サムスン電子の投資部門Samsung Next、Supermicro、A.Capital Ventures、Crescent Cove、Peliciis、Peak6、Upper90なども参加した。注目すべきは、主要投資家たちがAIインフラ市場の成長潜在力に同時に注目している点だ。
DeepInfraはAIワークロードの中でも「推理」段階に特化した企業である。推理とは、訓練済みのAIモデルが実サービス環境でユーザーリクエストを処理する段階を指す。同社は、現行のクラウドプラットフォームはこのニーズを前提に設計されていないと考えている。特に代理型AIにおいては、一つのタスクを完了するために数十から数百回のモデル呼び出しが必要となり、遅延やコストの急激な不安定さを引き起こす可能性がある。
この課題を解決するために、DeepInfraは推理を付加サービスではなくコア工程とみなす「トークン工場」を構築中だ。同社は、メッセージングアプリ「imo」のエンジニアチームによって設立され、imoは世界で2億人以上のユーザーに拡大した。戦略として、大規模分散システムの運用経験をAI推理インフラに移行させることを掲げている。
既存の運用者が外部の空きサーバー「Spot」容量を借用する方式と異なり、DeepInfraは米国の8つのデータセンターで自社ハードウェアを運用している。GPUからAPIまで、スタック全体を制御することで効率化を図ると述べている。同社は、NVIDIAの分散推理プラットフォーム「Dynamo」やBlackwell、Vera Rubin GPUを活用し、推理コスト効率を最大20倍向上させると主張している。
特に、DeepInfraは代理型AIが従来の生成型AIチャットボットよりもはるかに多くのリソースを消費すると考えている。現在、同プラットフォーム上の全トークン流量のうち30%以上が自主代理からのものであり、これもこの見解を裏付けている。これは、AI推理の需要が単なるチャットボットの応答を超え、自動化されたビジネス処理へと急速にシフトしていることを示している。
現時点で、DeepInfraのプラットフォームはNVIDIA Nemotronシリーズを含む190以上のオープンソースAIモデルをサポートしている。また、敏感情報を外部クラウドに送信することに負担を感じる企業向けに「ゼロデータ保持」ポリシーも提供している。これは、安全性、コスト、速度を同時に考慮した企業AI市場において差別化を図る狙いと解釈される。
共同創業者兼CEOのNikolai Borisovは、創業から4年前にAI推理が企業AIワークロードの中心になると考えていたが、今やそれが現実になったと述べている。彼は、オープンソースモデルがクローズドソースモデルに追いつき、より低コストでイノベーションを拡散していると分析し、代理型システムが持続的かつ大規模な需要を生み出していると強調した。さらに、AI推理はもはや単なる薄い処理層ではなく、今後の多くのAIワークロードの「ボトルネック」になると述べている。
500 GlobalのTony Wangも、AI推理需要の急増に伴い、開発者やエンジニアはより高速で柔軟、かつ安定したインフラを必要としていると評価した。彼は、DeepInfraチームがグローバル規模の分散システムの構築と運用能力を証明しており、目的型AI推理インフラが次世代のAI産業を支える中核となると考えている。
今回の資金調達は単なる資金集めにとどまらず、AIインフラの競争の焦点が訓練から推理へと移行していることを示している。特に、代理型AIの普及が正式化する中、AI推理を迅速かつ低コストで処理する方法が、クラウド市場の新たな勝負所となりつつある。
TP AI注意事項 本文はTokenPost.aiの言語モデルを用いて要約されたものであり、原文の主要内容を欠落させたり、事実と異なる可能性がある。