Revolut、中国発オープンウェイトモデルのセルフホスティングでAIコーディングコストを大幅削減

Revolutはソフトウェアエンジニアリング部門において、商用AIコーディングアシスタントからセルフホスト型のオープンウェイトモデルへの移行を進め、報告によればコストを90%削減することに成功しました。このフィンテック大手企業は現在、中国のラボZ.aiが開発したGLMモデルを自社インフラ上で運用し、約2,000人のエンジニアが利用しています。この戦略的転換について、RevolutでAIオペレーションを統括するDavid Abitbol氏がニューヨークで開催されたAI Engineerカンファレンスのプレゼンテーションで詳細を明らかにしました。

何が起きたか

GLMへの移行は、開発ワークフローへのAI統合というRevolutの反復的なアプローチにおける最新のステップです。当初、同社はGoogleのGeminiをエンジニアリングチーム全体に展開しましたが、これによりコーディング時間は20%、リードタイムは10%短縮されました。リードタイムとは、タスクが着手されてからコードベースにマージされるまでの期間を指します。その後、RevolutはAnthropicのClaude Codeの実験も行いましたが、エンジニア一人あたりの厳格な予算上限がその有用性を制限していました。ツールには利点があったものの、高いコストと使用制限のため、全体的な影響は限定的なものにとどまりました。

2026年春以降、Revolutは社内インフラ上でGLMを運用しており、劇的に異なる結果をもたらしています。約2,000人のエンジニアを含むサンプルグループでは、コーディング時間が60%減少し、リードタイムは70%短縮されました。Abitbol氏は、リードタイムの不均衡な低下は、コーディング自体が主要なボトルネックではないことを示唆していると指摘しました。エンジニアはメールボックス、Jiraチケット、Confluenceページを検索するために膨大な時間を費やしています。トークン制限を撤廃することで、Revolutはエンジニアが会計四半期末近くでの使用量配給なしに、これらの検索および統合タスクのためにAIを自由に使えるようにしました。

仕組み

Revolutは、約8,000億パラメータを含むGLMモデルを、約56基のNvidia B200 GPUクラスタ上で実行しています。この構成により、100万トークンあたり約30セントのコストでトークンを生成でき、予測不可能な月額請求書を定常的な運用コストに置き換えています。しかし、初期状態でのパフォーマンスは poor（低品質）でした。徹底した最適化を通じて、チームは最初のトークン出力までの時間（Time to First Token）を10秒以上から1.6秒まで短縮し、同時に需要が76%増加する状況に対応しました。Abitbol氏は、5秒を超える遅延はユーザーからの即座の苦情を引き起こすと強調しました。

システムは効率性とコンプライアンスを維持するために特定の制約を採用しています。コンテキストウィンドウは250,000トークンに設定されており、Abitbol氏は過度な長文脈機能はコーディングタスクにはしばしば不要であると主張してこの決定を擁護しました。GLMはテキストのみを処理するため、画像関連のタスクはGoogleのGeminiへルーティングされます。Claude CodeやOpenAIのCodexは例外ケース向けに残されていますが、もはやデフォルトのツールではありません。このハイブリッドアプローチにより、各リクエストの種類に対して最も適したモデルが使用されることが保証されます。

主要なポイント

• Revolutは、従来のAnthropicおよびOpenAIサービスへの支出と比較して、AIコーディングコストを90%削減したと報告しています。
• インフラストラクチャは、2,000人のエンジニアにサービスを提供するために約56基のNvidia B200チップに依存しています。
• GLMへの切り替え後、コーディング時間は60%減少し、エンジニアリングのリードタイムは70%短縮されました。
• データは米国、EU、英国、イスラエルなど、同等のデータ保護法を持つ管轄区域でのみ処理されます。
• モデルの重みはオープンソースですが、推論は中国のエンドポイントを使用しないよう、西側サーバー上で実行されます。
• トークンコストは平均100万トークンあたり30セントであり、最初のトークン出力までの時間は1.6秒に最適化されています。

なぜ重要なのか

技術リーダーにとって、このケーススタディは、プロプライエタリAPIへの依存よりも、オープンウェイトモデルのセルフホスティングが持つ経済的優位性を浮き彫りにしています。トークン制限の撤廃は、エンジニアがAIツールとどのようにやり取りするかを変え、情報検索などの非コーディングタスクでのより広範な使用を奨励します。この変化は、ソフトウェア開発におけるAIの価値がコード生成だけでなく、ワークフローの加速にも及ぶことを示唆しています。インフラの複雑さを管理できる企業は、価格構造により閉じたソースのプロバイダーが提供できないような、大きなコスト削減と生産性向上を見出す可能性があります。

ただし、このアプローチには相当な先行投資と専門知識が必要です。56基のB200チップのハードウェアコストは、購入またはレンタルするかによって170万ドルから350万ドルの範囲になる可能性があります。さらに、新しいGPUアーキテクチャの迅速なリリースサイクルにより、これらの資産は急速に減価償却される可能性があります。専用のAIインフラスタッフを持たない小規模なチームは、クラウド、人員配置、監視費用を除いた節約額だけでは、これらの結果を再現するのに苦労するかもしれません。このモデルの成功は、継続的なチューニングと厳格なガバナンスプロトコルに大きく依存しています。

実践できること

• ハードウェア、電力、エンジニアリング時間を含めた、セルフホスティングとAPI使用の総所有コスト（TCO）を評価してください。
• 開発者の採用率を維持するため、2秒未満の応答時間を目標とする厳格な遅延予算を実装してください。
• ルーターを使用して、画像処理などの特定のタスクタイプを専門モデルへ振り分け、テキストタスクは安価なオープンウェイトモデル上に留めてください。
• 不要なリソース消費を防ぎ、推論コストを削減するために、コンテキストウィンドウに上限を設定してください。
• 承認された法的管轄区域内のインフラ上でオープンウェイトモデルを実行することで、データ所在規制のコンプライアンスを確保してください。
• 自律エージェントに対する規制要件を満たすため、人間による介入（Human-in-the-loop）の安全策とサンドボックス環境を維持してください。