Moonshot AI、Amazon BedrockでKimi K3.1 Pro Highspeedを提供開始

Moonshot AIは、Amazon Bedrock上でKimi K3.1 Pro Highspeedをリリースし、同社の最新オープンウェイト大規模言語モデルの利用範囲を拡大しました。K3.1シリーズの新バリアントであるこのモデルは、長いコンテキストの推論や複雑な専門的なタスクに対する既存のアーキテクチャの能力を維持しつつ、出力トークンの生成速度を大幅に向上させるよう設計されています。

このリリースは、エージェントシステムやコーディングアシスタントを開発するエンジニアを対象としており、数百万トークンのコンテキストウィンドウやコンピュータ支援設計スクリプトなどの専門ドメインへの対応能力を犠牲にすることなく、より迅速なイテレーションサイクルを実現します。

何が起きたか

Kimi K3.1 Pro Highspeedは、ベースとなるKimi K3モデルの後学習（ポストトレーニング）版であり、同じ3Tクラスのオープンウェイトアーキテクチャを採用し、最大100万トークンのコンテキストウィンドウをサポートしています。Moonshot AIは後学習フェーズで計算量を大幅に増やすことで事実誤認を減らし、長期的なエージェント作業におけるパフォーマンスを向上させました。同社によると、この特定のバリアントは標準的なKimi K3.1 Proと比較して、出力トークンを2〜3倍の速度で生成します。

このモデルは、リージョン間推論プロファイルを通じてAmazon Bedrockからアクセス可能です。開発者はglobal.moonshotai.kimi-k3.1経由でリクエストをルーティングすることで、対応する商用リージョン全体で低コストを実現できます。また、us.moonshotai.kimi-k3.1またはin.moonshotai.kimi-k3.1を使用すれば、データ処理をそれぞれ米国またはインド国内に保持できます。これらの地理的プロファイルは、特定のデータ所在要件に対応しつつ、同じ基盤モデル機能へのアクセスを提供します。

既存ユーザーにとって、統合には最小限の変更しか必要ありません。このモデルはBedrock上の以前のKimiバージョンとエンドポイント、API、機能を共有しています。すでにKimi K3を使用している開発者は、コード内のモデルIDを更新するだけでHighspeedバリアントに切り替えることができます。このモデルはツール呼び出し、構造化出力、画像入力、ストリーミング、設定可能な推論レベルをサポートしており、大規模なリファクタリングなしで多様なアプリケーションアーキテクチャに適応できます。

仕組み

このモデルは、最終回答を生成する前に組み込みの推論ステップを実行し、この機能はreasoning_effortパラメータによって制御されます。開発者はこれをlow、high、またはmaxに設定でき、デフォルトはmaxです。努力レベルを下げることで、単純なクエリの遅延と出力トークン数が減少し、高いレベルでは複雑な問題に対してより深い論理処理が行われます。このメカニズムにより、アプリケーションは現在のタスクに基づいて精度と速度を動的にバランスさせることができます。

コスト最適化は、Flexティアと明示的なプロンプトキャッシュという2つの主要なメカニズムによって実現されます。FlexティアはStandard価格の半分で推論を提供しますが、レスポンスタイムが長くなる場合があります。これは、即時の遅延が重要でないバックグラウンドタスク、モデル評価、要約などに適しています。さらに、明示的なプロンプトキャッシュにより、開発者はシステム指示やリポジトリガイドラインなど、プロンプト内の安定したプレフィックスをマークできます。システムはこれらのセグメントを少なくとも30分間キャッシュし、キャッシュ読み取りには割引料金を適用するとともに、入力トークンクォータから除外するため、反復的なエージェント型ワークフローのコストを大幅に削減できます。

主な詳細

• Kimi K3.1 Pro Highspeedは、Kimi K3.1 Proの2〜3倍の出力速度を報告しています。
• このモデルは100万トークンのコンテキストウィンドウをサポートし、3Tクラスのオープンウェイトアーキテクチャを使用しています。
• Amazon Bedrockで処理されるデータはAWSデータ境界内に留まり、Moonshot AIとの共有やトレーニングへの使用は行われません。
• FlexサービスティアはStandard価格の50%で推論を提供し、遅延が重要でないワークロードに理想的です。
• 明示的なプロンプトキャッシュには、少なくとも256トークンの安定したコンテンツが必要であり、キャッシュされたデータを最低30分間保持します。
• OpenAI互換のChat Completions、Responses API、およびAmazon Bedrock Converse APIを通じて統合が可能です。

なぜ重要なのか

自律エージェントを構築するエンジニアにとって、出力速度は重要なボトルネックです。エージェント型ワークフローでは、モデルがファイルを読み、変更を計画し、コードを編集し、テストを実行する一連の呼び出しが含まれることが多くあります。各ステップは次のステップが始まる前に完了する必要があるため、トークン生成が速くなれば、編集-テスト-修正のループ全体が直接短縮されます。出力速度を2倍または3倍にすることで、Kimi K3.1 Pro Highspeedは、コーディングアシスタントや自動デバッグツールを利用する開発者の待ち時間を大幅に削減できます。

Flexティアと明示的キャッシュの導入は、大規模コンテキストモデルを展開する際の経済的課題にも対処しています。エージェントシステムは、ドキュメントやコードベース構造などの静的なコンテキストブロックを毎回のリクエストで再送信することが頻繁にあります。キャッシュがない場合、これらは冗長な処理コストにつながります。AWSが開発者にこれらの安定したセクションを明示的にマークできるようにすることで、より予測可能で低い推論請求書が可能になり、 prohibitive な費用をかけずに本番環境で複雑な長時間実行エージェントを運用することが現実的になります。

できること

• モデルIDをglobal.moonshotai.kimi-k3.1または地域 equivalents に変更して、既存のBedrock統合を更新してください。
• reasoning_effortパラメータを試験し、単純なタスクではlowに設定して遅延とトークン使用量を削減してください。
• APIリクエストでservice_tierをflexに設定して、バックグラウンドジョブにFlexティアを実装してください。
• システムプロンプトや参照ドキュメントに明示的なプロンプトキャッシュを使用するには、少なくとも256トークンの安定したコンテンツの後にprompt_cache_breakpointマーカーを追加してください。
• CloudWatchディメンションServiceTierとResolvedServiceTierを使用して使用パターンを監視し、StandardトラフィックとFlexトラフィックの組み合わせを最適化してください。
• OpenCodeなどのオープンソースコーディングエージェントを、安全なローカル開発支援のために短期ベアラートークンを使用してBedrockに接続してください。