コンシューマー向けGPUでの圧縮済み13.7B動画・音声モデルのデプロイ

Video Rebirthは、動画と音声の同時生成用に設計されたMiniMax-H3モデルの圧縮版である「HyperFlow H3 Flash」をリリースしました。2026年11月7日に公開されたこのリリースにより、開発者は積極的な構造的プルーニングとINT8量子化を採用することで、コンシューマーグレードのGPU上で137億パラメータのモデルを実行できるようになります。本プロジェクトでは、直接統合用のPythonパッケージと、ComfyUIなどのツールで使用するためのGGUFサポートの両方が提供されています。

何が起きたか

今回のリリースでは、テキストから動画・音声への生成（t2va）用と、参照ベースの生成（ref2va）用の2つの主要なモデルバリアントが導入されました。これらのモデルは元のMiniMax-H3アーキテクチャから派生していますが、サイズと計算負荷が大幅に削減されています。t2vaバリアントは137億パラメータを含み、ref2vaバリアントは139億パラメータを持っています。どちらも高性能サーバー向けのINT8形式と、コンシューマー向けハードウェアとの広範な互換性を持つGGUF形式で利用可能です。

Video Rebirthのエンジニアリングチームは、データセンター規模のインフラストラクチャを必要とせずに、これらの大規模モデルにアクセスできるようにすることに注力しました。具体的には、特定のTransformerブロックを削除し、線形層に低ランク分解を適用することでこれを達成しました。リリースには、RTX 3090から最新のH200およびB200データセンターカードに至るまで、さまざまなNVIDIA GPUにおけるパフォーマンスを示す詳細なベンチマークが含まれています。また、既存のパイプラインへのシームレスな統合を実現するコマンドラインインターフェースとPython APIも提供されています。

仕組み

HyperFlow H3 Flashは、主に3つの技術によって計算負荷を軽減しています。第一に、構造的プルーニングを使用し、t2vaモデルでは50個のTransformerブロックのうち3個を、ref2vaモデルでは1個のブロックを削除しています。第二に、100以上の線形層に低ランク分解を適用し、パラメータ数をさらに削減しています。第三に、回転W8A8 INT8量子化を採用しており、ブロック対角Hadamard回転を通じて精度を維持しながら重みと活性化値を圧縮します。

小規模GPUでのメモリ制約を管理するため、システムは複数のオフロードモードをサポートしています。「stream」モードでは、アクティブなVAEと1つのTransformerブロックまたはテキストエンコーダーレイヤーのみがVRAM上に常駐するため、わずか24 GBのメモリを搭載したカードでもモデルを実行できます。このモードは、すべてのコンポーネントをVRAMに保持する場合と比較して、速度低下は約2%にとどまります。さらに、本モデルは二重時間条件付けメカニズムを使用しており、各トークンは現在のノイズレベルとステップ終点の両方に関する情報を受け取るため、わずか4〜8回のサンプリングステップで高品質な生成が可能になります。

主要な詳細

• モデルサイズ: プルーニングと分解の後、t2vaモデルは137億パラメータ、ref2vaモデルは139億パラメータとなります。
• サンプリングステップ: ユーザーは、速度重視の4ステップ、バランス型の6ステップ、品質重視の8ステップから選択でき、スケジュールモジュールにはシグマグリッドが提供されています。
• メモリ最適化: 「stream」オフロードモードにより、ブロックチャンキングを用いて活性化メモリを制限することで、24 GB VRAM搭載GPU上で15秒間の混合参照クリップを実行できます。
• テキストエンコーダー効率: Qwen3-VLテキストエンコーダーにFP8精度を使用すると、オフロード時にシステムRAMを約22 GiB節約できますが、これにはfp8追加インストールが必要です。
• マルチGPUサポート: パイプラインはUlyssesコンテキスト並列性をサポートしており、Transformerシーケンスを最大8台のGPUに分割することで、推論速度の向上とGPUごとのメモリ使用量の削減を実現します。
• ライセンス制限: モデルの重みはMiniMax H3コミュニティライセンス契約に基づいて配布されており、EU、英国、韓国、米国での無許可の使用は制限されています。

なぜ重要なのか

ソフトウェアエンジニアや技術系創業者にとって、このリリースは高忠実度の動画・音声生成への参入障壁を下げるものです。従来、この規模のモデルを実行するには、数百GBのVRAMを搭載した高価なデータセンターGPUが必要でした。コンシューマー向けハードウェアに最適化することで、Video RebirthはRTX 4090やRTX 3090カードを搭載したワークステーション上でのローカル開発とデプロイを可能にします。この変化により、より反復的な実験が可能になり、コストが高く遅延が発生しやすいクラウド推論サービスへの依存度を下げることができます。

GGUFフォーマットの提供は、これらのモデルをオープンソースエコシステム、特にComfyUI内へと統合します。この互換性により、開発者はゼロからカスタム推論エンジンを構築する代わりに、既存のワークフローやコミュニティノードを活用できます。提供される詳細なベンチマークは、チームが具体的な生産要件に基づき、生成速度とメモリ制約のバランスを取りながら、ハードウェア割り当てについて情報に基づいた判断を行うのに役立ちます。

できること

• make install を使用してPythonパッケージをインストールし、INT8ランタイム実行のための仮想環境と依存関係をセットアップします。
• VRAMが60 GB未満のGPUで実行する際は、--offload stream フラグを使用し、顕著な速度低下なくメモリ使用量を効果的に管理します。
• ハードウェアが対応している場合、[fp8] 追加機能をインストールしてテキストエンコーダーのFP8精度を有効にし、オフロード中に大量のシステムRAMを節約します。
• examples/benchmark.py でベンチマークを実行し、特定のハードウェア構成におけるエンドツーエンドのパイプラインステージ時間とピークメモリ使用量を測定します。
• マルチGPUセットアップの場合、torchrun でパイプラインを起動し、プロセスグループを初期化して利用可能なデバイス間で実行をシャーディングします。
• 特に制限地域で運用している場合は、MiniMax H3コミュニティライセンス契約への準拠を確保するために、ライセンス条項を慎重に確認してください。