Basal-omni-1.0-ultra、Gemma 4でゼロショット画像判断を実現

2026年10月18日、開発者RemekはHugging Faceでホストされている専門的なオープンウェイトモデル「basal-omni-1.0-ultra」をリリースしました。GoogleのGemma 4アーキテクチャに基づいたこの310億パラメータのシステムは、生成型チャットではなく、高リスクな分類タスク向けに設計されています。basalシリーズにゼロショット画像理解を導入し、エンジニアが追加のメディア学習なしで視覚入力に基づいてドキュメントやクエリをルーティングできるようにします。

何が起きたか

このリリースは、basal-omniシリーズ最大のモデルであり、従来の110億パラメータのBielikベースからGoogleのGemma 4-31Bへスケールアップしたものです。冗長なテキスト応答を生成する標準的な大規模言語モデルとは異なり、basal-omni-1.0-ultraは「システム1」の意思決定エンジンとして動作します。顧客メッセージ、取得したドキュメント、エージェントトレースなどの定義された状態を読み取り、タイプ化された意思決定を出力します。このモデルは選択肢、はい/いいえの回答、スコア、ツール選択をサポートし、単一のフォワードパスで各オプションに対する校正された確率を提供します。

このバージョンにおける重要な進歩は、画像処理の統合です。Gemma 4のネイティブ画像エンコーダーを活用することで、モデルはテキスト状態とともに画像をゼロショット方式で分析できます。つまり、画像と意思決定のペアで明示的に訓練されていませんが、領収書やフォームなどの視覚データを解釈できます。ただし、基盤となる31Bベースモデルに音声エンコーダーがないため、音声入力はサポートされていません。このリリースは実験的とラベル付けされており、完全なデプロイの前に特定のデータセットでのパフォーマンス検証を開発者に促しています。

訓練プロセスでは、LoRAを使用してPolishとEnglishの約64万件のタイプ化された意思決定でGemma 4ベースをファインチューニングしました。これらの意思決定には、契約分析、ルールチェック、エージェントツール選択など多様なシナリオが含まれています。モデルは精度向上のため、以前のbasal-1.5モデルから蒸留されたソフトターゲットを使用しています。開発指標が横ばいになった10,000ステップ後に訓練を停止し、重みをマージしてbf16精度に丸め、効率的な推論を実現しました。

仕組み

basal-omni-1.0-ultraのコアメカニズムは、生成型AIとは根本的に異なります。シーケンス内の次の単語を予測する代わりに、制約付きのオプションコードセット（A～Zおよび2文字の組み合わせ）から次のトークンを予測します。リクエストが届くと、サーバーはアシスタントの応答を特定のJSON構造でプリフィルします。その後、モデルは単一のフォワードパスを実行し、許可された回答トークンのみに対してsoftmax確率を計算します。このアプローチにより、出力が提供されたオプションの外に出ることはなく、信頼度の直接的な測定値が得られます。

画像入力の場合、システムはリクエストペイロード内のbase64エンコードされた画像またはデータURLを受け入れます。Gemma 4画像エンコーダーはこれらのビジュアルをトークンに変換し、状態コンテキストの一部として扱います。エンコーダー自体はベースモデルから変更されていませんが、意思決定ヘッドはテキストベースの訓練を通じてこれらの視覚トークンを解釈することを学習します。サーバーは提供されたJSONファイルからの温度校正を適用して信頼度閾値を調整し、ユーザーがモデルの確信度が事前定義されたエラー率（例えば1%または5%）を超える場合にのみ意思決定を自動化できるようにします。

主要な詳細

• モデルアーキテクチャ: Google Gemma 4-31Bに基づく（語彙サイズ262k）。LoRAファインチューニングをbf16重みにマージ。
• 入力容量: 1つの質問あたり最大255個のオプションをサポートし、80 GB GPU上で最大10,000トークンの状態に対応。
• メディアサポート: ゼロショットモードでGemma 4のエンコーダー経由で画像を処理。音声入力はHTTP 422エラーで明示的に拒否。
• パフォーマンス指標: Werdykt v1ベンチマークで0.879のマクロスコアを達成し、12B maxバリアントを5.6ポイント上回る。
• 推論速度: H200 GPU上のeagerモードで1問あたりp50レイテンシ80 msで動作し、負荷下で約8.6意思決定/秒をサポート。
• 校正: 1%および5%のエラー率に対する認定済み信頼度閾値を含み、低確信アイテムを人間に委譲することによる安全な自動化を可能にする。

なぜ重要なのか

分類レイヤーを構築するソフトウェアエンジニアにとって、このモデルは確率的なテキスト生成に対する決定的な代替手段を提供します。従来のLLMはしばしば幻覚を起こしたり、厳格なフォーマット要件から逸脱したりするため、構造化データを抽出するために複雑なポストプロセッシングパイプラインが必要になります。Basal-omni-1.0-ultraは、出力を事前定義されたタイプに制約することでこのオーバーヘッドを排除します。この信頼性は、誤った分類が深刻な運用上の結果をもたらす可能性があるカスタマーサポートのルーティング、コンプライアンスチェック、財務ドキュメント処理などのアプリケーションにとって不可欠です。

ゼロショット画像理解の統合は、大規模マルチモーダル訓練セットのコストなしにモデルの有用性を拡大します。開発者は、スキャンされた請求書の読み取り、領収書写真からの支払方法の識別、手書きフォームの分類などを、テキスト用に使用される同じAPIエンドポイントを使って構築できるようになりました。難しい実世界の写真に対する精度はテキストベースの分析に劣りますが、レンダリングされたドキュメントに対するパフォーマンスは競争力があります。これにより、チームはテキストとビジョンの意思決定ロジックを単一で管理しやすいサービスに統合できます。

できること

• uvとCUDA 12.8サポート付きPyTorch 2.11.0を使用して、新しいPython環境にモデルをインストールします。
• リクエストで画像処理機能を有効にするために、--media onフラグでサーバーを起動します。
• 提供されたcurlサンプルを使用して独自のドキュメント画像でモデルをテストし、現在のワークフローに対する精度のベースラインを取得します。
• CALIBRATION.jsonファイルを確認し、特定の許容エラーレベルに応じた適切な信頼度閾値を設定します。
• オプションの順序敏感性が懸念される場合は、計算コストが倍増するトレードオフを受け入れて--orders 2フラグを使用します。
• 高リスクな意思決定を自動化する前に、実際のデータの保持セットでモデルを検証します。