オープン&ローカルAI

Tessera-27B-B-CJK-RL、圧縮思考により効率的なコーディングエージェントを実現

ZelligeAIが、CJK混在の略記法を用いてトークン使用量を削減しつつ、強化学習により数学およびコードの精度を向上させる専門的なコーディングモデルをリリースしました。

机の上にある、混合記号とコードが表示されたガラスの立方体
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

ZelligeAIは、Qwen3.8-27Bアーキテクチャに基づく専門的なオープンウェイト・コーディングエージェントモデル「Tessera-27B-B-CJK-RL」をリリースしました。2026年11月6日に公開されたこのベータ版では、英語、漢字、記号を組み合わせて思考プロセスを圧縮する独自の内部推論メカニズムが導入されています。本モデルは、競合的な数学問題やコーディングタスクにおいて高い性能を維持しながら、エージェントの各ターンで生成されるトークン数を大幅に削減することを目指しています。

何が起きたか

新モデルは、以前リリースされたTessera-27B-B-CJKを進化させたものです。数学およびコードの問題に特化した追加の強化学習アップデートを8回実施しています。この学習プロセスにより、先行モデルよりも新規の競技形式の数学問題を多く解決できるモデルが生まれました。重要なのは、標準的なベースモデルと比較して1ターンあたりの思考量を抑えるよう設計された元のTesseraシリーズの効率性の利点を大部分維持している点です。

リリースには開発者向けの複数のリポジトリオプションが含まれています。主な提供物は、合計55.6 GBのマージ済みbf16重みです。パラメータ効率の良いファインチューニング手法を好むユーザー向けには、1.09 GBのPEFTアダプターも利用可能です。チームはさらに、Unslothレイアウトのレプリカ量子化5種を含むGGUF形式とNVFP4チェックポイントも提供していますが、これらの後者の形式はまだ完全には評価されていません。すべてのファイルはベースモデルと同様にApache-2.0ライセンスの下で提供されています。

仕組み

核心的な革新は、モデルの内部独白、すなわち「think(思考)」フェーズにあります。冗長な英語での推論ステップを生成する代わりに、Tessera-27B-B-CJK-RLは漢字、英単語、記号を混ぜた圧縮された略記法を使用します。この方法により、モデルははるかに少ないトークン数で複雑な論理状態を表現できます。例えば、典型的なエージェントターンでは、テストスイートの結果とリンティングステータスを説明するのにわずか45トークンしか使用されず、ベースモデルでは同じ状態に対して158トークンを必要としていました。この圧縮にもかかわらず、最終的な回答やツール呼び出しは通常の英語およびコードのままなので、開発者にとっての使用性は確保されています。

学習は、Tessera-27B-B-CJK LoRAアダプターから開始し、Tinkerプラットフォーム上で8ラウンドの強化学習を適用して行われました。各アップデートでは、特定の数学およびコードの問題に対して6つのロールアウトをサンプリングし、正しさと簡潔性を最適化すると同時に、ベースモデルに対する過度な長さをペナルティとして課しました。各ロールアウトの利得は、その思考トークン全体に分散され、長いシーケンスが勾配更新に不均衡に影響を与えるのを防ぎました。最終的なLoRAペアはベースモデルのbf16重みにマージされ、検証により、マージ前のアダプターパフォーマンスからの逸脱が最小限であることが確認されました。

主要な詳細

  • AIMEおよびHMMT 2026年2月の問題に対し、126回の試行中108回の正解を達成しており、前バージョンの97回から改善されています。
  • エージェントターンあたりの思考量はベースモデルの約0.67倍であり、顕著な効率性の向上を維持しています。
  • リリースには、マージ済みbf16重み(55.6 GB)、LoRAアダプター(1.09 GB)、および未検証のGGUFおよびNVFP4バリアントが含まれます。
  • 学習には、学習率2e-5で8回のRLアップデートを使用し、正しさと長さの効率性に基づいてロールアウトをスコアリングしました。
  • 推奨される推論設定には、reasoning_effort="xhigh"、温度1.0、top-p 0.95、top-k 20が含まれます。
  • モデルはQwen/Qwen3.8-27B上に構築されており、標準的なトークナイザーとチャットテンプレートを使用しています。

なぜ重要なのか

自律型コーディングエージェントを構築するエンジニアにとって、トークン効率性はレイテンシとコストに直接影響します。内部推論を密度の高い多言語略記法に圧縮することで、Tessera-27B-B-CJK-RLは出力品質を犠牲にすることなく、意思決定ステップごとの計算負荷を軽減します。これにより、エージェントはテストされた64Kトークンの制限のようなより狭いコンテキストウィンドウ内で動作でき、先行モデルと比較して切り詰めによる失敗が大幅に減少しました。この効率性の向上は、広範なツール使用と検証のための往復が必要なエージェントワークフローのスケーリングにとって極めて重要です。

さらに、競合的な数学ベンチマークにおける性能向上は、より優れた汎用的な推論能力を示唆しています。モデルはコーディング用に特化されていますが、複雑な数学問題を解決する能力は、ソフトウェアエンジニアリングタスクにおける強力な論理的演繹と相関することが多いです。開発者は、圧縮思考モードをトリガーするために推論パラメータを正しく設定すれば、デバッグ、アルゴリズム設計、複雑なシステムアーキテクチャ計画のためにこの強化された推論を活用できます。

実行可能なこと

  • ローカル推論のためにvLLM 0.31またはtransformers 5.17を使用してマージ済みbf16重みをデプロイしてください。
  • reasoning_effort="xhigh"でチャットテンプレートを設定し、最適化された思考プロセスを有効にしてください。
  • 評価条件と一致させるために、温度1.0、top-p 0.95、top-k 20を使用してください。
  • マルチターン会話中にコンテキストスペースを節約するため、履歴から「think」トークンを削除してください。
  • 重みのマージよりもパラメータ効率の良い読み込みを好む場合は、LoRAアダプターを試してください。
  • さらなる検証が行われるまで、本番環境では未検証のGGUFまたはNVFP4チェックポイントへの依存を避けてください。
  • #llm
  • #coding-agents
  • #open-weights
  • #reinforcement-learning
  • #efficiency

Bytechapストアのツール

$89

DocBento

すべてのスキャンを読み取り、ページ出典を提示して回答するセルフホスト型ドキュメント管理システム。

ライブデモ

続きを読む

オープン&ローカルAI

NVIDIA、インタラクティブな世界シミュレーション向けのオープンCosmos 3モデルを公開

NVIDIAは、Cosmos 3ファミリーにおいて4つの新しいオープンウェイトチェックポイントをリリースしました。これにより、開発者は同期されたマルチセンサーデータを用いて、インタラクティブなドライビングおよびロボティクスシミュレーションを生成できるようになります。

すべての記事