TPUでのOLMo 3 7B再現が、隠れたデータローダーのバグを明らかに
Googleのケーススタディでは、AI2のOLMo 3モデルをTPU上で再現し、性能指標を一致させると同時に、改善と誤認されていた重要なデータシャーディングエラーを発見しました。
“llm” の検索結果
AI、開発者向けツール、インフラのデイリーカバー。各記事では、何が起こり、なぜ重要なのかを解説し、元の出典へのリンクを提供します。
Google、TPU上での自律型LLMファインチューニングループを実証
Google Developers Blogは、Cloud TPU上のSFTおよびRLポストトレーニングにおけるハイパーパラメータ調整を自動化するエージェント駆動システム「autofinetune」の詳細を紹介しています。
AIコーディングエージェントの評価には、行動評価がより明確な洞察を提供
Google Developers Blogは、AIエージェント開発において、不透明なエンドツーエンドのベンチマークスコアを超え、行動評価がどのように実用的なフィードバックを提供するかを解説しています。
Cloud TPUでのvLLMを用いた長文コンテキスト埋め込み推論の最適化
Googleは、vLLMにおけるネイティブTPUサポートがQwen3モデル向けに弾力的なスケーリングと高精度な埋め込み推論をどのように可能にするかについて詳述しています。
Raspberry Pi 5でLiteRTを使いGemma LLMを実行する
Googleの2026年ガイドでは、LiteRTを使用してRaspberry Pi 5上でGemmaモデルを実行し、クラウド依存なしでロボティクスやエッジエージェント向けのリアルタイム推論を実現する方法が詳細に説明されています。
Kubernetes、LLM推論ルーティング向けのGateway API拡張機能を導入
Kubernetesプロジェクトは、生成AIワークロードのルーティングを標準化し、レイテンシの削減とGPU利用率の向上を実現する「Gateway API Inference Extension」をリリースしました。
