Granite 4.1モデル、LLMONを採用しプロンプトインジェクションを防止
Hugging Faceが、指示とデータを分離して間接的なプロンプトインジェクションを防ぐマークアップ言語「LLMON」で訓練された、Granite 4.1の3Bおよび8Bプレビューモデルをリリースしました。
RAG、評価、推論、ファインチューニング、LLM機能の本番運用。
Hugging Faceが、指示とデータを分離して間接的なプロンプトインジェクションを防ぐマークアップ言語「LLMON」で訓練された、Granite 4.1の3Bおよび8Bプレビューモデルをリリースしました。
Amazonは、PyTorchの訓練ループに3つのチェックを追加することで、SageMaker HyperPodにおけるサイレントデータ破損を検出し、故障したハードウェアによる計算資源の無駄遣いを防ぐ方法を詳細に説明しています。
Anthropicは新モデル「Fable 5.2」をリリースしました。コーディングベンチマークではOpus 5.5と同等のパフォーマンスを発揮しつつ、タスクあたりのコストは半分に抑えられていますが、同社は開発者に対して日常業務でのOpus利用継続を勧めています。
MIT CSAIL's weight-space programming research shows that a simple linear program can match an AI agent's complex weight edits, achieving similar accuracy gains with far fewer changes.
新しい学習手法は、マルチベクトルエンコーダーにドキュメントベクトルの圧縮後も検索シグナルを保持する方法を教え、品質の低下を最小限に抑えつつストレージを75%削減します。
vLLMは静的バッチ処理を連続バッチ処理に置き換え、PagedAttentionを用いてメモリを効率的に管理することで、LLM推論のスループットを向上させます。
Amazon BedrockでKimi K3.1 Pro Highspeedが利用可能になり、エージェント型ワークフロー向けに高速な出力速度とコスト削減プランを提供します。
AnthropicがClaude Fable 5.2をリリース。 extensive な自己検証とサブエージェントの使用により、主要なベンチマークでGemini 4 Carbonを上回ったが、タスクあたりのコストは増加している。
MetaはTriton Low-Level Extensions (TLX)をリリースしました。これは、Tritonの高レベルな生産性を維持しつつ、モダンGPU上のワープグループ・オーケストレーションに対する明示的な制御をエンジニアに提供する新しいプログラミングモデルです。
Googleはオープンソースシステム「TPU Sync」をリリースしました。Cloud TPU上の大規模モデルにおいて、最初のトークン生成までの時間を最大90%短縮します。
Amazon Bedrock Managed Knowledge Baseは、AgenticRetrieveStream APIを介して単発RAGおよび検索専用リクエストに対応しました。これにより、開発者は遅延と精度のバランスを取れるようになります。
AnthropicはClaude Fable 5.2をリリースしました。価格は20%引き下げられ、トークン生成が高速化され、複雑な技術タスクにおけるコーディングベンチマークも改善されています。
Mihail Eric氏は、スタンフォード大学のCS146Sコースを更新し、エージェントネイティブなワークフローを反映させました。基本的なコード生成よりも、オープンソースへの貢献やカスタムツール開発を重視しています。
Video RebirthがHyperFlow H3 Flashをリリースしました。これはMiniMax-H3モデルの圧縮版であり、INT8量子化とGGUFフォーマットを使用して、コンシューマー向けハードウェア上で動画と音声を同時に生成します。
新しいパイプラインは、画面上のアクセシビリティツリーを読み取り、凍結されたParakeetモデルにバイアスをかけることで、重いLLMやファインチューニングを避けて音声認識の精度を向上させます。