Red Hatのベンチマーク、プロンプトインジェクション検出では小規模分類器が大規模LLMに匹敵
Red Hatの新規ベンチマークによると、2億パラメータのモデルが350億パラメータのLLMジャッジと同等のプロンプトインジェクション精度を達成しつつ、実行速度は大幅に向上しました。
RAG、評価、推論、ファインチューニング、LLM機能の本番運用。
Red Hatの新規ベンチマークによると、2億パラメータのモデルが350億パラメータのLLMジャッジと同等のプロンプトインジェクション精度を達成しつつ、実行速度は大幅に向上しました。
OpenAIは、APIテキスト向けのオプトイン統計的ウォーターマーキングシステム「textGrain」を発表しました。検出率はコンテンツの種類や編集の有無によって異なり、コード生成では大きな課題が生じています。
Santhosh Sundar outlines how to build compliance systems that enforce rules at the point of decision using deterministic code for hard limits and agents for interpretation.
新しいオープンソースツールはOllamaとNimbleを使用し、生成テキストではなく構造化データでプロンプトインジェクションを検出し、セキュリティチェックをローカルに保持します。
光速モデリングにより、FSDPはDeepSeek-V3においてInfiniBand上に通信ボトルネックを発生させることが示されました。効率的な学習にはパイプライン並列化が不可欠な選択肢となります。
Amazonは、マルチターン強化学習を用いてQwen3.6-27B検索エージェントをファインチューニングし、失敗率を22%から1%未満に削減すると同時に、検索品質を向上させる方法を実証しました。
NVIDIA NeMoを用いた技術ワークフローにより、重み付きリプレイミキシングとエンコーダの部分解凍を組み合わせることで、ナジディ方言およびヒジャジ方言の音声認識における単語エラー率(WER)を低減します。
Graph RAG adds explicit relationship evidence to vector search, helping agents answer multi-hop questions about dependencies and policies without hallucinating connections.
技術ガイドでは、多様な環境にわたる安全なLLM推論を実現するために、クロスアカウントSigV4、ワークスペーススコープのAPIキー、およびOIDCフェデレーションを設定する方法について詳しく説明しています。
CloudflareのAI Searchが正式に一般公開され、ネイティブ画像埋め込み、PDF向けOCR、より大きなファイルへの対応が追加されました。課金は2026年11月1日から開始されます。
CloudflareはContainersインフラストラクチャを更新し、ランタイムでのイメージ選択とファイルシステムスナップショットに対応しました。これにより、AIエージェントワークロードの起動時間が6倍以上短縮されました。
OpenAIはDev Dayで新しい「Decisions API」を導入し、TypeSafe AIのJevモデルと同様の高速かつ低コストな分類機能を提供し、AIエージェントのセキュリティ強化を図ります。
CohereはEmbed 5をリリースしました。これにより、開発者は高品質なProモデルでインデックスを作成し、より高速なFastモデルでクエリを実行できるようになりましたが、両者は同じベクトル空間内で動作します。
NVIDIAは、PyTorch AOTI、FlexKVキャッシュ、Dynamo-Tritonを使用して階層的逐次変換ユニット(HSTU)モデルを提供し、推論レイテンシを削減するエンドツーエンドのワークフローを実証しました。
NVIDIAはVSS Blueprint 3.3をリリースし、トークン使用量を削減する「Adaptive Efficient Video Sampling」と、単一のプロンプトからマルチワークフロー展開を構成する「Build Vision Agent」スキルを導入しました。