LLMがオープンソースライブラリの形式検証を大規模に自動化
新たな共同研究により、大規模言語モデル(LLM)が100以上のオープンソースライブラリに対して形式的証明を生成し、アセンブリレベルでのセキュリティ特性を実証できることが示されました。
RAG、評価、推論、ファインチューニング、LLM機能の本番運用。
新たな共同研究により、大規模言語モデル(LLM)が100以上のオープンソースライブラリに対して形式的証明を生成し、アセンブリレベルでのセキュリティ特性を実証できることが示されました。
NVIDIAのTensorRT 11.1に搭載された新しいGlobal Performance Tunerは、200以上のコンパイラ設定項目(ノブ)を活用し、精度制約を維持しながらより高速な推論パスを見つけ出します。
MicrosoftとHugging Faceは、実行可能なデータベースチェックを報酬として使用することでQwen3.8-27Bの信頼性を向上させ、タスク成功の一貫性を3倍に高めました。
OpenAIはDecisions APIを広く利用可能にし、ChatGPT Lunaを再構成することで高速かつ低コストな推論を提供し、新興の意思決定モデル市場での競争に参入しました。
NVIDIAはDGX Sparkの8ノードクラスタ構成をサポートし、1 TBの統合メモリと効率的なローカル推論・トレーニングのための新ツールを提供します。
新しいベンチマークにより、DeepSeekの更新されたオープンウェイトモデルが、AnthropicのHaiku 5.5に対し3タスク中2タスクで精度が勝り、かつコストが大幅に低いことが示されました。
torch.profiler と Neuron Explorer を活用し、AWS Trainium ハードウェアでの ML 推論におけるパフォーマンスボトルネックを特定する方法を学びます。
研究者らは、浮動小数点精度の癖を利用することで、損失指標がゼロを報告していても、PyTorchの勾配降下法内で任意のコード実行が可能になることを実証しました。
Nvidiaは、検索、オントロジー、予測モデルを組み合わせたオープンソースツールキット「Agent Knowledge Foundation」を発表しました。これにより、AIエージェントはデータを移動させることなく、エンタープライズデータを理解できるようになります。
技術ガイドでは、Hugging Face 統合やカスタム NKI カーネルを含む、torchtitan を使用して AWS Trainium で Qwen3 モデルをトレーニングする3つの方法について詳しく説明しています。
Hugging Faceが新ベンチマーク「FairStress」を公開。大規模言語モデル(LLM)が候補者の人口統計学的属性に基づき、異なる厳密さで判断を行っていることを示す。
ある開発者は、モデルサイズを増やすのではなく学習データのスタイルを改善することで、0.6Bパラメータのモデルにおけるハルシネーション(誤情報生成)を削減し、ブラウザベースの検索でより優れた拒否率を達成しました。
DeepSeekは、NVIDIA SM100およびHuawei Ascend 950ハードウェア上でDeepSeek-V4.1-Flashモデル用に最適化された高性能推論フレームワーク「DeepInfer」をオープンソースとして公開しました。
i14とAWSは、GPUカーネルを標準的なPyTorch演算子に置き換えることで高いスループットを実現し、Trainium2上でLaplace 3B線形アテンションモデルの訓練を行いました。
AWSは、vLLMにおける双方向キー・バリュー(KV)キャッシュ転送により、長い会話コンテキストで最初のトークン生成までの時間(TTFT)を最大3.3倍短縮できることを実証しました。