AIエージェントが睡眠時計算(Sleep-time Compute)を用いて長期記憶を整理する方法
Anthropicは、Claudeが「夢見(Dreaming)」と顕著性判断を用いてメモリを統合し、アイドル時間にエラーの修正や知識構造の構築を行う仕組みについて解説しています。
RAG、評価、推論、ファインチューニング、LLM機能の本番運用。
Anthropicは、Claudeが「夢見(Dreaming)」と顕著性判断を用いてメモリを統合し、アイドル時間にエラーの修正や知識構造の構築を行う仕組みについて解説しています。
AWS は、Bedrock AgentCore Gateway、Cedar ポリシー、Okta Cross App Access を使用して、集中化された認可により AI エージェントのセキュリティをスケーリングする方法を実演しています。
llama-sleepという新しいラッパーツールは、CUDAの状態をホストRAMに退避させることで、単一GPU環境におけるモデル切り替えの遅延を削減します。これにより、重みデータの再読み込みが不要になります。
Rampのデータによると、OpenAIやAnthropicによる積極的な値下げと企業のコスト管理強化を背景に、AIトークン使用量は増加しているものの、支出額は横ばいとなっている。
NVIDIAは、TensorRT LLM VisualGenを用いてNVFP4量子化、スパースアテンション、マルチGPUスケーリングによりBlackwellハードウェア上のFLUX 3 Image Klein生成を高速化する方法について詳述しています。
Apple の研究者たちは、小さなニューラルネットワークを用いて支持関数を近似し、検索拡張生成(RAG)における最大内積検索の高速化を実現しました。
Nubank の研究者らは、合成ユーザーを用いて AI カスタマーエクスペリエンスエージェントを選別するシミュレーションワークフローの詳細を公開しました。この手法により、ライブの顧客にエラーを晒すことなく指標を改善しています。
AWSは、自然言語の質問に対して出典を明記した統合的な回答を返すマネージドツール「Web Answer」をリリースしました。これにより、カスタムのRAGパイプラインを構築する必要がなくなります。
実証研究により、標準的な成功指標はAIエージェントにおける重要なインフラ障害を見逃していることが判明しました。一方、ツール呼び出し量とスコープドリフト(権限範囲の変動)の方が、より良い可視性を提供します。
AWS Deep Insightは、アーキテクチャ、プロンプト、ファイル外部化、検証を用いてLLMのコンテキストウィンドウを管理し、マルチエージェントシステムにおけるトークンオーバーフローを防ぐ手法を示しています。
Anthropicと学術パートナーが、zkSNARKsを使用して特定のモデル重みから生成されたことを秘密裏に証明するオープンソースシステム「FlashProve」を公開しました。
Ricursive Intelligenceはオープンウェイトモデル「Ripple-65B Preview」をリリースしました。このモデルは、従来のリーダーと比較して1/10のコストで、エージェント型コーディングにおいて最先端(SOTA)のスコアを達成しています。
AWS Bedrock AgentCore Evaluationsは、JevやStrands Deciderなどの意思決定モデルを用いたカスタムコードベースの評価器をサポートし、AIエージェントに対して調整済みで低コストなスコアリングを提供します。
Amazon Bedrockは現在、Kimi K3の推論をムンバイおよびハイデラバードリージョンに限定してルーティングしており、インドのヘルスケアおよび金融データのコンプライアンス準拠処理を可能にしています。
A new paper demonstrates that large language models can read and modify the raw weights of smaller networks, enabling direct weight space programming without writing training code.