AIで開発する

AIエージェントが睡眠時計算(Sleep-time Compute)を用いて長期記憶を整理する方法

Anthropicは、Claudeが「夢見(Dreaming)」と顕著性判断を用いてメモリを統合し、アイドル時間にエラーの修正や知識構造の構築を行う仕組みについて解説しています。

紙のノートと睡眠マスクの横にあるデジタルブレインキューブ
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

Anthropicは、エージェントメモリのアーキテクチャに関する技術的な詳細レポートを公開し、Claudeモデルがアイドル処理時間を活用して体験を統合する仕組みを明らかにしました。本レポートでは、「夢見(Dreaming)」と呼ばれるメカニズムについて説明されています。このプロセスでは、エージェントがオフラインでセッションログを確認し、エラーの修正、ノートの改善、そして将来のタスクに向けた構造化された知識表現の構築を行います。

何が起きたか

この記事では、人間の睡眠中の記憶統合と、「睡眠時計算(sleep-time compute)」と呼ばれる計算プロセスとの類似点が指摘されています。人間の海馬が体験を再生して大脳皮質に統合するように、AIエージェントもインタラクション間の期間を利用してコンテキストを再編成できます。LettaおよびUC Berkeleyの研究チームがこの概念を以前から提唱していましたが、Anthropicは具体的なベンチマークを提供し、これが長期的なタスクにおけるClaudeのパフォーマンス向上にどう寄与するかを示しました。

核心的な発見は、効果的なメモリとは単なるデータ保存ではなく、後々有用となるものを予測することであるという点です。エージェントは顕著なイベントに基づいて「メモリノート」を作成し、後で検索できるようにタグ付けします。しかし、これらのノートの品質は、モデルが重要度を判断する能力に大きく依存します。古いモデルや性能の低いモデルは情報を無差別に蓄積しがちですが、Claude Opus 5やSonnet 5.5などの新しいモデルは、ルールや検証済みの事実を抽出し、より効率的な知識ベースを構築することを学習しています。

仕組み

このシステムは、セッション中のメモリ書き込みと、オフラインでの「夢見」という2つの主要なコンポーネントに依存しています。アクティブなタスク実行中、エージェントは顕著なイベントを識別し、ファイルディレクトリなどの永続的メモリストレージに書き込みます。これは、その情報が再度必要になるであろうという予測として機能します。例えば、エージェントがタスクに失敗した場合、失敗を記録し、その原因を仮説立てて、将来の試行のためのルールを作成することがあります。

「夢見」は、エージェントがユーザーとアクティブにやり取りしていないときに発生します。エージェントは、過去のセッションのトランスクリプトを保存されたメモリノートに対して確認します。もしノートがトランスクリプトと矛盾する場合、エージェントはそれを修正します。このプロセスにより、エージェントは関連する概念をリンクさせる「Wiki」のような高レベルの表現を構築することも可能になります。これらの構造は、生のログを検索するよりも効率的に、成長する知識ベースをナビゲートするのに役立ちます。

主要な詳細

  • 睡眠時計算: エージェントはアイドル時間を利用してログを再生し、メモリエラーを修正し、知識を統合します。これは人間の睡眠サイクルに似ています。
  • 顕著性判断: Claude Opus 5.5などの新しいモデルは、戦略的なルールや検証済み事実を選択的に保存しますが、Sonnet 3.7などの古いモデルは冗長な状態データを保存しており、パフォーマンス低下の原因となっていました。
  • ベンチマーク結果: Continual Learning Bench (CL-Bench) 1.0において、Opus 5は検証済みルールの記録によって学習ループを閉じ、ステートレスなベースラインを大幅に上回りました。
  • Pokémon Redテスト: Fable 5は、小さく戦略的なメモリフォルダを維持することで4つのバッジを獲得しましたが、Sonnet 3.7は散乱し古くなったメモリファイルのため、わずか1つのバッジしか獲得できませんでした。
  • 夢見による修正: ナビゲーションタスクにおいて、夢見プロセスによりClaudeは地図上の場所に関する誤った記憶を修正し、ループに陥ることを防ぎました。
  • Wiki構築: エージェントは夢見中に大規模なドキュメントコーパスからリンク付きWikiページを構築でき、複雑なクエリに対する検索精度を向上させます。

なぜ重要なのか

自律型エージェントを開発するエンジニアにとって、これはメモリ管理が単なるストレージの問題ではなく、キュレーション(選別・編集)の問題であることを浮き彫りにします。すべてのインタラクションを保存するとノイズが発生し、検索時間が遅くなります。これは、過度なファイル作成が進行を妨げたPokémonベンチマークでも確認されました。効果的なエージェントは、環境から読み取れる一時的な状態データと、保持すべき戦略的な知識を区別する必要があります。

「夢見」という概念は、メモリ整合性を維持するための実用的なソリューションを提供します。オフラインでの検証なしでは、エージェントは誤った前提を強化し、反復的な失敗を引き起こす可能性があります。正解ログに対してメモリを検証するバックグラウンドプロセスを実装することで、開発者はエージェントが間違いから学び、それを積み重ねないよう保証できます。これにより、設計の焦点は単純なコンテキストウィンドウから、動的で自己修正可能な知識ベースへとシフトします。

実践できること

  • アイドル期間中にエージェントログを確認し、矛盾するメモリエントリーを特定・修正するバックグラウンドジョブを実装してください。
  • 一時的な状態(例:現在地)と永続的な戦略(例:実績のある戦術)を分離するメモリスキーマを設計してください。
  • 固定ルールがパフォーマンスを阻害する可能性があるため、高度なモデルに顕著性の判断を自律的に任せ、何を保存するかについて厳格なルールを強制しないようにしてください。
  • Wikiやリンク付きノートなどの構造化された表現を使用し、エージェントが大規模な知識ベースを効率的にナビゲートできるようにしてください。
  • CL-Benchなどの長期的なベンチマークを使用してエージェントのメモリ保持能力をテストし、学習ループを閉じる能力を測定してください。
  • メモリフォルダのサイズと増加率を監視し、顕著性判断の不備を示唆する可能性のある情報蓄積(hoarding)挙動を検出してください。
  • #ai agents
  • #machine learning
  • #anthropic
  • #memory architecture
  • #llm

Bytechapストアのツール

続きを読む

AIで開発する

スタンフォード大学の新しいAIエンジニアリングカリキュラム、コーディングからレビューへ焦点を移行

Mihail Eric氏は、スタンフォード大学のCS146Sコースを更新し、エージェントネイティブなワークフローを反映させました。基本的なコード生成よりも、オープンソースへの貢献やカスタムツール開発を重視しています。

すべての記事