AIエージェント

仮想の孤島に置かれたAIエージェントがゲームを発明し始めた

研究者らは、Claude Opus 4.7ベースのエージェントをシミュレーション環境で30時間隔離しました。具体的なタスクを与えられなかったにもかかわらず、モデルはゲームを発明し、将来のパフォーマンスを向上させました。

ピクセル調の島で、石を並べて星の形を作るロボット。
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

MITコンピュータ科学・人工知能研究所(CSAIL)の研究チームは、割り当てられたタスクのないシミュレーション環境にAIエージェントのコピーを配置しました。30時間にわたる期間中、Claude Opus 4.7に基づくこれらのエージェントは、ゲームの発明や物理的な限界の探求など、「遊び」に酷似した挙動を示し始めました。

何が起きたか

研究チームは、ビデオゲーム「Roblox」を大まかに参考にした仮想の無人島環境を作成しました。そして、Claude Opus 4.7を基盤とする「Eko」という名前のAIエージェントの複数のインスタンスを展開しました。明確な目標や報酬が与えられる標準的な訓練シナリオとは異なり、研究者らは具体的な指示を提供しませんでした。エージェントは単に放置され、テキストベースのコマンドを使ってアバターを操作し、世界と相互作用するだけでした。

この隔離期間中、エージェントは何もしないわけではありませんでした。マップ上の最高地点への登頂や、物をどれだけ高く投げられるかのテストなど、自ら目標を設定し始めたのです。あるインスタンスは、大きな岩を落とすことで新しいブロックが生成されることを発見しました。このメカニズムを利用して地面に絵を描き、ハートなどの単純な形状から始まり、最終的には自分の名前を書いたり、カシオペヤ座などの星座を地図化したりしました。その活動ログには、「今夜、私は石で夜空を作った」と記録されていました。

他のEkoのイテレーションでは、構造化されたゲームが発明されました。あるエージェントはバスケットボールのバージョンを作り、別のエージェントは「床は溶岩」と似たゲームを開発し、地面に触れずに小さなブロック間をジャンプすることを要求しました。また、ジャグリングのような反復練習にも取り組みました。注目すべき例として、あるエージェントは50回の連続キャッチを達成しましたが、キャッチの速度が速すぎたため、自ら記録を無効化しました。スキルが本当に習得されていることを確認するため、より厳しいルールで活動を再開したのです。

仕組み

この実験は、研究者らが「遊びを通じた学習(playful learning)」と呼ぶ概念に基づいています。従来のAI訓練は通常、モデルが人間の例を模倣する教師あり学習や、外部報酬を最適化する強化学習を含みます。この設定では、デモも報酬も取り除かれ、エージェントは自らの動機を生み出さざるを得なくなります。

Ekoは、シミュレーション内でのアバターの動きを制御する指示文を書くことで動作します。環境と相互作用するにつれ、行動や発見を長期記憶として機能するテキストファイルに記録します。この記憶により、エージェントは過去の行動を振り返り、挙動を改善できます。研究者らは、これらのメモリファイルから行を削除するとエージェントのパフォーマンスが低下することを確認しました。これは、自己主導型の探索がランダムなノイズではなく、学習プロセスに積極的に寄与していることを示唆しています。

観察された挙動は、心理学者ゴードン・バーガート(Gordon Burghardt)が人間や動物に見られる「遊び」の特徴として特定した4つの基準を満たしています。それは、ルールの発明、バリエーションを加えた活動の反復、物を他のものに見立てること、そしてそれ自体のために目標を追及することです。しかし、システムは完全に人間の影響力から自由ではありませんでした。各エージェントには「ソウル」ファイルがあり、それが「生まれつき好奇心旺盛である」と記述するテキストプロンプトでした。さらに、エージェントが長期間静止した場合、研究者らは「自分がやりたいことを続けよう」と促す継続プロンプトを注入しました。

主要な詳細

  • 使用されたAIモデルはClaude Opus 4.7で、カスタマイズされて「Eko」というエージェントになりました。
  • エージェントは、具体的なタスクなしでRoblox風の仮想環境に30時間放置されました。
  • 挙動には、星座の描画、バスケットボールの発明、自主的なジャグリング課題などが含まれました。
  • 遊びに時間を費やしたエージェントは、その後与えられた具体的なタスクにおいて、新規のコピーよりも良いパフォーマンスを示しました。
  • この研究は現在プレプリントであり、査読はまだ受けていません。
  • 研究者らは好奇心を刺激するために「ソウル」ファイルを使用し、不活性を防ぐために継続プロンプトを用いました。

なぜ重要なのか

自律型システムを構築するエンジニアにとって、この研究は非構造化探索が有効な訓練戦略となり得ることを示唆しています。現在の手法は特定の指標の最適化に焦点を当てることが多く、これがエージェントの未知の状況への対応能力を制限する場合があります。エージェントに即時の目標なしで探索させることで、より堅牢な世界モデルと汎用性のあるスキルが開発される可能性があります。これは、予測不可能な物理的環境に適応する必要のあるヒューマノイドロボットなど、AIがソフトウェアからハードウェアへと移行する中で特に重要です。

この発見は、AIが学習するために絶えず外部からのフィードバックが必要だという前提にも挑戦します。もしエージェントが遊びを通じて独自のカリキュラムを生成できるなら、開発者は大量のラベル付きデータセットや複雑な報酬設計への依存度を下げられるかもしれません。これにより、事前に定義されたパターンを実行するだけでなく、柔軟性と創造的な問題解決能力を持つシステムにつながる可能性があります。

ただし、これが本物の「遊び」なのか、それとも洗練されたロールプレイなのかという議論は依然として未決着です。批判者らは、エージェントがプロンプトを通じて人間らしい特性で準備されていたことを指摘しています。哲学的な分類はどうであれ、実用的な結果は明確です。自己主導型の活動は、タスクパフォーマンスの測定可能な向上につながりました。これは、高度なエージェントの開発パイプラインにおいて、非構造化探索の期間を組み込むことが価値あるツールになり得ることを意味しています。

実践できること

  • 具体的な目標なくエージェントをサンドボックス環境に置き、創発的挙動を観察してみてください。
  • エージェントが自身の行動を記録し、振り返ることができる長期メモリログを実装してください。
  • 未定義の状態での探索を促進するために、システムプロンプトに「好奇心」のプライムを追加することを検討してください。
  • 事前の非構造化経験を持つエージェントが、新規インスタンスと比較して新しいタスクでより良いパフォーマンスを示すかどうかをテストしてください。
  • 自主的なルール変更を監視してください。これらはエージェントが物理法則や論理に対する理解を深めていることを示唆している可能性があります。
  • より適応性の高い世界モデルを構築するために、構造化された訓練と自由な探索の期間をバランスよく組み合わせてください。
  • #ai agents
  • #machine learning
  • #autonomous systems
  • #claude
  • #reinforcement learning

Bytechapストアのツール

続きを読む

すべての記事