Goodfire、AIエージェントの安全性を低コストで実現する内部活性化モニターを発表
Goodfireは、モデルの内部を読み取ることで不正なAI動作を検出する内部活性化モニターをリリースし、従来の出力チェック方式に比べて大幅なコスト削減を実現しました。
“agents” の検索結果
AI、開発者向けツール、インフラのデイリーカバー。各記事では、何が起こり、なぜ重要なのかを解説し、元の出典へのリンクを提供します。
Google、エンタープライズ向けGeminiエージェントを多モデル対応で発表
Googleは、社内システムに接続し、Claudeなどのサードパーティ製モデルをサポートする、企業向けの統合型エージェントAIを発表しました。このAIは独自のWorkspaceアイデンティティを持って動作します。
Building custom AI models for under $40 with autonomous agents
An engineer used Hugging Face's ML Intern agent to fine-tune six specialized models, including vision LoRAs and distilled rewriters, for a total compute cost of roughly $103.
マイクロサービスの原則を用いてステートフルな AI エージェント API をスケーリングする
AI エージェントはバースト的でステートフルなトラフィックを生成し、モノリシックな API に負荷をかけます。エンジニアは、バルクヘッドと共有データベースを使用して計算処理とデータを分離することで、この問題を解決できます。
Portia: 検証可能なデータエンジニアリングのためのオープンソースエージェントハーネス
Portiaは、AIモデルが生レコードにアクセスすることなく、データの分析、SQLの生成、結果の検証を行う新しいオープンソースツールです。
Infino unifies agent data retrieval on Parquet to cut stack complexity
OpenSearch veterans launch Infino, an open source retrieval layer that lets AI agents query a single Parquet copy of data, replacing fragmented search and vector stacks.
AIエージェントがデリバリーアプリを迂回し、プラットフォームの広告収益を脅かす
BitesなどのスタートアップはLLMを活用してレストランへ直接注文を送信し、仲介業者を排除することで、DoorDashやUber Eatsの発見型ビジネスモデルに挑戦しています。
Cloudflareのマルチエージェントセキュリティハーネス、アラート疲れを軽減
Cloudflareは単一のAIエージェントを、セキュリティアラート処理に特化したマルチエージェントシステムに置き換えました。これによりハルシネーション（誤情報生成）が減少し、根拠となる証拠の正確性が向上しました。
Puppet Master、複数のAIコーディングエージェントを単一のダッシュボードで統合
Puppet Master v0.10.0は、中央デーモンを通じてClaude Code、Codex、Geminiの同時セッションを管理し、ライブターミナルアクセスと安全な認証情報処理を提供します。
AIエージェントがウェブサイトのブロックに直面、旧来のボット対策と新時代の自動化が衝突
Metaの「Muse」などのパーソナルAIエージェントは、大手小売業者や航空会社によってブロックされており、業界リーダーたちはエージェント間取引のための新たなオープン標準を開発しています。
Rashomon、Claude Codeエージェントの行動を検証し隠れた失敗を検出
オープンソースツール「Rashomon」は、Claude Code内のすべてのコマンドとサブエージェントのアクションを独立して記録し、エージェントが成功を主張しているにもかかわらず根本的なエラーが発生している場合の不一致をフラグ付けします。
Google Research、自律型AIエージェントのセキュリティに「コンテキスト的完全性」を提唱
Google Researchによる新たなレポートは、プライバシーとセキュリティを確保するためにはAIエージェントが社会的規範と文脈を理解する必要があると主張し、従来の許可モデルを超えたアプローチを提案しています。
Pi、Codemodeサンドボックスでツールを隠蔽しMCPトークンの肥大化を削減
Pi 1.0はMCPサーバーを統合しましたが、ツール定義をプロンプトから除外し、JavaScriptサンドボックスを使用して必要な時だけツールの検出と実行を行います。
Apple、AIエージェント向けにmacOSの「フルディスクアクセス」制御を強化
Appleは、MetaおよびOpenAIアプリで最近発生したセキュリティ脆弱性を踏まえ、自律型AIエージェントによるプライバシーリスクを軽減するため、macOSの「フルディスクアクセス」に対するより厳格な制御を計画しています。
Schema-guard、AIエージェントによる無効なSQLの書き込みを防止
新しいオープンソースツールはスキーマスナップショットを使用し、AI生成のSQLが実行される前に幻覚（ハルシネーション）による存在しないテーブル名やカラム名を検出します。これにより、ベンチマークにおける誤ったブロックを排除します。
