Google Gemini、個人ファイルを人間のレビュー担当者にルーティング

Googleは、AIアシスタント「Gemini」に関連する2023年の重要なプライバシーコミットメントを静かに撤回しました。同社は現在、消費者向けGeminiアプリに接続されたGmail、Google Docs、Google Driveからの個人コンテンツが、人間のレビューパイプラインにルーティングされる可能性があることを明確に認めています。この変更は、Google Help Answer 16836988の更新と、10月16日に行われた元のローンチブログ記事の編集で記録されています。

何が起きたか

2023年にGoogleがGemini Workspace拡張機能をリリースした際、接続サービスからの個人コンテンツが人間のレビュー担当者に見られることはないという保証がありました。しかし、その保証は削除されました。更新されたドキュメントでは、レビュー担当者に見られたくない機密情報を含むアプリを接続しないようユーザーに警告しており、レビュー担当者がアクセスするのは「単なるメールやファイルである可能性もある」と注記しています。

テストにより、このデータ取り込みがバックグラウンドでの会話中に自律的に発生することが明らかになりました。ユーザーがデータを取得するために明示的に@Driveや@Gmailをタグ付けする必要はありません。代わりに、旅行、請求書、名前、予約などの個人的なトピックへの言及（アンビエントメンション）が、バックグラウンドでのWorkspace検索を引き起こす可能性があります。大規模言語モデル（LLM）のツール呼び出しとコンテキスト注入は確率的であるため、システムは同一のクエリに対して一貫した動作を示しません。

研究者らは、Connected Appsを有効にしてGeminiにクエリを実行した際に発生する4つの異なるシナリオを特定しました。あるケースでは、モデルはゼロのデータを取得し、学習重みまたは会話履歴に依存します。他のケースでは、メタデータや一般的な要約を取得します。より懸念される結果には、機微な個人識別情報（PII）の一部が未マスキングのまま抽出される場合や、ドキュメントやメールの全文がセッションコンテキストに読み込まれる完全なファイル取り込みが含まれます。プロセスが非決定論的であるため、一度安全な応答を観察したとしても、パイプラインが非アクティブであることを証明することにはなりません。

仕組み

取り込みパイプラインは、明示的なユーザーコマンドではなく、意味的な関連性によってトリガーされる確率的なツール呼び出しに依存しています。ユーザーがDriveやGmailに含まれる件名（旅程やアカウント更新など）に言及すると、Geminiは自律的に接続アプリを検索する場合があります。モデルがConnected Appsツールを使用することを決定した場合、データを取得し、プロンプトコンテキストに注入します。

この動作を検証するために、テスターはGeminiに対し、検索ツールによって返された正確なテキストとメタデータブロックを表示するよう依頼できます。会話履歴を削除してテストを繰り返すことで、ユーザーはデータ露出の程度の変化を観察できます。例えば、インターネット請求書に関するカジュアルなクエリを用いたテストでは、一般的なアドバイスから、ヘッダー、アカウント番号、確認コードを含むメールの全文ダンプに至るまで、さまざまな結果が生じました。

Googleは正規表現と名前エンティティ認識（NER）を使用してデータを匿名化するための自動スクラバーを採用しています。しかし、これらのツールはナラティブデータ（物語形式のデータ）を十分に保護できません。名前、都市、特定のイベントの組み合わせのような複雑な識別子や、文章中に埋め込まれたアカウント番号のような構造化データは、これらのフィルターを回避することがよくあります。その結果、カジュアルな会話中に確率的に取り込まれた完全なファイルは、人間の契約によるレビューの対象となります。

主要な詳細

• GoogleはGoogle Help Answer 16836988と10月16日のブログ記事編集により、プライバシー方針を更新しました。
• Gmail、Docs、Driveからの個人コンテンツは、現在人間のレビュー担当者に見える可能性があります。
• データ取り込みは、明示的な@Driveや@Gmailタグなしで自律的に発生します。
• 検索プロセスは確率的であり、ゼロ検索から完全なファイル取り込みまでの4つの可能な状態を生み出します。
• 自動スクラバーは、ナラティブデータと複合的なPIIを十分に匿名化することに失敗します。
• ユーザーには、機密情報を含むアプリを消費者向けGeminiに接続しないよう助言されています。

なぜ重要なのか

ソフトウェアエンジニアや技術リードにとって、この変化はAI統合ワークフローにおける自動化されたプライバシーという前提を覆すものです。多くの組織は、AIアシスタントが人間の監督なしにアルゴリズムでデータを処理するという前提に頼っています。消費者グレードのAIツールへのループに人間のレビューを導入することは、接続アプリを通じて共有される機密性の高いビジネスロジック、顧客データ、内部ドキュメントが、設計上プライベートではなくなることを意味します。

この変更はまた、現在の自動マスキング技術の限界も浮き彫りにしています。複雑で非構造化のナラティブデータを扱う際に、プライバシーコンプライアンスのために正規表現とNERに頼るのは不十分です。LLMと統合する製品を開発するエンジニアは、消費者ツールの「プライベート」モードでも、人間の関与による品質保証や安全レビューが含まれ、専有情報や個人情報が第三者に公開される可能性があることを認識する必要があります。

できること

• 機密データを扱う場合は、Geminiの設定を監査し、Connected Appsを無効にしてください。

• カジュアルなチャットで、請求書、予約、アカウント詳細などの機微なトピックに言及しないでください。

• AIによって取得されたデータは、人間のレビュー担当者に見られる可能性があると考えてください。

• 複雑なPIIやナラティブコンテキストを保護するために、自動スクラバーに頼らないでください。

• モデルに取得されたメタデータブロックを表示させることで、自身のインスタンスをテストしてください。

• 厳格なデータ分離保証を持つセルフホスト型またはエンタープライズグレードのソリューションを、機密性の高い業務に使用してください。