Apate、詐欺師を釣り上げるAIエージェントを展開し不正情報を収集

2024年に設立されたオーストラリアのスタートアップApate.aiは、詐欺師と積極的に対峙するために数千体的人工知能（AI）エージェントを展開しています。同社はAIを単なる社内効率化のためではなく、デジタルデコイとして潜入させ、詐欺電話への応答、フィッシング試行への対応、悪意あるオンライングループへの参加などに活用しています。この取り組みは、人間の被害者が害を受ける前に、詐欺師の時間を浪費させて犯罪組織の活動を撹乱し、情報を収集することを目的としています。

何が起きたか

このコンセプトは、Apateの創業者兼CEOであるDali Kaafar氏の個人的な経験から生まれました。家族とのピクニック中にKaafar氏は詐欺電話を受け、あえてそれに付き合うことに決め、44分間も詐欺師を電話口につなぎ止めました。彼は、この時間が詐欺師が実際の被害者を標的にできなかった時間であることを認識しました。この洞察はシドニーのマッコーリー大学での研究につながり、Kaafar氏と同僚たちは機械学習と自然言語処理を用いて詐欺コンテンツを分析し、検出方法を改善する方法を探求しました。その結果生まれた技術がApateへと進化し、現在は商業的な事業体として運営されています。

Apateのエージェントは、年齢、性別、アクセント、言語など多様な属性を持つ潜在的な被害者になりすまします。音声通話、メール、テキストメッセージ、ソーシャルメディアプラットフォームなど、複数のチャネルを通じて詐欺師とやり取りを行います。主な目標は二つあります。一つは詐欺師のリソースを消費させること、もう一つは彼らの運営に関する具体的な詳細を引き出すことです。同社によると、エージェント群はこれまでに250万回の会話を重ね、累計で17年分の詐欺師の時間を有効に浪費させました。さらに重要なのは、エージェントが銀行口座番号、暗号資産ウォレットアドレス、電話番号、悪意あるURLなどの情報を引き出している点です。これらの情報は通常、詐欺が成功した後にしか発見されません。

同スタートアップは8月に、Lobby Capital、OIF Ventures、Investible、Concept Ventures、Baobab Venturesなどの投資家から815万ドルのシード資金調達を行いました。総調達額は約1,000万ドルに達しており、20人のチームはロンドンへのオフィス開設や米国でのプレゼンス強化など、国際的な拡大を計画しています。また、ApateはTechCrunch Disruptの「Startup Battlefield 200」でファイナリストに選ばれ、サンフランシスコでベンチャーキャピタルの審査員に対してピッチを行っています。

仕組み

Apateは、最先端の大規模言語モデル（LLM）と自社でファインチューニングしたモデルを組み合わせて、エージェント群を駆動しています。このシステムは、エージェントが詐欺師と交わした会話データや、マッコーリー大学で行われた基礎研究に基づくデータで訓練されています。このハイブリッドなアプローチにより、エージェントは現実的なペルソナを維持し、異なる詐欺戦術に適応することが可能になります。エージェントは粘り強く設計されており、詐欺師が運営の詳細を明かすまで十分に長い間、関与し続けることができます。

顧客には、銀行、通信会社、政府機関、公共サービスなどが含まれており、彼らは自社のユーザーベースやブランドを狙った詐欺に関する分析を提供するインサイトポータルにアクセスできます。組織は、ソーシャルメディア上の投資グループに潜入して詐欺スキームで使用される暗号資産ウォレットアドレスを発見するなど、エージェントに特定のミッションを割り当てることができます。テキストベースのエージェントは、フォーラムやソーシャルプラットフォームで不審なアクティビティを積極的に検索し、捏造されたアイデンティティを使用して会話に参加することで、さらなる情報を表面化させます。このプロアクティブなモデルは、電話番号のブロックや資金盗難後の取引監視といった従来のリアクティブな対策とは対照的です。

主要な詳細

• Apateは、シドニーのマッコーリー大学での研究に基づき2024年に設立されました。
• プラットフォームは250万回の会話を実施し、推定17年分の詐欺師の時間を浪費させました。
• クライアントにはCommonwealth Bank of AustraliaやTPG Telecomが含まれており、Commonwealth Bankでは公に報告された詐欺損失が76%減少したと報告されています。
• TPG Telecomは、潜在的な詐欺対応のために約59万件の通話をApateのエージェントへ転送しました。
• FBIは2025年にAI関連犯罪について22,000件以上の苦情を記録し、約8億9,300万ドルの損失が発生しました。
• Apateは8月に815万ドルのシード資金を調達し、総調達額は約1,000万ドルとなりました。

なぜ重要なのか

ソフトウェアエンジニアやセキュリティリーダーにとって、Apateは防御的な姿勢から攻撃的な情報収集への転換を表しています。従来のアンチ詐欺システムは、侵害や損失が発生した後に対応することが多く、例えば数千件の詐欺に使用された後にのみ電話番号をブロックするようなケースがあります。詐欺師と直接対峙することで、組織は悪意あるドメインやウォレットアドレスなど、実行可能なデータをリアルな顧客に対してツールが展開される前に入手できます。このプロアクティブなアプローチにより、ブラックリストや詐欺検出ルールの更新が迅速に行われ、損失の軽減だけでなく防止につながる可能性があります。

AIを活用した詐欺の台頭により、このアプローチはますます必要になっています。2025年には、AI関連犯罪による重大な金銭的損失が発生し、FBIに報告された総額8億9,300万ドルのうち、投資詐欺だけで6億3,200万ドル以上を占めました。詐欺師はAIを使用して会話を自動化し、信頼できる人物のディープフェイクを作成しており、人間による検出を困難にしています。ApateがAI駆動型の詐欺に対抗するためにAIを使用することは、最新のサイバー犯罪組織の規模と速度に合わせるために自動化されたエージェントを投入しなければならないという、新たな軍拡競争の高まりを示しています。

あなたができること

• 現在の詐欺検出システムが取引監視や番号ブロックなどのリアクティブな対策のみに依存していないかを評価してください。
• 悪意ある行為者と対峙して早期の侵害指標を収集し、プロアクティブな脅威インテリジェンスを提供するプラットフォームを調査してください。
• セキュリティオペレーションセンター（SOC）に外部の詐欺インテリジェンスフィードを統合し、ブロックリストをほぼリアルタイムで更新することを検討してください。
• 特にカスタマーサポートや投資チャネルにおいて、AI駆動型ソーシャルエンジニアリング攻撃に対する組織の露出度をレビューしてください。
• 敵対的AIや自動欺瞞技術に特化したサイバーセキュリティ分野の新進気鋭のスタートアップを監視してください。
• AIを使用する詐欺師の進化する戦術についてチームを教育し、内部の意識レベルが外部の脅威の洗練度にマッチするようにしてください。