Apate triển khai các tác nhân AI để dụ lừa đảo và thu thập thông tin tình báo về gian lận

Apate.ai, một startup Australia được thành lập vào năm 2024, đang triển khai hàng nghìn tác nhân trí tuệ nhân tạo (AI) để chủ động tương tác với những kẻ lừa đảo. Thay vì chỉ dùng AI để nâng cao hiệu quả nội bộ, công ty này gửi các "mồi nhử" kỹ thuật số dưới dạng ẩn danh để trả lời các cuộc gọi lừa đảo, phản hồi các nỗ lực phishing và tham gia vào các nhóm trực tuyến độc hại. Sáng kiến này nhằm phá vỡ hoạt động tội phạm bằng cách làm lãng phí thời gian của những kẻ lừa đảo và thu thập thông tin tình báo trước khi con người trở thành nạn nhân.

Chuyện gì đã xảy ra

Ý tưởng này bắt nguồn từ trải nghiệm cá nhân của Dali Kaafar, nhà sáng lập và CEO của Apate. Trong một buổi dã ngoại cùng gia đình, Kaafar nhận được một cuộc gọi lừa đảo và quyết định giả vờ hợp tác, giữ chân kẻ lừa đảo trên đường dây suốt 44 phút. Ông nhận ra rằng khoảng thời gian đó là thời gian mà kẻ lừa đảo không thể dành để nhắm mục tiêu vào các nạn nhân thực sự. Nhận thức này dẫn đến nghiên cứu tại Đại học Macquarie ở Sydney, nơi Kaafar và các đồng nghiệp khám phá việc sử dụng máy học và xử lý ngôn ngữ tự nhiên để phân tích nội dung lừa đảo và cải thiện các phương pháp phát hiện. Công nghệ kết quả đã phát triển thành Apate, hiện hoạt động như một thực thể thương mại.

Các tác nhân của Apate đóng vai trò là những nạn nhân tiềm năng với nhân khẩu học đa dạng, bao gồm nhiều độ tuổi, giới tính, giọng điệu và ngôn ngữ khác nhau. Họ tương tác với những kẻ lừa đảo qua nhiều kênh, bao gồm cuộc gọi thoại, email, tin nhắn văn bản và các nền tảng mạng xã hội. Mục tiêu chính là kép: tiêu tốn tài nguyên của những kẻ lừa đảo và trích xuất các chi tiết cụ thể về hoạt động của chúng. Theo công ty, đội ngũ tác nhân của họ đã tham gia vào 2,5 triệu cuộc hội thoại, hiệu quả làm lãng phí tổng cộng 17 năm thời gian của những kẻ lừa đảo. Quan trọng hơn, các tác nhân thu thập thông tin như số tài khoản ngân hàng, địa chỉ ví tiền điện tử, số điện thoại và URL độc hại, những thứ thường chỉ được phát hiện sau khi vụ lừa đảo thành công.

Startup này gần đây đã huy động được 8,15 triệu USD trong vòng hạt giống (seed funding) vào tháng Tám từ các nhà đầu tư bao gồm Lobby Capital, OIF Ventures, Investible, Concept Ventures và Baobab Ventures. Với tổng vốn huy động gần 10 triệu USD, đội ngũ 20 người dự kiến mở rộng ra quốc tế, với các văn phòng dự kiến đặt tại London và tăng cường hiện diện tại Hoa Kỳ. Apate cũng là một ứng viên chung kết trong Startup Battlefield 200 tại TechCrunch Disrupt, nơi họ đang thuyết trình trước các giám khảo đầu tư mạo hiểm tại San Francisco.

Cách thức hoạt động

Apate kết hợp các mô hình ngôn ngữ lớn tiên tiến (frontier large language models) với các mô hình tinh chỉnh riêng để vận hành đội ngũ tác nhân. Hệ thống được huấn luyện trên dữ liệu rút ra từ các cuộc hội thoại mà tác nhân của nó có với những kẻ lừa đảo, cũng như từ nghiên cứu nền tảng tại Đại học Macquarie. Cách tiếp cận lai này cho phép các tác nhân duy trì hồ sơ nhân vật thực tế và thích ứng động với các chiến thuật lừa đảo khác nhau. Các tác nhân được thiết kế để kiên trì, giữ chân những kẻ lừa đảo đủ lâu để lộ ra các chi tiết hoạt động.

Khách hàng, bao gồm các ngân hàng, công ty viễn thông, cơ quan chính phủ và đơn vị tiện ích, truy cập vào một cổng thông tin phân tích cung cấp dữ liệu về các vụ lừa đảo nhắm vào cơ sở người dùng hoặc thương hiệu cụ thể của họ. Các tổ chức có thể giao nhiệm vụ cụ thể cho các tác nhân, chẳng hạn như thâm nhập vào các nhóm đầu tư trên mạng xã hội để khám phá các địa chỉ ví tiền điện tử được sử dụng trong các kế hoạch lừa đảo. Các tác nhân dựa trên văn bản chủ động tìm kiếm diễn đàn và nền tảng xã hội cho các hoạt động đáng ngờ, sau đó tham gia vào các cuộc hội thoại bằng danh tính hư cấu để nổi lên thêm thông tin tình báo. Mô hình chủ động này trái ngược với các biện pháp phản ứng truyền thống như chặn số điện thoại hoặc giám sát giao dịch sau khi tiền đã bị đánh cắp.

Chi tiết chính

• Apate được thành lập vào năm 2024 dựa trên nghiên cứu từ Đại học Macquarie ở Sydney.
• Nền tảng đã thực hiện 2,5 triệu cuộc hội thoại, ước tính làm lãng phí 17 năm thời gian của những kẻ lừa đảo.
• Khách hàng bao gồm Commonwealth Bank of Australia và TPG Telecom, với Commonwealth báo cáo mức giảm 76% trong các khoản lỗ do lừa đảo được công bố rộng rãi.
• TPG Telecom đã chuyển hướng gần 590.000 cuộc gọi đến các tác nhân của Apate để xử lý các tương tác lừa đảo tiềm năng.
• FBI ghi nhận hơn 22.000 khiếu nại về tội phạm liên quan đến AI trong năm 2025, dẫn đến thiệt hại khoảng 893 triệu USD.
• Apate đã huy động 8,15 triệu USD trong vòng hạt giống vào tháng Tám, đưa tổng số vốn huy động lên gần 10 triệu USD.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và lãnh đạo bảo mật, Apate đại diện cho sự chuyển đổi từ thế phòng thủ sang thu thập thông tin tình báo chủ động. Các hệ thống chống gian lận truyền thống thường phản ứng sau khi vi phạm hoặc tổn thất đã xảy ra, chẳng hạn như chỉ chặn một số điện thoại sau khi nó đã được sử dụng cho hàng nghìn vụ lừa đảo. Bằng cách tương tác trực tiếp với những kẻ lừa đảo, các tổ chức có thể thu được dữ liệu hữu ích—chẳng hạn như tên miền độc hại hoặc địa chỉ ví—trước khi các công cụ này được triển khai chống lại khách hàng thực. Cách tiếp cận chủ động này cho phép cập nhật nhanh hơn các danh sách đen và quy tắc phát hiện gian lận, có khả năng ngăn ngừa tổn thất thay vì chỉ giảm thiểu chúng.

Sự gia tăng của gian lận hỗ trợ bởi AI khiến cách tiếp cận này ngày càng cần thiết. Vào năm 2025, các tội phạm liên quan đến AI đã gây ra thiệt hại tài chính đáng kể, với riêng các vụ lừa đảo đầu tư chiếm hơn 632 triệu USD trong tổng số 893 triệu USD được báo cáo cho FBI. Những kẻ lừa đảo đang sử dụng AI để tự động hóa các cuộc hội thoại và tạo ra deepfake của các nhân vật đáng tin cậy, khiến việc phát hiện trở nên khó khăn hơn đối với con người. Việc Apate sử dụng AI để chống lại gian lận do AI thúc đẩy làm nổi bật một cuộc chạy đua vũ trang mới, nơi các tác nhân tự động phải được triển khai để bắt kịp quy mô và tốc độ của các hoạt động tội phạm mạng hiện đại.

Bạn có thể làm gì

• Đánh giá xem các hệ thống phát hiện gian lận hiện tại của bạn có chỉ dựa vào các biện pháp phản ứng như giao dịch hay không.
• Cân nhắc áp dụng các giải pháp chủ động để thu thập thông tin tình báo về mối đe dọa trước khi chúng tấn công người dùng thực.
• Hợp tác với các nhà cung cấp dịch vụ an ninh mạng có khả năng triển khai các tác nhân AI để tương tác và phân tích hành vi của những kẻ lừa đảo.