Trí tuệ nhân tạo sẽ là thế hệ lừa đảo tài chính tiếp theo

Nhân bản giọng nói chỉ là một trong những công cụ mới trong kho vũ khí của những kẻ lừa đảo.

Mùa xuân năm ngoái Paddric Fitzgerald nhận được một cú điện thoại ở nơi làm việc. Giọng con gái anh ta hét lên qua điện thoại rằng cô bé đã bị bắt cóc.

Anh nói. “Đó là một trong những ngày cảm xúc đáng sợ nhất trong cuộc đời tôi.”

Từ chối lời khuyên mua súng để giải cứu con gái từ một đồng nghiệp, Fitzgerald, một người quản lý cửa hàng có trụ sở tại miền Tây Hoa Kỳ, chạy đua để rút tiền từ ngân hàng trong khi vẫn nghe điện thoại.

Tuy nhiên, đó là một vụ lừa đảo hết sức tinh vi và phức tạp được tạo ra bằng Trí tuệ nhân tạo (AI).

Câu chuyện của Fitzgerald là một ví dụ đáng sợ về việc AI đã trở thành vũ khí mới mạnh mẽ cho những kẻ lừa đảo, buộc các ngân hàng và fintech phải đầu tư vào công nghệ để theo kịp cuộc chạy đua vũ trang công nghệ cao.

Gian lận tinh vi

Alex West, chuyên gia về gian lận ngân hàng và thanh toán tại Công ty Tư vấn PwC cho biết, việc xác định quy mô sử dụng AI của những kẻ lừa đảo là một nhiệm vụ khó khăn.

“Những kẻ lừa đảo đã rất thành công và có thể là họ không cần sử dụng loại công nghệ này hoặc có thể là họ đang sử dụng AI và chúng tôi không thể phân biệt được khi nào AI được sử dụng…Nhưng rõ ràng AI sẽ thúc đẩy sự gia tăng các nỗ lực lừa đảo tinh vi hơn”, ông cho biết.

Steve Cornwell, người đứng đầu bộ phận rủi ro gian lận tại ngân hàng TSB cho biết, mức độ phức tạp ngày càng tăng của công nghệ là mối lo ngại lớn đối với các ngân hàng.

“Nếu xem xét về cách AI tạo sinh đang phát triển, thì còn bao lâu nữa giải pháp AI đó có thể trò chuyện theo thời gian thực với bạn bằng cách sử dụng giọng nói giả tạo?”, ông cho biết.

Số liệu từ cơ quan thương mại ngành ngân hàng từ UK Finance cho thấy một xu hướng đáng hoan nghênh, với tổn thất do gian lận trong năm 2023 đã giảm 8% so với cùng kỳ năm 2022. Nhưng một chính trị gia cấp cao giấu tên nói rằng, việc tăng cường áp dụng AI có thể đảo ngược xu hướng đó.

Dữ liệu từ Cifas - dịch vụ phòng chống gian lận phi lợi nhuận ở Anh - cũng cho thấy mối lo ngại. Trong khi dữ liệu từ năm 2022 cho thấy gian lận danh tính đã tăng gần 25%, thì báo cáo về các công cụ AI được sử dụng để thử và đánh lừa hệ thống của ngân hàng đã tăng 84%.

Stephen Dalton, Giám đốc tình báo tại Cifas cảnh báo: “Chúng tôi nhận thấy việc sử dụng hình ảnh, video và âm thanh deepfake ngày càng tăng".

Phát biểu tại Davos hôm thứ Tư (17/1), bà Mary Callahan Erdoes, người đứng đầu bộ phận quản lý tài sản của JPMorgan cho biết, việc tội phạm mạng sử dụng AI là một mối lo ngại lớn. Ngân hàng đã chi 15 tỉ USD hàng năm cho công nghệ trong những năm gần đây và tuyển dụng 62.000 kỹ sư công nghệ, trong đó nhiều người chỉ tập trung vào việc chống lại sự gia tăng của tội phạm mạng.

“Những kẻ lừa đảo ngày càng thông minh hơn, khôn ngoan hơn, nhanh nhẹn hơn, ranh ma hơn, tinh quái hơn”, bà cho biết.

PwC và Stop Scams cũng xác định các video được làm giả, hay còn gọi là deepfake, là một rủi ro lớn. Henry Ajder, một chuyên gia về truyền thông do AI tạo ra cho biết, công nghệ mới chỉ xuất hiện vào năm 2019 này đã nhanh chóng phát triển.

Andrew Bud, Giám đốc điều hành và người sáng lập nhà cung cấp xác minh danh tính trực tuyến iProov cho biết, chất lượng của những video giả này đã được cải thiện đáng kể. Ông chỉ ra một nghiên cứu gần đây cho thấy hơn 3/4 số người tham gia không thể xác định được các tác phẩm này là giả.

“Các tác phẩm deepfake chất lượng tốt có giá khoảng 150 USD trên web đen…Chúng hiện đang có cả một chuỗi cung ứng đang phát triển gian lận được hỗ trợ bởi AI, với các bộ phận R&D xây dựng các công cụ tinh vi và kiếm tiền từ chúng trên web đen”, ông cho biết.

Bà Natalie Kelly, Giám đốc rủi ro của công ty VISA chi nhánh châu Âu cảnh báo rằng có một loạt các công cụ AI được tội phạm mạng sử dụng, chẳng hạn như WormGPT, FraudGPT và DarkBART. “Ngày nay thật khó để phân biệt đâu là hàng thật đâu là hàng giả”, bà cho biết.

Bằng cách sử dụng những công cụ có sẵn trên web đen và liên lạc qua các diễn đàn hack và ứng dụng nhắn tin chuyên dụng, tội phạm có thể cung cấp dịch vụ viết phần mềm độc hại hoặc email lừa đảo nâng cao.

Chống lại gian lận AI

Tình hình không hoàn toàn ảm đạm. Mặc dù việc sử dụng AI của những kẻ lừa đảo đang gia tăng, nhưng các tổ chức từ ngân hàng, VISA và Mastercard cho đến các công ty công nghệ chuyên dụng cũng đang áp dụng AI.

“Nếu mắt người không thể biết được nó có phải là thật hay không thì trò chơi vẫn chưa kết thúc…Đó là một trò chơi mèo vờn chuột và chúng tôi đang phát triển giải pháp ngăn chặn", ông Andrew Bud cho biết.

Ông cho biết công nghệ của iProov được thiết kế để giúp chống lại các trò lừa đảo và các hành vi giả mạo khác, đã được các khách hàng bao gồm Dịch vụ kỹ thuật số của Chính phủ Anh và các ngân hàng lớn ở Nam Mỹ sử dụng.

Một công ty khởi nghiệp khác cũng sử dụng AI để chống gian lận là Catch có trụ sở tại Mỹ, nhằm mục đích giúp đỡ những người trưởng thành dễ bị tổn thương bằng cách phát hiện các vụ lừa đảo qua email, giải thích các cảnh báo nguy hiểm và đề xuất các bước tiếp theo.

AI cũng đang được các ngân hàng sử dụng để hỗ trợ đội ngũ nhân viên đánh giá các vi phạm tiềm ẩn đối với các quy định chống rửa tiền.

Gudmundur Kristjansson, người sáng lập và giám đốc điều hành của công ty fintech Lucinity cho biết: “Có rất nhiều công ty nhỏ rất thú vị đang xuất hiện trong lĩnh vực hiểu khách hàng. Chúng tôi đang thực hiện nhiều bước phát triển với AI tạo sinh”.

Một trong những sản phẩm của Lucinity đã lấy dữ liệu và chuyển đổi thành định dạng dễ đọc, tăng tốc quy trình giám sát giao dịch vốn mang tính thủ công cao.

Mất niềm tin

Andrew Bud cho biết: “Đối với tình trạng giả dạng giọng nói, trò chơi dường như đã kết thúc - ngày càng rõ ràng là không có biện pháp bảo vệ nào”, vì lượng dữ liệu nhỏ trong các tệp âm thanh khiến các công ty công nghệ khó phân biệt được đâu là thật đâu là giả.

Ngoài ra tác động đối với nạn nhân của các vụ lừa đảo do AI vượt xa những tổn thất tài chính ban đầu. Fitzgerald nói rằng ông đã thay đổi quan điểm của mình về công nghệ. Ông tránh xa thương mại điện tử và hầu hết các nền tảng truyền thông xã hội, đồng thời cho biết ông cảm thấy thoải mái hơn khi rút tiền tại ngân hàng và chi tiêu hơn là sử dụng thẻ.

Fitzgerald chia sẻ: “Cuộc điện thoại đó khiến tôi nhận ra mình và con mình dễ bị tổn thương như thế nào. Tôi không để điều đó có thể xảy ra một lần nữa”.