Từng thô sơ và đắt tiền, deepfakes hiện là mối đe dọa an ninh mạng đang gia tăng nhanh chóng.
Một công ty có trụ sở tại Vương quốc Anh đã mất 243.000 đô la do một deepfake sao chép giọng nói của CEO một cách chính xác đến mức người ở đầu dây bên kia đã ủy quyền cho một giao dịch chuyển khoản ngân hàng gian lận. Một cuộc tấn công tương tự “deep voice” bắt chước chính xác giọng nói khác biệt của giám đốc công ty đã khiến một công ty khác thiệt hại 35 triệu đô la.
Thậm chí có thể đáng sợ hơn, CCO của công ty tiền điện tử Binance đã báo cáo rằng một “nhóm hack tinh vi” đã sử dụng video từ những lần xuất hiện trên TV trước đây của anh ấy để tạo ra một hình ba chiều AI đáng tin cậy lừa mọi người tham gia các cuộc họp. “Ngoài 15 pound cân nặng mà tôi đã tăng trong thời gian COVID đã không được thể hiện, deepfake này đủ tinh vi để đánh lừa một số thành viên cộng đồng tiền điện tử rất thông minh,” anh ấy viết.
Rẻ hơn, lén lút hơn và nguy hiểm hơn
Đừng để bị lừa khi xem nhẹ deepfakes. Nhóm Cyber Threat Intelligence (ACTI) của Accenture lưu ý rằng mặc dù các vụ tấn deepfakes gần đây có thể thô thiển đến nực cười, nhưng xu hướng của công nghệ này là hướng tới sự tinh vi hơn với chi phí thấp hơn.
Trên thực tế, nhóm ACTI tin rằng các hoạt động giả mạo sâu (deepfakes) chất lượng cao đang tìm cách bắt chước các cá nhân cụ thể trong các tổ chức đã phổ biến hơn so với báo cáo. Trong một ví dụ gần đây, việc sử dụng các công nghệ deepfake từ một công ty hợp pháp đã được sử dụng để tạo ra các nguồn tin tức lừa đảo nhằm truyền bá thông tin sai lệch của Trung Quốc cho thấy rằng hành vi sử dụng độc hại đã có ở đây, đã tác động đến các thực thể.
Một sự tiến hóa tự nhiên
Nhóm ACTI tin rằng các cuộc tấn công deepfake là sự tiếp nối hợp lý của kỹ thuật xã hội. Trên thực tế, chúng nên được xem xét cùng nhau, bởi vì tiềm năng độc hại chính của deepfakes là tích hợp vào các mánh khóe kỹ thuật xã hội khác. Điều này có thể khiến nạn nhân gặp khó khăn hơn trong việc loại bỏ bối cảnh mối đe dọa vốn đã phức tạp.
ACTI đã theo dõi những thay đổi tiến hóa quan trọng trong deepfakes trong hai năm qua. Ví dụ: từ ngày 1 tháng 1 đến ngày 31 tháng 12 năm 2021, cuộc trò chuyện ngầm liên quan đến việc mua bán hàng hóa và dịch vụ được làm giả sâu tập trung chủ yếu vào hành vi gian lận phổ biến, gian lận tiền điện tử (chẳng hạn như kế hoạch bơm và xả) hoặc giành quyền truy cập vào tài khoản tiền điện tử.
Một thị trường sôi động cho gian lận deepfake
Nguồn: Phân tích của tác giả về các bài đăng của các diễn viên tìm cách mua hoặc bán dịch vụ deepfake trên mười diễn đàn ngầm, bao gồm Exploit, XSS, Raidforums, BreachForum, Omerta, Club2crd, Verified, v.v.
Tuy nhiên, xu hướng từ ngày 1 tháng 1 đến ngày 25 tháng 11 năm 2022 cho thấy một sự khác biệt, và được cho là nguy hiểm hơn, tập trung vào việc sử dụng deepfakes để giành quyền truy cập vào mạng công ty. Trên thực tế, các cuộc thảo luận diễn đàn ngầm về phương thức tấn công này đã tăng hơn gấp đôi (từ 5% lên 11%), với mục đích sử dụng deepfakes để vượt qua các biện pháp bảo mật tăng gấp năm lần (từ 3% lên 15%).
Điều này cho thấy deepfakes đang thay đổi từ các kế hoạch tiền điện tử thô sơ sang các cách tinh vi để có quyền truy cập vào mạng công ty — bỏ qua các biện pháp bảo mật và tăng tốc hoặc tăng cường các kỹ thuật hiện có được vô số tác nhân đe dọa sử dụng.
Nhóm ACTI tin rằng bản chất thay đổi và việc sử dụng deepfakes một phần được thúc đẩy bởi những cải tiến trong công nghệ, chẳng hạn như AI. Phần cứng, phần mềm và dữ liệu cần thiết để tạo ra các tác phẩm sâu thuyết phục đang trở nên phổ biến hơn, dễ sử dụng hơn và rẻ hơn, với một số dịch vụ chuyên nghiệp hiện tính phí dưới 40 đô la một tháng để cấp phép cho nền tảng của họ.
Xu hướng deepfake mới nổi
Sự gia tăng của deepfakes được khuếch đại bởi ba xu hướng liền kề. Đầu tiên, tội phạm mạng ngầm đã trở nên chuyên nghiệp hóa cao độ, với các chuyên gia cung cấp các công cụ, phương pháp, dịch vụ và cách khai thác chất lượng cao. Nhóm ACTI tin rằng điều này có thể có nghĩa là các tác nhân đe dọa tội phạm mạng lành nghề sẽ tìm cách tận dụng bằng cách cung cấp phạm vi và phạm vi ngày càng tăng của các dịch vụ deepfake ngầm.
Thứ hai, do các kỹ thuật tống tiền kép được sử dụng bởi nhiều nhóm ransomware, có vô số dữ liệu nhạy cảm bị đánh cắp có sẵn trên các diễn đàn ngầm. Điều này cho phép bọn tội phạm deepfake thực hiện công việc của chúng chính xác hơn, đáng tin cậy hơn và khó bị phát hiện hơn. Dữ liệu nhạy cảm này của công ty ngày càng được lập chỉ mục, giúp dễ dàng tìm kiếm và sử dụng hơn.
Thứ ba, các nhóm tội phạm mạng dark web giờ đây cũng có ngân sách lớn hơn. Nhóm ACTI thường xuyên thấy các tác nhân đe dọa mạng có ngân sách R&D và tiếp cận từ 100.000 đô la đến 1 triệu đô la và cao nhất là 10 triệu đô la. Điều này cho phép họ thử nghiệm và đầu tư vào các dịch vụ và công cụ có thể tăng cường khả năng kỹ thuật xã hội của họ, bao gồm các phiên cookie hoạt động, deepfakes có độ trung thực cao và các dịch vụ AI chuyên dụng như deepfakes bằng giọng nói.
Để giảm thiểu nguy cơ deepfake và các hành vi lừa đảo trực tuyến khác, hãy làm theo phương pháp SIFT được nêu chi tiết trong cảnh báo tháng 3 năm 2021 của FBI. SIFT là viết tắt của Dừng, Điều tra nguồn, Tìm phạm vi bảo hiểm đáng tin cậy và Theo dõi nội dung gốc. Điều này có thể bao gồm việc nghiên cứu vấn đề để tránh phản ứng cảm xúc vội vàng, chống lại sự thôi thúc đăng lại tài liệu đáng ngờ và theo dõi các dấu hiệu nhận biết về deepfakes.
Nó cũng có thể giúp xem xét động cơ và độ tin cậy của những người đăng thông tin. Nếu một cuộc gọi hoặc email được cho là từ sếp hoặc bạn bè có vẻ lạ, đừng trả lời. Gọi trực tiếp cho người đó để xác minh. Như mọi khi, hãy kiểm tra các địa chỉ email “từ” để phát hiện giả mạo và tìm kiếm nhiều nguồn thông tin độc lập và đáng tin cậy. Ngoài ra, các công cụ trực tuyến có thể giúp bạn xác định liệu hình ảnh có đang được sử dụng lại cho mục đích xấu hay liệu một số hình ảnh hợp pháp có đang được sử dụng để tạo ra hàng giả hay không.
Nhóm ACTI cũng đề xuất kết hợp đào tạo về deepfake và lừa đảo — lý tưởng nhất là cho tất cả nhân viên — và phát triển các quy trình vận hành tiêu chuẩn để nhân viên tuân theo nếu họ nghi ngờ một tin nhắn bên trong hoặc bên ngoài là một deepfake và giám sát internet để phát hiện các deepfake có hại tiềm ẩn (thông qua tìm kiếm và cảnh báo tự động ).
Nó cũng có thể giúp lập kế hoạch truyền thông khủng hoảng trước khi trở thành nạn nhân. Điều này có thể bao gồm các phản hồi soạn thảo trước cho thông cáo báo chí, nhà cung cấp, cơ quan chức năng và khách hàng và cung cấp liên kết đến thông tin xác thực.
Trận chiến leo thang
Hiện tại, chúng ta đang chứng kiến một cuộc chiến thầm lặng giữa các công cụ phát hiện deepfake tự động và công nghệ deepfake mới nổi. Điều trớ trêu là công nghệ được sử dụng để tự động phát hiện deepfake có thể sẽ được sử dụng để cải thiện thế hệ deepfake tiếp theo. Để luôn dẫn đầu, các tổ chức nên cân nhắc việc tránh bị cám dỗ chuyển an ninh sang trạng thái 'suy nghĩ lại'. Các biện pháp bảo mật vội vàng hoặc không hiểu cách lạm dụng công nghệ deepfake có thể dẫn đến vi phạm và dẫn đến tổn thất tài chính, danh tiếng bị tổn hại và hành động pháp lý.
Tóm lại, các tổ chức nên tập trung nhiều vào việc chống lại mối đe dọa mới này và đào tạo nhân viên cảnh giác.
Viết bởi Thomas Willkan là nhà phân tích tình báo về mối đe dọa mạng tại Accenture.
Nguồn: Venture Beat
Một công ty có trụ sở tại Vương quốc Anh đã mất 243.000 đô la do một deepfake sao chép giọng nói của CEO một cách chính xác đến mức người ở đầu dây bên kia đã ủy quyền cho một giao dịch chuyển khoản ngân hàng gian lận. Một cuộc tấn công tương tự “deep voice” bắt chước chính xác giọng nói khác biệt của giám đốc công ty đã khiến một công ty khác thiệt hại 35 triệu đô la.
Thậm chí có thể đáng sợ hơn, CCO của công ty tiền điện tử Binance đã báo cáo rằng một “nhóm hack tinh vi” đã sử dụng video từ những lần xuất hiện trên TV trước đây của anh ấy để tạo ra một hình ba chiều AI đáng tin cậy lừa mọi người tham gia các cuộc họp. “Ngoài 15 pound cân nặng mà tôi đã tăng trong thời gian COVID đã không được thể hiện, deepfake này đủ tinh vi để đánh lừa một số thành viên cộng đồng tiền điện tử rất thông minh,” anh ấy viết.
Rẻ hơn, lén lút hơn và nguy hiểm hơn
Đừng để bị lừa khi xem nhẹ deepfakes. Nhóm Cyber Threat Intelligence (ACTI) của Accenture lưu ý rằng mặc dù các vụ tấn deepfakes gần đây có thể thô thiển đến nực cười, nhưng xu hướng của công nghệ này là hướng tới sự tinh vi hơn với chi phí thấp hơn.
Trên thực tế, nhóm ACTI tin rằng các hoạt động giả mạo sâu (deepfakes) chất lượng cao đang tìm cách bắt chước các cá nhân cụ thể trong các tổ chức đã phổ biến hơn so với báo cáo. Trong một ví dụ gần đây, việc sử dụng các công nghệ deepfake từ một công ty hợp pháp đã được sử dụng để tạo ra các nguồn tin tức lừa đảo nhằm truyền bá thông tin sai lệch của Trung Quốc cho thấy rằng hành vi sử dụng độc hại đã có ở đây, đã tác động đến các thực thể.
Một sự tiến hóa tự nhiên
Nhóm ACTI tin rằng các cuộc tấn công deepfake là sự tiếp nối hợp lý của kỹ thuật xã hội. Trên thực tế, chúng nên được xem xét cùng nhau, bởi vì tiềm năng độc hại chính của deepfakes là tích hợp vào các mánh khóe kỹ thuật xã hội khác. Điều này có thể khiến nạn nhân gặp khó khăn hơn trong việc loại bỏ bối cảnh mối đe dọa vốn đã phức tạp.
ACTI đã theo dõi những thay đổi tiến hóa quan trọng trong deepfakes trong hai năm qua. Ví dụ: từ ngày 1 tháng 1 đến ngày 31 tháng 12 năm 2021, cuộc trò chuyện ngầm liên quan đến việc mua bán hàng hóa và dịch vụ được làm giả sâu tập trung chủ yếu vào hành vi gian lận phổ biến, gian lận tiền điện tử (chẳng hạn như kế hoạch bơm và xả) hoặc giành quyền truy cập vào tài khoản tiền điện tử.
Một thị trường sôi động cho gian lận deepfake
Nguồn: Phân tích của tác giả về các bài đăng của các diễn viên tìm cách mua hoặc bán dịch vụ deepfake trên mười diễn đàn ngầm, bao gồm Exploit, XSS, Raidforums, BreachForum, Omerta, Club2crd, Verified, v.v.
Tuy nhiên, xu hướng từ ngày 1 tháng 1 đến ngày 25 tháng 11 năm 2022 cho thấy một sự khác biệt, và được cho là nguy hiểm hơn, tập trung vào việc sử dụng deepfakes để giành quyền truy cập vào mạng công ty. Trên thực tế, các cuộc thảo luận diễn đàn ngầm về phương thức tấn công này đã tăng hơn gấp đôi (từ 5% lên 11%), với mục đích sử dụng deepfakes để vượt qua các biện pháp bảo mật tăng gấp năm lần (từ 3% lên 15%).
Điều này cho thấy deepfakes đang thay đổi từ các kế hoạch tiền điện tử thô sơ sang các cách tinh vi để có quyền truy cập vào mạng công ty — bỏ qua các biện pháp bảo mật và tăng tốc hoặc tăng cường các kỹ thuật hiện có được vô số tác nhân đe dọa sử dụng.
Nhóm ACTI tin rằng bản chất thay đổi và việc sử dụng deepfakes một phần được thúc đẩy bởi những cải tiến trong công nghệ, chẳng hạn như AI. Phần cứng, phần mềm và dữ liệu cần thiết để tạo ra các tác phẩm sâu thuyết phục đang trở nên phổ biến hơn, dễ sử dụng hơn và rẻ hơn, với một số dịch vụ chuyên nghiệp hiện tính phí dưới 40 đô la một tháng để cấp phép cho nền tảng của họ.
Xu hướng deepfake mới nổi
Sự gia tăng của deepfakes được khuếch đại bởi ba xu hướng liền kề. Đầu tiên, tội phạm mạng ngầm đã trở nên chuyên nghiệp hóa cao độ, với các chuyên gia cung cấp các công cụ, phương pháp, dịch vụ và cách khai thác chất lượng cao. Nhóm ACTI tin rằng điều này có thể có nghĩa là các tác nhân đe dọa tội phạm mạng lành nghề sẽ tìm cách tận dụng bằng cách cung cấp phạm vi và phạm vi ngày càng tăng của các dịch vụ deepfake ngầm.
Thứ hai, do các kỹ thuật tống tiền kép được sử dụng bởi nhiều nhóm ransomware, có vô số dữ liệu nhạy cảm bị đánh cắp có sẵn trên các diễn đàn ngầm. Điều này cho phép bọn tội phạm deepfake thực hiện công việc của chúng chính xác hơn, đáng tin cậy hơn và khó bị phát hiện hơn. Dữ liệu nhạy cảm này của công ty ngày càng được lập chỉ mục, giúp dễ dàng tìm kiếm và sử dụng hơn.
Thứ ba, các nhóm tội phạm mạng dark web giờ đây cũng có ngân sách lớn hơn. Nhóm ACTI thường xuyên thấy các tác nhân đe dọa mạng có ngân sách R&D và tiếp cận từ 100.000 đô la đến 1 triệu đô la và cao nhất là 10 triệu đô la. Điều này cho phép họ thử nghiệm và đầu tư vào các dịch vụ và công cụ có thể tăng cường khả năng kỹ thuật xã hội của họ, bao gồm các phiên cookie hoạt động, deepfakes có độ trung thực cao và các dịch vụ AI chuyên dụng như deepfakes bằng giọng nói.
Để giảm thiểu nguy cơ deepfake và các hành vi lừa đảo trực tuyến khác, hãy làm theo phương pháp SIFT được nêu chi tiết trong cảnh báo tháng 3 năm 2021 của FBI. SIFT là viết tắt của Dừng, Điều tra nguồn, Tìm phạm vi bảo hiểm đáng tin cậy và Theo dõi nội dung gốc. Điều này có thể bao gồm việc nghiên cứu vấn đề để tránh phản ứng cảm xúc vội vàng, chống lại sự thôi thúc đăng lại tài liệu đáng ngờ và theo dõi các dấu hiệu nhận biết về deepfakes.
Nó cũng có thể giúp xem xét động cơ và độ tin cậy của những người đăng thông tin. Nếu một cuộc gọi hoặc email được cho là từ sếp hoặc bạn bè có vẻ lạ, đừng trả lời. Gọi trực tiếp cho người đó để xác minh. Như mọi khi, hãy kiểm tra các địa chỉ email “từ” để phát hiện giả mạo và tìm kiếm nhiều nguồn thông tin độc lập và đáng tin cậy. Ngoài ra, các công cụ trực tuyến có thể giúp bạn xác định liệu hình ảnh có đang được sử dụng lại cho mục đích xấu hay liệu một số hình ảnh hợp pháp có đang được sử dụng để tạo ra hàng giả hay không.
Nhóm ACTI cũng đề xuất kết hợp đào tạo về deepfake và lừa đảo — lý tưởng nhất là cho tất cả nhân viên — và phát triển các quy trình vận hành tiêu chuẩn để nhân viên tuân theo nếu họ nghi ngờ một tin nhắn bên trong hoặc bên ngoài là một deepfake và giám sát internet để phát hiện các deepfake có hại tiềm ẩn (thông qua tìm kiếm và cảnh báo tự động ).
Nó cũng có thể giúp lập kế hoạch truyền thông khủng hoảng trước khi trở thành nạn nhân. Điều này có thể bao gồm các phản hồi soạn thảo trước cho thông cáo báo chí, nhà cung cấp, cơ quan chức năng và khách hàng và cung cấp liên kết đến thông tin xác thực.
Trận chiến leo thang
Hiện tại, chúng ta đang chứng kiến một cuộc chiến thầm lặng giữa các công cụ phát hiện deepfake tự động và công nghệ deepfake mới nổi. Điều trớ trêu là công nghệ được sử dụng để tự động phát hiện deepfake có thể sẽ được sử dụng để cải thiện thế hệ deepfake tiếp theo. Để luôn dẫn đầu, các tổ chức nên cân nhắc việc tránh bị cám dỗ chuyển an ninh sang trạng thái 'suy nghĩ lại'. Các biện pháp bảo mật vội vàng hoặc không hiểu cách lạm dụng công nghệ deepfake có thể dẫn đến vi phạm và dẫn đến tổn thất tài chính, danh tiếng bị tổn hại và hành động pháp lý.
Tóm lại, các tổ chức nên tập trung nhiều vào việc chống lại mối đe dọa mới này và đào tạo nhân viên cảnh giác.
Viết bởi Thomas Willkan là nhà phân tích tình báo về mối đe dọa mạng tại Accenture.
Nguồn: Venture Beat
