Microsoft cáo buộc nhóm tin tặc đứng sau mạng lưới Deepfake AI

Các tin tặc này là thành viên chủ chốt của một băng nhóm tội phạm mạng toàn cầu Storm-2139. Microsoft xác định nhóm tội phạm mạng Storm-2139 đã lợi dụng thông tin đăng nhập của khách hàng bị lộ từ các nguồn công khai để truy cập trái phép vào tài khoản trên một số dịch vụ AI tạo sinh. Nhóm này đã can thiệp vào các chức năng của dịch vụ, sau đó bán lại quyền truy cập cho kẻ tấn công khác. Đồng thời, chúng cung cấp hướng dẫn chi tiết về cách tạo ra nội dung nguy hiểm và bất hợp pháp, bao gồm hình ảnh nhạy cảm không có sự đồng thuận của người nổi tiếng và các nội dung khiêu dâm khác.

Cuộc điều tra của Microsoft cho thấy, Storm-2139 hoạt động theo ba nhóm chính: người sáng tạo, nhà cung cấp và người sử dụng: Nhóm sáng tạo phát triển các công cụ hỗ trợ việc lạm dụng dịch vụ AI tạo sinh; Nhóm cung cấp điều chỉnh và phân phối các công cụ bất hợp pháp này; Nhóm người dùng sử dụng các công cụ để tạo nội dung vi phạm chính sách của Microsoft, đặc biệt tập trung vào hình ảnh khiêu dâm và người nổi tiếng.

Microsoft đã đệ trình đơn kiện lên tòa án lên Tòa án Quận Đông Virginia vào tháng 12/2024 nhằm thu thập thêm thông tin về hoạt động của nhóm tội phạm mạng này.

Sau khi đơn kiện được nộp, tòa án đã ban hành lệnh hạn chế tạm thời và lệnh cấm sơ bộ, cho phép Microsoft vô hiệu hóa hoạt động của Storm-2139 bằng cách thu giữ một trang web quan trọng trong hạ tầng của nhóm, khiến các thành viên Storm-2139 nghi ngờ lẫn nhau và đặt câu hỏi về danh tính những người bị kiện giấu tên. Nhóm pháp lý của Microsoft cũng nhận được nhiều email từ các thành viên tình nghi, trong đó có những người đổ lỗi cho nhau về các hoạt động độc hại.

Microsoft cũng xác định 2 cá nhân liên quan ở Mỹ tại Illinois và Florida, nhưng chưa công bố danh tính để tránh ảnh hưởng đến cuộc điều tra hình sự. Công ty đang chuẩn bị chuyển hồ sơ cho cơ quan thực thi pháp luật tại Mỹ và các quốc gia khác.