Mỹ: Các ứng dụng AI để xóa quần áo trên ảnh ngày càng phổ biến

Công ty phân tích mạng xã hội Graphika cho biết chỉ riêng trong tháng 9, đã có 24 triệu người truy cập các trang web xóa quần áo. Theo Graphika, nhiều dịch vụ "cởi đồ" hoặc "khỏa thân" này sử dụng các mạng xã hội để marketing. Một quảng cáo đưa ra giới thiệu "Cởi quần áo của bất kỳ cô gái nào bạn muốn".

Ảnh khỏa thân được chia sẻ trên mạng mà không có sự đồng ý của chủ nhân không có gì mới. Năm 2018, một hacker đã bị kết án 8 tháng tù vì chia sẻ công khai những bức ảnh khỏa thân thực của nữ diễn viên Jennifer Lawrence và những người nổi tiếng khác trên Internet. Giờ đây, những bức ảnh như vậy có thể được tạo chỉ bằng một vài lần nhấn phím đơn giản. Và sẽ rất khó để biết những hình ảnh đó là thật hay giả.

Ứng dụng xóa quần áo là một phần trong xu hướng đáng lo ngại về việc tạo các nội dung khiêu dâm không được đồng thuận đang ngày càng gia tăng bởi sự phát triển của AI. Công nghệ deepfake (phương thức tạo ra các sản phẩm công nghệ giả dưới nhiều định dạng) đang cho phép tạo ra những hình ảnh có độ chân thực cao hơn so với trước đây. Xu hướng này đặt ra những thách thức nghiêm trọng về pháp lý và đạo đức, vì những hình ảnh này thường được lấy từ mạng xã hội và được phát tán mà một người không hề hay biết, đồng ý hoặc kiểm soát. Mức độ phổ biến của các ứng dụng này đã gia tăng cùng với việc phát hành các mô hình nguồn mở tiên tiến mà các nhà phát triển có thể truy cập miễn phí. "Bạn có thể tạo ra điều gì đó thực sự giống như thật", Santiago Lakatos, nhà phân tích tại Graphika, cho biết.

Một hình ảnh được đăng lên mạng xã hội X quảng cáo một ứng dụng "cởi đồ" gợi ý rằng người dùng có thể tạo hình ảnh khỏa thân của một người và sau đó gửi hình ảnh cho người đó. Trong khi đó, một trong những ứng dụng đã trả tiền cho nội dung quảng cáo trên YouTube (thuộc công ty mẹ Google) và xuất hiện đầu tiên khi tìm kiếm bởi từ "khỏa thân".

Người phát ngôn của Google cho biết công ty không cho phép quảng cáo "chứa nội dung khiêu dâm". "Chúng tôi đã xem xét các quảng cáo được đề cập và đang xóa những quảng cáo vi phạm chính sách của chúng tôi". Người phát ngôn của Reddit cho biết trang nghiêm cấm mọi hành vi chia sẻ những nội dung khiêu dâm giả mạo và không có sự đồng thuận, ngoài ra đã cấm một số tên miền.

Ngoài việc có lưu lượng truy cập ngày càng tăng, các ứng dụng xóa quần áo này còn tuyên bố trên trang web rằng họ đang có lượng khách hàng đáng kể. Một số dịch vụ có giá 9,99 USD mỗi tháng, khẳng định rằng họ đang thu hút một lượng lớn người dùng.

Đáng quan ngại hơn, những ứng dụng này đang được sử dụng để tạo ảnh khỏa thân ở trẻ vị thành niên. Theo Euro News, hơn 20 cô gái ở Almendralejo, một thị trấn thuộc miền nam Tây Ban Nha, đã bị tạo ảnh khỏa thân bằng AI vào tháng 9. Hầu hết các bức ảnh đều được tạo ra bằng cách sử dụng ảnh mặc quần áo đầy đủ lấy từ tài khoản Instagram của các nạn nhân. Sau khi hình ảnh được chỉnh sửa bằng ứng dụng hỗ trợ AI "ClothOff", những bức ảnh khỏa thân được chia sẻ trong các nhóm WhatsApp. Tháng trước, một vụ việc tương tự cũng xảy ra ở New Jersey, liên quan đến việc học sinh tạo hình ảnh khỏa thân của bạn cùng lớp.

Nội dung khiêu dâm không có sự đồng thuận của người nổi tiếng từ lâu đã trở thành một tai họa trên Internet, nhưng các chuyên gia về quyền riêng tư ngày càng lo ngại rằng những tiến bộ trong công nghệ AI đã đơn giản hóa việc sử dụng các phần mềm deepfake và nâng cao khả năng tạo ra nội dung giả thuyết phục hơn.

Galperin cho biết, nhiều nạn nhân không bao giờ biết về những hình ảnh này, nhưng ngay cả những người biết điều đó cũng có thể gặp khó khăn trong việc yêu cầu cơ quan thực thi pháp luật điều tra hoặc tìm nguồn hỗ trợ để theo đuổi hành động pháp lý.

Hiện tại không có luật liên bang nào cấm tạo ra nội dung khiêu dâm bằng deepfake. Tuy nhiên, chính phủ Mỹ có luật hình sự hóa việc tạo ra những loại hình ảnh này liên quan đến trẻ vị thành niên. Vào tháng 11, một bác sĩ tâm thần trẻ em ở Bắc Carolina đã bị kết án 40 năm tù vì sử dụng ứng dụng xóa quần áo trên ảnh của bệnh nhân. Vụ án này đánh dấu vụ truy tố đầu tiên theo luật cấm tạo nội dung deepfake liên quan đến tài liệu lạm dụng tình dục trẻ em.

TikTok đã chặn từ khóa "cởi đồ", một cụm từ tìm kiếm phổ biến được liên kết với các dịch vụ, cảnh báo bất kỳ ai tìm kiếm từ này "có thể liên quan đến hành vi hoặc nội dung vi phạm nguyên tắc". Để phản ứng với vấn đề, Meta (công ty mẹ của Facebook) cũng bắt đầu chặn các từ khóa liên quan đến việc tìm kiếm ứng dụng xóa quần áo.