Ứng dụng AI tạo video khiêu dâm từng xuất hiện trên App Store
(Dân trí) - Nhiều ứng dụng AI cho phép tạo ra các đoạn video khiêu dâm từ hình ảnh của bất kỳ ai đã bất ngờ xuất hiện trên kho ứng dụng App Store dành cho iPhone.
Apple nổi tiếng với quá trình kiểm duyệt gắt gao các ứng dụng trước khi cho phép xuất hiện trên App Store dành cho iPhone, điều này giúp ngăn chặn được những ứng dụng vi phạm về chính sách cũng như các ứng dụng có chứa mã độc.
Nữ ca sĩ Taylor Swift đã từng trở thành nạn nhân của AI khi gương mặt của cô bị ghép vào các đoạn video khiêu dâm giả mạo (Ảnh minh họa: Getty).
Tuy nhiên, tờ báo The Independent đã phát hiện hàng loạt ứng dụng trên App Store sử dụng trí tuệ nhân tạo để biến ảnh chân dung của một người bất kỳ thành những đoạn video khiêu dâm, thậm chí tạo ra video có nội dung bị cưỡng hiếp hoặc tấn công tình dục, với mức độ chân thực rất cao.
The Independent cho biết các ứng dụng này liệt kê hàng chục kịch bản để AI tạo ra các nội dung khiêu dâm từ hình ảnh do người dùng cung cấp. Các ứng dụng cho phép người dùng tạo thử miễn phí một số nội dung trước khi thu phí.
Đáng chú ý, các ứng dụng này không chỉ xuất hiện trên App Store. Trang công nghệ Wired còn phát hiện một số ứng dụng tạo nội dung khiêu dâm chạy quảng cáo trên các nền tảng mạng xã hội của Meta như Facebook và Instagram. Nghĩa là các ứng dụng này cũng đã vượt qua được bước kiểm duyệt nội dung quảng cáo của Meta.
Apple đã gỡ bỏ các ứng dụng tạo nội dung khiêu dâm bằng AI sau khi nhận được báo cáo từ The Independent, đồng thời cho biết các ứng dụng tạo nội dung khiêu dâm vi phạm chính sách của công ty.
“Các ứng dụng “khỏa thân hóa” vi phạm chính sách của công ty . Chúng tôi đã chủ động từ chối cũng như gỡ bỏ nhiều ứng dụng này, bao gồm cả những ứng dụng được người dùng báo cáo”, đại diện Apple cho biết.
Chính sách của App Store nêu rõ các ứng dụng không được bao gồm “các nội dung gây khó chịu, thiếu nhạy cảm, buồn bã hoặc cố ý gây ghê tởm hoặc đơn giản là đáng sợ”. Tuy nhiên, Apple không giải thích lý do tại sao các ứng dụng AI tạo nội dung khiêu dâm lại vượt qua được bước kiểm duyệt của công ty để xuất hiện trên App Store.
The Independent cho biết ước tính đã có hàng triệu lượt tải các ứng dụng này trước khi Apple gỡ bỏ chúng khỏi App Store. Điều này đồng nghĩa với việc rất nhiều nội dung khiêu dâm giả mạo đã được tạo ra, mà bất kỳ ai cũng có thể trở thành nạn nhân của các nội dung đó.
Trên thực tế, việc sử dụng AI để tạo các nội dung khiêu dâm không phải mới. Nhưng giờ đây, các công cụ AI này được “đóng gói” thành các ứng dụng di động, với cách sử dụng dễ dàng hơn rất nhiều, điều này gây ra nhiều lo ngại AI sẽ bị lợi dụng để tạo ra các nội dung khiêu dâm giả mạo nhằm tống tiền hoặc hạ thấp danh dự nạn nhân.
Nhiều nhân vật nổi tiếng, từ ca sĩ, diễn viên đến cả các chính trị gia đã trở thành nạn nhân của các video khiêu dâm giả mạo do AI tạo ra. Nhiều quốc gia đang tăng cường những biện pháp để trấn áp và ngăn chặn những hình ảnh, video khiêu dâm được tạo ra bởi AI.
Ngay tại Việt Nam, không ít người cũng đã trở thành nạn nhân khi gương mặt của họ bị ghép vào những hình ảnh, video khiêu dâm giả mạo được tạo ra bởi AI, sau đó kẻ xấu đã sử dụng những nội dung này để tống tiền hoặc xúc phạm danh dự nạn nhân.