leftcenterrightdel
 Theo IWF, sự phát triển của AI sẽ bị những đối tượng ấu dâm bệnh hoạn lợi dụng để tạo ra và lan truyền các video lạm dụng trẻ em - Nguồn ảnh: The Guardian

IWF cho biết: “Những kẻ ấu dâm đang lợi dụng những tiến bộ của AI để tạo ra các video về CSAM. Tình trạng này có thể sẽ ngày càng nhiều khi công nghệ này liên tục được cải thiện”. Trong những tài liệu IWF thu thập được gần đây, đã có những video ngắn do AI tạo nên có liên quan đến CSAM hoặc video khiêu dâm người lớn nhưng được ghép với khuôn mặt của trẻ em. Dan Sexton - Giám đốc công nghệ tại IWF - cho biết: “Những video như thế này chắc chắn sẽ xuất hiện nhiều hơn trong tương lai với chất lượng cao hơn và chân thực hơn”.

Các nhà phân tích của IWF cho biết họ đã tìm được 9 video trên một diễn đàn từ một “web đen”, tất cả đều là làm giả bằng cách sử dụng những công cụ AI trực tuyến. Điều đáng lo ngại là hình ảnh CSAM do AI tạo ra hiện đã trở nên chân thực hơn so với năm 2023, thời điểm IWF lần đầu tiên phát hiện những nội dung CSAM. Nghiên cứu ảnh chụp nhanh của IWF trong năm 2024 từ một diễn đàn “đen” đã thu thập được 12.000 hình ảnh mới do AI tạo ra, được đăng trong khoảng thời gian chỉ 1 tháng. 9/10 hình ảnh đó chân thực đến mức đáng lo ngại. Susie Hargreaves - Tổng giám đốc điều hành của IWF - cho biết: “Nếu không có sự kiểm soát thích hợp, các công cụ AI sẽ bị những kẻ săn mồi trực tuyến lợi dụng để thực hiện những tưởng tượng bệnh hoạn và đồi trụy nhất của chúng. Hiện IWF đã ghi nhận nhiều loại dữ liệu kiểu này được chia sẻ, bán trên các trang web “đen” về CSAM”.

IWF đang thúc đẩy những thay đổi về luật pháp của các quốc gia nhằm hình sự hóa hành vi tạo ra các hướng dẫn sử dụng AI để tạo ra CSAM.

Theo phụ nữ TPHCM