Đầu tháng 2/2022, khi được giới thiệu về PimEyes, một công cụ trực tuyến có chức năng tìm kiếm hình cá nhân của một ai đó xuất hiện ở đâu trên Internet, Cher Scarlett đã thử đăng tải một số tấm ảnh của con gái và mẹ mình.
Công cụ này tự giới thiệu có thể giúp người dùng tránh các vấn đề như trả thù bằng hình thức tung ảnh khiêu dâm và đánh cắp danh tính, theo CNN.
Lúc đó, kết quả trả về không có bất kỳ tấm hình nào liên quan đến con gái Scarlett, trong khi ảnh của mẹ cô chỉ là những phụ nữ có khuôn mặt giống bà.
Scarlett tiếp tục thử với ảnh của bản thân và những gì hiện ra trước mắt đã khiến cô choáng váng.
Ngoài một số bức hình gần đây, Scarlett còn thấy vài tấm ảnh về thời kỳ đen tối mà cô không muốn nhớ đến.
Đó là thời điểm năm cô 19 tuổi, trong chuyến đi đến New York (Mỹ), Scarlett đã bị ép thực hiện hành vi làm nhục và cưỡng bức tình dục ngay trước ống kính.
“Khi xem những hình ảnh này, tôi chỉ có thể nghĩ là ai đó đã chỉnh sửa khuôn mặt của tôi và đưa lên phim khiêu dâm”, Scarlett nói với CNN.
 |
|
Scarlett hoảng hốt khi tìm thấy những bức ảnh cũ trên công cụ nhận dạng khuôn mặt. Ảnh:CNN.
|
Nhận dạng khuôn mặt
Trước đây, nữ kỹ sư phần mềm từng làm việc cho Apple và thành lập phong trào tổ chức #AppleToo.
Scarlett cũng công khai trên mạng về cuộc sống và hành trình đấu tranh của mình khi trải qua lạm dụng tình dục khi còn nhỏ, bỏ học, vật lộn với chứng nghiện ngập.
Những gì đã xảy ra với Scarlett ở New York vào năm 2005 đã khiến cô từng muốn tự kết liễu đời mình. Ba năm sau, cô đã chính thức đổi tên và bắt đầu mang họ Scarlett. Cô đã làm việc chăm chỉ để vượt qua chấn thương trong quá khứ.
Hiện bà mẹ một con là kỹ sư phần mềm tại công ty phát triển trò chơi điện tử ControlZee sau khi rời Apple vào cuối năm ngoái.
Nhưng chỉ với một vài cú click chuột, cơn ác mộng xảy ra gần hai thập kỷ trước trở lại trong tích tắc. Scarlett thử đủ mọi cách để xóa tất cả bức ảnh khiêu dâm khỏi kết quả tìm kiếm nhưng không thành.
Giorgi Gobronidze, chủ sở hữu của PimEyes, nhận định những gì Scarlett phải trải qua rất đau đớn và hy vọng không ai gặp phải điều đó.
"Vấn đề không phải là do công cụ tìm kiếm mà nằm ở chỗ có người đã tải lên những bức ảnh này và thực hiện nó có chủ đích”, Gobronidze nói.
Câu chuyện của Scarlett đã cho thấy rằng công nghệ nhận dạng khuôn mặt có thể dẫn đến những tác hại bất ngờ mà không thể nào khắc phục được.
 |
|
Công cụ cho phép người dùng xác định vị trí ảnh xuất hiện trên Internet. Ảnh:CNN.
|
Nguy hiểm hơn, nó ngày càng trở nên phổ biến trong vài năm gần đây và không có quy định cho việc sử dụng. Công nghệ này nhiều lần bị chỉ trích vì vi phạm quyền riêng tư, thành kiến chủng tộc cũng như những mối nguy tiềm ẩn khác.
Woodrow Hartzog, giáo sư luật và khoa học máy tính tại Đại học Northeastern, cho rằng sẽ có nhiều người trải qua nỗi đau tương tự Scarlett. “Nhất là với phụ nữ, người da màu và các cộng đồng thiểu số, những người bị kiểm soát bởi công nghệ nhận dạng khuôn mặt”.
Cố xóa ảnh cũ
Scarlett mất nhiều thời gian để xử lý những gì cô ấy nhìn thấy trong kết quả tìm kiếm. Ban đầu, cô nghĩ khuôn mặt của mình được dán trên cơ thể người khác nhưng cũng tự hỏi “sao mình trông trẻ như vậy?”.
Sau đó, cô nhận ra chiếc áo đang mặc và mái tóc. Scarlett đã lưu một bản sao của hình ảnh này và sử dụng nó để thực hiện một cuộc tìm kiếm khác.
Kết quả nhận được là hàng chục hình ảnh khiêu dâm được tổng hợp trên các trang web khác nhau được gắn với những từ khóa như "lạm dụng", "nghẹt thở" và "tra tấn".
Scarlett não nùng khi nhìn chằm chằm vào những hình ảnh trên màn hình. “Giống như một phần não của tôi đang che giấu thứ gì đó nhưng một bên khác biết tất cả điều này là đúng”, Scarlett mô tả cảm giác của mình.
Scarlett không chỉ nhìn thấy hậu quả của việc này mà còn biết rằng bất kỳ ai tìm kiếm cô đều có thể trải qua điều tương tự. Trong khi những thập kỷ trước, các hình ảnh như vậy chỉ có thể nằm trên đĩa DVD, ảnh giấy, băng VHS.
"Giờ thì nó tồn tại vĩnh viễn trên Internet, ai cũng có thể sử dụng phần mềm nhận dạng khuôn mặt và tìm thấy nó", cô nói.
Scarlett đã nhanh chóng nâng cấp gói của mình lên 80 USD/tháng để loại bỏ kết quả hình ảnh ra khỏi kết quả công khai.
Cô cũng gửi yêu cầu gỡ ảnh tới các trang web lưu trữ nhưng không được chấp thuận vì không phải chủ sở hữu bản quyền.
Nhiều người cho rằng mình có thể chọn từ chối xuất hiện trên các công cụ tìm kiếm tương tự, nhưng câu chuyện của Scarlett đã chứng minh mọi thứ không đơn giản như vậy.
Bà mẹ một con đã đề nghị trang web này xóa ảnh từ giữa tháng 3 nhưng không được phản hồi. Đến khi Scarlett chia sẻ câu chuyện trên mạng xã hội, phía PimEyes mới bắt đầu xử lý.
“Chúng ta cần xem xét phần mềm nhận dạng khuôn mặt, cách nó được sử dụng và hậu quả sâu rộng của việc mất danh tính”.
Gobronidze nói với CNN rằng công cụ tìm kiếm này thường mất không quá 24 giờ để phê duyệt yêu cầu từ chối của người dùng.
Tuy nhiên, ngày 19/5, nhiều hình ảnh của Scarlett đã hiển thị trở lại. Bên dưới kết quả, trang web của này khuyến khích người dùng trả thêm tiền nếu muốn có kết quả chuyên sâu hơn.
Gobronidze cũng thừa nhận rằng quy trình từ chối hiển thị hoạt động như không như mong đợi.
 |
|
Vụ việc khiến Scarlett ám ảnh vì bị "đào lại" quá khứ. Ảnh:New York Times.
|
Vấn nạn
Vấn nạn cắt, ghép gương mặt vào clip nóng đã xuất hiện ở nhiều quốc gia như Trung Quốc, Mỹ, Hàn Quốc… và có xu hướng phát triển mạnh trong thời đại công nghệ số.
Cuộc điều tra của tờ The Beijing News phát hiện ra nhiều nền tảng Trung Quốc trở thành nơi bán dịch vụ deepfake với giá chưa tới 1 USD. Tại đây, người tham gia có thể bán gương mặt người nổi tiếng hoặc của chính mình.
Trên chợ thương mại điện tử cũ Xianyu, loạt video khiêu dâm ghép khuôn mặt được tùy chỉnh theo yêu cầu được rao bán với giá khởi điểm từ 20 nhân dân tệ (3 USD) mỗi phút.
Tại Nhật Bản, hàng loạt nữ minh tinh, ca sĩ, người mẫu nổi tiếng trở thành nạn nhân của công nghệ deepfake như Elaiza Ikeda, Minami Tanaka, Mio Imada... Họ bị ghép mặt vào các video khiêu dâm và xuất hiện tràn lan trên các trang web người lớn.
Thậm chí, công nghệ hoán đổi khuôn mặt từ lâu đã bị lạm dụng để tạo ra các video nhằm hạ uy tín, phỉ báng các nhân vật cấp cao và trở thành vấn nạn ngày càng tăng.
Tháng 3/2018, một video deepfake trở nên viral trên mạng xã hội khi gương mặt cựu Đệ nhất phu nhân Mỹ Michelle Obama bị ghép vào nhân vật phim khiêu dâm.
Những nhà lãnh đạo như Tổng thống Mỹ Donald Trump hay Chủ tịch Hạ viện Mỹ Nancy Pelosi cũng trở thành nạn nhân của trào lưu deepfake.
Nữ diễn viên Scarlett Johansson từng xuất hiện trong hàng chục video ghép mặt trên các trang phim khiêu dâm. Trước đó, cô từng bị hacker lấy trộm ảnh nhạy cảm trong điện thoại, bị lấy khuôn mặt ghép vào một robot.
Theo Zing