Luật sư thành phố San Fran kiện các trang web ‘cởi đồ’ phụ nữ bằng AI

Dek: Các trang web sử dụng AI cho phép người dùng tạo ảnh khỏa thân của phụ nữ và trẻ em gái mà không có sự đồng ý đã đạt 200 triệu lượt truy cập trong nửa đầu năm.

Văn phòng Luật sư thành phố San Francisco đã đệ đơn kiện chủ sở hữu của 16 trang web cho phép người dùng “khỏa thân” phụ nữ và trẻ em gái bằng AI.

Văn phòng Luật sư thành phố San Francisco David Chiu ngày 15 tháng 8 cho biết ông đang kiện chủ sở hữu của 16 “trang web được truy cập nhiều nhất” cho phép người dùng “cởi đồ” trong ảnh để tạo ra “hình ảnh khỏa thân không được sự đồng ý của phụ nữ và trẻ em gái”.

Phiên bản đã biên tập của vụ kiện được đệ trình lên Tòa án cấp cao của thành phố cáo buộc chủ sở hữu trang web bao gồm các cá nhân và công ty từ Los Angeles, New Mexico, Vương quốc Anh và Estonia đã vi phạm luật pháp của California và Hoa Kỳ về nội dung khiêu dâm deepfake, nội dung khiêu dâm trả thù và nội dung lạm dụng tình dục trẻ em.

Các trang web này cũng không phải là không được biết đến. Khiếu nại cho biết họ đã đạt được 200 triệu lượt truy cập chỉ trong nửa đầu năm.

Một trang web khoe khoang rằng nó cho phép người dùng “xem bất kỳ ai khỏa thân”. Một trang web khác nói rằng, “Hãy tưởng tượng đến việc lãng phí thời gian hẹn hò với cô ấy khi bạn có thể sử dụng [trang web] để lấy ảnh khỏa thân của cô ấy”, theo đơn khiếu nại.

Văn phòng của Chiu cho biết các mô hình AI mà các trang web này sử dụng được đào tạo dựa trên hình ảnh khiêu dâm và nội dung lạm dụng tình dục trẻ em.

Về cơ bản, ai đó có thể tải lên hình ảnh mục tiêu của họ để tạo ra phiên bản khiêu dâm, chân thực của họ. Một số trang web giới hạn thế hệ của họ chỉ dành cho người lớn, nhưng một số khác thậm chí còn cho phép tạo hình ảnh trẻ em.

Văn phòng của Chiu cho biết những hình ảnh này “gần như không thể phân biệt được” với hình ảnh thật và đã được sử dụng để “tống tiền, bắt nạt, đe dọa và làm nhục phụ nữ và trẻ em gái”, trong đó nhiều người không có khả năng kiểm soát những hình ảnh giả sau khi chúng đã được tạo ra.

Vào tháng 2, những hình ảnh khỏa thân do AI tạo ra của 16 học sinh lớp 8 – thường ở độ tuổi từ 13 đến 14 – đã được các học sinh tại một trường trung học cơ sở ở California chia sẻ.

Vào tháng 6, ABC News đưa tin Cảnh sát Victoria đã bắt giữ một thiếu niên vì bị cáo buộc phát tán 50 hình ảnh của học sinh lớp 9 đến lớp 12 theo học tại một trường học bên ngoài Melbourne, Úc.

Chiu cho biết: “Cuộc điều tra này đã đưa chúng tôi đến những góc tối nhất của Internet và tôi thực sự kinh hoàng cho những người phụ nữ và trẻ em gái phải chịu đựng sự bóc lột này”.

Ông nói thêm: “Tất cả chúng ta cần phải làm tròn trách nhiệm của mình để trấn áp những kẻ xấu sử dụng AI để khai thác và lạm dụng người thật, bao gồm cả trẻ em”.

Chiu cho biết AI có “hứa ​​hẹn to lớn”, nhưng có những tên tội phạm đang khai thác công nghệ này, đồng thời nói thêm, “Chúng ta phải rất rõ ràng rằng đây không phải là sự đổi mới – đây là lạm dụng tình dục”.