TikTok, Snapchat, OnlyFans và những người khác để chống lại nội dung lạm dụng trẻ em do AI tạo ra

Các nền tảng xã hội lớn, các công ty AI, chính phủ và tổ chức phi chính phủ đã đưa ra tuyên bố chung cam kết chống lại nội dung lạm dụng do AI tạo ra, chẳng hạn như hình ảnh khiêu dâm về trẻ em.

Liên minh gồm các nền tảng truyền thông xã hội lớn, các nhà phát triển trí tuệ nhân tạo, chính phủ và các tổ chức phi chính phủ (NGO) đã đưa ra tuyên bố chung cam kết chống lại nội dung lạm dụng do AI tạo ra.

Vào ngày 30 tháng 10, Vương quốc Anh đã ban hành tuyên bố chính sách, bao gồm 27 bên ký kết, bao gồm chính phủ Hoa Kỳ, Úc, Hàn Quốc, Đức và Ý, cùng với các nền tảng truyền thông xã hội Snapchat, TikTok và OnlyFans.

Nó cũng được ký kết bởi các nền tảng AI Stability AI và Ontocord.AI cũng như một số tổ chức phi chính phủ hoạt động vì an toàn Internet và quyền trẻ em, cùng nhiều tổ chức khác.

Tuyên bố nói rằng mặc dù AI mang lại “những cơ hội to lớn” trong việc giải quyết các mối đe dọa lạm dụng tình dục trẻ em trực tuyến nhưng nó cũng có thể bị những kẻ săn mồi lợi dụng để tạo ra những loại tài liệu như vậy.

Nó tiết lộ dữ liệu từ Internet Watch Foundation rằng trong vòng một tháng, trong số 11.108 hình ảnh do AI tạo ra được chia sẻ trên một diễn đàn web đen, có 2.978 nội dung mô tả liên quan đến lạm dụng tình dục trẻ em.

Chính phủ Anh cho biết tuyên bố này là một cam kết “tìm cách hiểu và hành động phù hợp trước những rủi ro phát sinh từ AI trong việc giải quyết vấn đề lạm dụng tình dục trẻ em thông qua các diễn đàn hiện có”.

“Tất cả các bên đều có vai trò trong việc đảm bảo sự an toàn cho trẻ em trước những rủi ro của AI biên giới.”

Nó khuyến khích sự minh bạch trong các kế hoạch đo lường, giám sát và quản lý các cách AI có thể bị khai thác bởi những kẻ phạm tội tình dục trẻ em và ở cấp quốc gia để xây dựng các chính sách liên quan đến chủ đề này.

Ngoài ra, nó nhằm mục đích duy trì một cuộc đối thoại xung quanh việc chống lạm dụng tình dục trẻ em trong thời đại AI. Tuyên bố này được đưa ra trước khi Vương quốc Anh đăng cai tổ chức hội nghị thượng đỉnh toàn cầu về an toàn AI trong tuần này.

Những lo ngại về sự an toàn của trẻ em liên quan đến AI đã là chủ đề thảo luận chính trước sự xuất hiện nhanh chóng và sử dụng rộng rãi của công nghệ này.

Vào ngày 26/10, 34 bang ở Mỹ đã đệ đơn kiện Meta , công ty mẹ của Facebook và Instagram, vì lo ngại về an toàn cho trẻ em.