Meta phải đối mặt với sự giám sát pháp lý khi những tiến bộ của AI làm tăng mối lo ngại về sự an toàn của trẻ em

Mối lo ngại về sự an toàn của trẻ em xuất hiện trong bối cảnh trí tuệ nhân tạo có những tiến bộ nhanh chóng liên quan đến văn bản và trí tuệ nhân tạo.

Một nhóm gồm 34 tiểu bang của Hoa Kỳ đang đệ đơn kiện chủ sở hữu Facebook và Instagram Meta, cáo buộc công ty này có hành vi thao túng không đúng đắn đối với trẻ vị thành niên sử dụng nền tảng này. Sự phát triển này diễn ra trong bối cảnh trí tuệ nhân tạo (AI) tiến bộ nhanh chóng liên quan đến cả AI văn bản và AI tổng hợp.

Đại diện pháp lý từ nhiều tiểu bang khác nhau, bao gồm California, New York, Ohio, Nam Dakota, Virginia và Louisiana, cáo buộc rằng Meta sử dụng thuật toán của mình để thúc đẩy hành vi gây nghiện và tác động tiêu cực đến sức khỏe tinh thần của trẻ em thông qua các tính năng trong ứng dụng, chẳng hạn như nút “Thích”.

Các đương sự của chính phủ đang tiến hành các hành động pháp lý mặc dù nhà khoa học AI trưởng tại Meta gần đây đã lên tiếng , nói rằng những lo lắng về rủi ro tồn tại của công nghệ này vẫn còn “vẫn còn sớm” và Meta đã khai thác AI để giải quyết các vấn đề về niềm tin và an toàn trên nền tảng của mình . nền tảng.

Luật sư của các bang đang tìm kiếm những thiệt hại, bồi thường và bồi thường khác nhau cho mỗi bang được đề cập trong tài liệu, với con số dao động từ 5.000 USD đến 25.000 USD cho mỗi vụ việc bị cáo buộc. Cointelegraph đã liên hệ với Meta để biết thêm thông tin nhưng vẫn chưa nhận được phản hồi.

Trong khi đó, Tổ chức Theo dõi Internet (IWF) có trụ sở tại Vương quốc Anh đã nêu lên mối lo ngại về sự gia tăng đáng báo động của tài liệu lạm dụng tình dục trẻ em (CSAM) do AI tạo ra. Trong một báo cáo gần đây, IWF tiết lộ việc phát hiện hơn 20.254 hình ảnh CSAM do AI tạo ra trong một diễn đàn web đen chỉ trong một tháng, cảnh báo rằng sự gia tăng nội dung đáng lo ngại này có khả năng tràn ngập Internet.

Tổ chức này kêu gọi hợp tác toàn cầu để chống lại vấn đề CSAM, đề xuất chiến lược nhiều mặt, bao gồm điều chỉnh luật hiện hành, cải tiến giáo dục thực thi pháp luật và thực hiện giám sát quy định đối với các mô hình AI.

Đối với các nhà phát triển AI, IWF khuyên cấm AI tạo ra nội dung lạm dụng trẻ em, loại trừ các mô hình liên quan và tập trung xóa tài liệu đó khỏi mô hình của họ.

Sự tiến bộ của trình tạo hình ảnh AI đã cải thiện đáng kể việc tạo ra các bản sao con người giống như thật. Các nền tảng như Midjourney, Runway, Stable Diffusion và Dall-E của OpenAI là những ví dụ phổ biến về các công cụ có khả năng tạo ra hình ảnh chân thực.