Công cụ đầu độc dữ liệu mới sẽ trừng phạt AI vì cạo tác phẩm nghệ thuật mà không được phép

Công cụ này hiện đang trong giai đoạn nghiên cứu nhưng nhóm có kế hoạch tích hợp nó với các công cụ bảo vệ nghệ sĩ hiện có.

Các nhà nghiên cứu tại Đại học Chicago đã phát triển một công cụ cho phép các nghệ sĩ có khả năng “đầu độc” tác phẩm kỹ thuật số của họ nhằm ngăn chặn các nhà phát triển đào tạo hệ thống trí tuệ nhân tạo (AI) cho tác phẩm của họ. 

Được gọi là “Nightshade”, được đặt theo tên của họ thực vật – một số loài trong số đó được biết đến với loại quả mọng có độc – công cụ này sửa đổi hình ảnh theo cách khiến việc đưa chúng vào làm ô nhiễm các bộ dữ liệu được sử dụng để huấn luyện AI với thông tin không chính xác.

Theo báo cáo từ Tạp chí Công nghệ của MIT, Nightshade thay đổi các pixel của hình ảnh kỹ thuật số để đánh lừa hệ thống AI hiểu sai về nó. Ví dụ, Tech Review đề cập đến việc thuyết phục AI rằng hình ảnh của một con mèo là một con chó và ngược lại.

Khi làm như vậy, về mặt lý thuyết, khả năng tạo ra kết quả đầu ra chính xác và hợp lý của AI sẽ bị tổn hại. Sử dụng ví dụ trên, nếu người dùng yêu cầu hình ảnh một “con mèo” từ AI bị nhiễm độc, thay vào đó, họ có thể nhận được một con chó được gắn nhãn là mèo hoặc sự kết hợp của tất cả các “mèo” trong tập huấn luyện của AI, bao gồm cả những con được gắn nhãn là mèo. thực chất là hình ảnh những chú chó đã được chỉnh sửa bằng công cụ Nightshade. 

Một chuyên gia đã xem tác phẩm, Vitaly Shmatikov, giáo sư tại Đại học Cornell, cho rằng các nhà nghiên cứu “chưa biết về biện pháp phòng vệ mạnh mẽ chống lại những cuộc tấn công này” – hàm ý rằng ngay cả những mô hình mạnh mẽ như ChatGPT của OpenAI cũng có thể gặp rủi ro.

Nhóm nghiên cứu đằng sau Nightshade được dẫn đầu bởi Ben Zhao, giáo sư tại Đại học Chicago. Công cụ mới này thực chất là một bản mở rộng của phần mềm bảo vệ nghệ sĩ hiện có của họ có tên Glaze. Trong công việc trước đây, họ đã thiết kế một phương pháp mà nhờ đó nghệ sĩ có thể làm xáo trộn hoặc “làm mờ” phong cách tác phẩm nghệ thuật của họ.

Ví dụ, một nghệ sĩ đã tạo ra một bức chân dung bằng than có thể được tráng men để hệ thống AI trông giống như một tác phẩm nghệ thuật hiện đại.

Theo Technology Review, Nightshade cuối cùng sẽ được triển khai vào Glaze, hiện có sẵn miễn phí để sử dụng hoặc tải xuống trên web.