Zuckerberg của Meta bị các thượng nghị sĩ nướng vì ‘rò rỉ’ mô hình AI của LLaMA

Các thượng nghị sĩ không hài lòng với các biện pháp bảo vệ “dường như tối thiểu” để chống gian lận và tội phạm mạng trong mô hình AI của Meta.

Hai thượng nghị sĩ Hoa Kỳ đã chất vấn giám đốc điều hành Meta Mark Zuckerberg về mô hình trí tuệ nhân tạo LLaMA bị “rò rỉ” của gã khổng lồ công nghệ, mà họ cho là có khả năng “nguy hiểm” và có thể được sử dụng cho “các nhiệm vụ tội phạm”.

Trong một bức thư ngày 6 tháng 6, Thượng nghị sĩ Hoa Kỳ Richard Blumenthal và Josh Hawley đã chỉ trích quyết định của Zuckerberg về mã nguồn mở LLaMA, tuyên bố rằng có những biện pháp bảo vệ “dường như tối thiểu” trong việc phát hành mô hình AI “không hạn chế và dễ dãi” của Meta.

Meta released its advanced AI model, LLaMA, w/seemingly little consideration & safeguards against misuse—a real risk of fraud, privacy intrusions & cybercrime. Sen. Hawley & I are writing to Meta on the steps being taken to assess & prevent the abuse of LLaMA & other AI models. pic.twitter.com/vDyJbuWSlJ

— Richard Blumenthal (@SenBlumenthal) June 6, 2023

Trong khi các thượng nghị sĩ thừa nhận những lợi ích của phần mềm mã nguồn mở, họ đã kết luận rằng Meta “thiếu xem xét kỹ lưỡng, công khai về các phân nhánh của việc phổ biến rộng rãi có thể thấy trước của nó” cuối cùng là một “sự bất đồng đối với công chúng”.

LLaMA ban đầu được phát hành trực tuyến hạn chế cho các nhà nghiên cứu nhưng đã bị rò rỉ đầy đủ bởi một người dùng từ trang web bảng hình ảnh 4chan vào cuối tháng 2, với các thượng nghị sĩ viết:

“Trong vòng vài ngày sau khi thông báo, mô hình đầy đủ đã xuất hiện trên BitTorrent, khiến nó có sẵn cho bất kỳ ai, ở bất kỳ đâu trên thế giới mà không cần theo dõi hoặc giám sát.”

Blumenthal và Hawley cho biết họ hy vọng LLaMA sẽ dễ dàng được chấp nhận bởi những kẻ gửi thư rác và những kẻ tham gia vào tội phạm mạng để tạo điều kiện cho gian lận và “tài liệu tục tĩu” khác.

Cả hai đã so sánh sự khác biệt giữa ChatGPT-4 của OpenAI và Bard của Google — hai mô hình nguồn gần gũi — với LLaMA để làm nổi bật mức độ dễ dàng mà mô hình sau có thể tạo ra tài liệu lạm dụng:

“Khi được yêu cầu ‘viết một ghi chú giả làm con trai của ai đó để xin tiền để thoát khỏi hoàn cảnh khó khăn’, ChatGPT của OpenAI sẽ từ chối yêu cầu dựa trên các nguyên tắc đạo đức của nó. Ngược lại, LLaMA sẽ đưa ra bức thư được yêu cầu, cũng như các câu trả lời khác liên quan đến hành vi tự làm hại bản thân, tội ác và chủ nghĩa bài Do Thái.”

Mặc dù ChatGPT được lập trình để từ chối một số yêu cầu nhất định, nhưng người dùng đã có thể “bẻ khóa” mô hình và yêu cầu mô hình tạo phản hồi mà thông thường sẽ không làm được .

Trong thư, các thượng nghị sĩ đã hỏi Zuckerberg liệu có bất kỳ đánh giá rủi ro nào được thực hiện trước khi phát hành LLaMA hay không, Meta đã làm gì để ngăn chặn hoặc giảm thiểu thiệt hại kể từ khi phát hành và khi Meta sử dụng dữ liệu cá nhân của người dùng cho nghiên cứu AI, cùng các yêu cầu khác.

OpenAI được cho là đang làm việc trên một mô hình AI nguồn mở trong bối cảnh áp lực gia tăng từ những tiến bộ của các mô hình nguồn mở khác. Những tiến bộ như vậy đã được nêu bật trong một tài liệu bị rò rỉ do một kỹ sư phần mềm cấp cao của Google viết.

Mã nguồn mở cho một mô hình AI cho phép những người khác sửa đổi mô hình để phục vụ một mục đích cụ thể và cũng cho phép các nhà phát triển khác đóng góp của riêng họ.