CTO của OpenAI nói rằng các cơ quan quản lý của chính phủ nên ‘tham gia nhiều’ vào việc điều chỉnh AI

 Giám đốc điều hành gần đây đã lên tiếng về các cơ quan quản lý của chính phủ, lá thư “tạm dừng” và mức độ gần gũi của công ty với trí thông minh nhân tạo nói chung.

 Mira Murati, giám đốc công nghệ của OpenAI, tin rằng các cơ quan quản lý của chính phủ nên “tham gia tích cực” vào việc phát triển các tiêu chuẩn an toàn để triển khai các mô hình trí tuệ nhân tạo tiên tiến như ChatGPT. 

 Cô ấy cũng tin rằng đề xuất tạm dừng phát triển trong sáu tháng không phải là cách phù hợp để xây dựng các hệ thống an toàn hơn và ngành công nghiệp hiện chưa đạt được trí tuệ nhân tạo chung (AGI) – một ngưỡng trí tuệ giả định trong đó một tác nhân nhân tạo có khả năng thực hiện bất kỳ nhiệm vụ nào đòi hỏi trí thông minh, bao gồm cả nhận thức ở cấp độ con người. Nhận xét của cô bắt nguồn từ một cuộc phỏng vấn với Associated Press được công bố vào ngày 24 tháng Tư.

 Khi được hỏi về các biện pháp phòng ngừa an toàn mà OpenAI đã thực hiện trước khi ra mắt GPT-4, Murati giải thích rằng công ty đã thực hiện một cách tiếp cận đào tạo chậm để không chỉ ngăn chặn xu hướng hành vi không mong muốn của máy mà còn xác định bất kỳ mối lo ngại nào liên quan đến những thay đổi đó:

 “Bạn phải rất cẩn thận vì bạn có thể tạo ra một số sự mất cân bằng khác. Bạn phải liên tục kiểm tra […] Vì vậy, sau đó bạn phải điều chỉnh lại và rất cẩn thận mỗi khi bạn can thiệp, xem những gì khác đang bị gián đoạn.”

 Sau khi GPT-4 ra mắt, các chuyên gia lo ngại về những điều chưa biết xung quanh tương lai của AI đã kêu gọi các biện pháp can thiệp, từ việc tăng cường quy định của chính phủ đến việc tạm dừng phát triển AI toàn cầu trong sáu tháng .

 Đề xuất thứ hai đã thu hút được sự chú ý và ủng hộ từ những người nổi tiếng trong lĩnh vực AI như Elon Musk, Gary Marcus và Eliezer Yudkowski, trong khi nhiều nhân vật đáng chú ý bao gồm Bill Gates, Yann LeCun và Andrew Ng đã phản đối.

a big deal: @elonmusk, Y. Bengio, S. Russell, ⁦⁦@tegmark⁩, V. Kraknova, P. Maes, ⁦@Grady_Booch, ⁦@AndrewYang⁩, ⁦@tristanharris⁩ & over 1,000 others, including me, have called for a temporary pause on training systems exceeding GPT-4 https://t.co/PJ5YFu0xm9

— Gary Marcus (@GaryMarcus) March 29, 2023

 Về phần mình, Murati bày tỏ sự ủng hộ đối với ý tưởng tăng cường sự tham gia của chính phủ, nói rằng, “các hệ thống này nên được quản lý.” Cô ấy tiếp tục: “Tại OpenAI, chúng tôi liên tục trao đổi với các chính phủ và cơ quan quản lý cũng như các tổ chức khác đang phát triển các hệ thống này để , ít nhất là ở cấp công ty, đồng ý về một số mức tiêu chuẩn.”

 Nhưng, về chủ đề tạm dừng phát triển, giọng điệu của Murati mang tính chỉ trích hơn:

 “Một số tuyên bố trong bức thư hoàn toàn sai sự thật về sự phát triển của GPT-4 hoặc GPT-5. Chúng tôi không đào tạo GPT-5. Chúng tôi không có bất kỳ kế hoạch nào để làm như vậy trong sáu tháng tới. Và chúng tôi đã không vội vàng ra mắt GPT-4. Trên thực tế, chúng tôi đã mất sáu tháng để chỉ tập trung hoàn toàn vào việc phát triển và triển khai GPT-4 một cách an toàn.”

 Trả lời câu hỏi liệu hiện tại có “đường dẫn giữa các sản phẩm như GPT-4 và AGI hay không,” Murati nói với Associated Press rằng “Chúng ta còn lâu mới có được một hệ thống AGI an toàn, đáng tin cậy và phù hợp.”

 Đây có thể là một tin buồn đối với những người tin rằng GPT-4 đang giáp với AGI. Sự tập trung hiện tại của công ty vào sự an toàn và thực tế là, theo Murati, nó thậm chí còn chưa đào tạo GPT-5, là những dấu hiệu mạnh mẽ cho thấy khám phá trí thông minh chung đáng thèm muốn vẫn nằm ngoài tầm với trong thời điểm hiện tại.

 Sự tập trung ngày càng tăng của công ty vào quy định diễn ra trong bối cảnh xu hướng giám sát của chính phủ ngày càng lớn hơn. OpenAI gần đây đã cấm các sản phẩm GPT của mình ở Ý và phải đối mặt với hạn chót là ngày 30 tháng 4 để tuân thủ các quy định của địa phương và EU ở Ireland — một chuyên gia cho rằng sẽ rất khó để đáp ứng.

 Những lệnh cấm như vậy có thể có tác động nghiêm trọng đến bối cảnh tiền điện tử châu Âu vì ngày càng có nhiều phong trào hướng tới việc áp dụng các bot giao dịch tiền điện tử tiên tiến được xây dựng trên các ứng dụng sử dụng API GPT. Nếu OpenAI và các công ty xây dựng các sản phẩm tương tự thấy mình không thể hoạt động hợp pháp ở châu Âu, các nhà giao dịch sử dụng công nghệ này có thể bị buộc phải ở nơi khác.