ChatGPT thiên về chính trị đối với cánh tả ở Hoa Kỳ và hơn thế nữa: Nghiên cứu

Ngay cả sau khi đối mặt với bằng chứng cho thấy ChatGPT có thể có thành kiến ​​chính trị, chatbot vẫn tiếp tục khẳng định rằng nó và OpenAI không thiên vị.

Theo một nghiên cứu mới, ChatGPT, một chatbot dựa trên mô hình ngôn ngữ lớn (LLM), bị cho là thiếu tính khách quan khi đề cập đến các vấn đề chính trị.

Các nhà nghiên cứu khoa học máy tính và thông tin từ Vương quốc Anh và Brazil tuyên bố đã tìm thấy “bằng chứng chắc chắn” rằng ChatGPT thể hiện sự thiên vị chính trị đáng kể đối với phe trái của phổ chính trị. Các nhà phân tích — Fabio Motoki, Valdemar Pinho Neto và Victor Rodrigues — đã cung cấp thông tin chuyên sâu của họ trong một nghiên cứu đăng trên tạp chí Public Choice vào ngày 17 tháng 8.

Các nhà nghiên cứu lập luận rằng các văn bản do LLM tạo ra như ChatGPT có thể chứa các sai sót và thành kiến ​​thực tế khiến người đọc hiểu sai và có thể mở rộng các vấn đề thành kiến ​​chính trị hiện có bắt nguồn từ phương tiện truyền thông truyền thống. Do đó, những phát hiện này có ý nghĩa quan trọng đối với các nhà hoạch định chính sách và các bên liên quan trong lĩnh vực truyền thông, chính trị và học thuật, các tác giả nghiên cứu lưu ý thêm:

“Sự hiện diện của thành kiến ​​chính trị trong các câu trả lời của nó có thể có tác động bầu cử và chính trị tiêu cực giống như thành kiến ​​truyền thống và truyền thông xã hội.”

Nghiên cứu dựa trên phương pháp thực nghiệm khám phá một loạt câu hỏi được cung cấp cho ChatGPT. Chiến lược thực nghiệm bắt đầu bằng cách yêu cầu ChatGPT trả lời các câu hỏi từ bài kiểm tra La bàn chính trị, bài kiểm tra này ước tính khuynh hướng chính trị của người trả lời. Cách tiếp cận này cũng được xây dựng dựa trên các thử nghiệm trong đó ChatGPT đóng giả một đảng viên Đảng Dân chủ hoặc Đảng Cộng hòa trung bình.

Kết quả của các thử nghiệm cho thấy rằng theo mặc định, thuật toán của ChatGPT thiên về các phản hồi từ phổ Đảng Dân chủ ở Hoa Kỳ. Các nhà nghiên cứu cũng lập luận rằng xu hướng chính trị của ChatGPT không phải là một hiện tượng giới hạn trong bối cảnh Hoa Kỳ. Họ viết:

“Thuật toán thiên về Đảng Dân chủ ở Hoa Kỳ, Lula ở Brazil và Đảng Lao động ở Vương quốc Anh. Kết hợp lại, các bài kiểm tra chính và độ bền của chúng tôi chỉ ra rõ ràng rằng hiện tượng này thực sự là một loại sai lệch hơn là kết quả cơ học.”

Các nhà phân tích nhấn mạnh rằng nguồn gốc chính xác của xu hướng chính trị tiềm ẩn của ChatGPT rất khó xác định. Các nhà nghiên cứu thậm chí đã cố gắng buộc ChatGPT vào một số loại chế độ dành cho nhà phát triển để cố gắng truy cập bất kỳ kiến ​​​​thức nào về dữ liệu thiên vị, nhưng LLM đã “khẳng định dứt khoát” rằng ChatGPT và OpenAI là không thiên vị.

OpenAI đã không trả lời ngay lập tức yêu cầu bình luận về vấn đề này.

Các tác giả của nghiên cứu cho rằng có thể có ít nhất hai nguồn sai lệch tiềm ẩn, bao gồm dữ liệu huấn luyện cũng như bản thân thuật toán.

Các nhà nghiên cứu kết luận: “Kịch bản có khả năng nhất là cả hai nguồn sai lệch đều ảnh hưởng đến đầu ra của ChatGPT ở một mức độ nào đó và việc tách rời hai thành phần này (dữ liệu huấn luyện so với thuật toán), mặc dù không tầm thường, nhưng chắc chắn là một chủ đề phù hợp cho nghiên cứu trong tương lai”.

Xu hướng chính trị không phải là mối quan tâm duy nhất liên quan đến các công cụ trí tuệ nhân tạo như ChatGPT hoặc các công cụ khác. Trong bối cảnh ChatGPT đang được áp dụng rộng rãi, mọi người trên khắp thế giới đã cảnh báo nhiều rủi ro liên quan, bao gồm cả những lo ngại về quyền riêng tư và giáo dục đầy thách thức. Một số công cụ AI, như trình tạo nội dung AI thậm chí còn gây lo ngại về quy trình xác minh danh tính trên các sàn giao dịch tiền điện tử.