Chuyên gia về blockchain và AI của IBM cho biết ChatGPT đặt ra một số ‘rủi ro chính’ cho việc sử dụng của doanh nghiệp

Liệt kê nhiều lĩnh vực cần quan tâm, Jerry Cuomo của IBM Automation đưa ra những cạm bẫy tiềm ẩn đối với các doanh nghiệp sử dụng ChatGPT.

Giám đốc công nghệ của IBM Automation Jerry Cuomo gần đây đã xuất bản một bài đăng trên blog trình bày những gì ông tuyên bố là một số rủi ro liên quan đến việc sử dụng ChatGPT cho doanh nghiệp. 

Theo bài đăng trên blog, có một số lĩnh vực rủi ro chính mà các doanh nghiệp nên xem xét trước khi vận hành ChatGPT. Tuy nhiên, cuối cùng thì Cuomo kết luận rằng chỉ những dữ liệu không nhạy cảm mới an toàn với ChatGPT:

Cuomo viết: “Sau khi dữ liệu của bạn vào ChatGPT, bạn không có quyền kiểm soát hoặc biết về cách nó được sử dụng.”

Theo bài đăng, loại rò rỉ dữ liệu không chủ ý này cũng có thể khiến các doanh nghiệp gặp khó khăn, nói một cách hợp pháp, nếu dữ liệu của đối tác, khách hàng hoặc khách hàng bị lộ ra công chúng sau khi bị rò rỉ vào dữ liệu đào tạo của ChatGPT.

Cuomo tiếp tục trích dẫn các rủi ro đối với tài sản trí tuệ và khả năng rò rỉ có thể khiến các doanh nghiệp vi phạm các thỏa thuận nguồn mở.

Theo bài đăng trên blog của IBM:

“Nếu thông tin nhạy cảm của bên thứ ba hoặc nội bộ công ty được nhập vào ChatGPT, thì thông tin đó sẽ trở thành một phần của mô hình dữ liệu của chatbot và có thể được chia sẻ với những người khác đặt câu hỏi có liên quan.”

Cointelegraph đã liên hệ với OpenAI để nhận xét về tuyên bố trên và nhận được phản hồi sau từ một trung gian quan hệ công chúng qua email: “[T]dữ liệu của anh ấy sẽ không được chia sẻ với những người khác đặt câu hỏi có liên quan.”

Người đại diện cũng đề cập đến tài liệu hiện có về các tính năng bảo mật của ChatGPT, bao gồm một bài đăng trên blog nêu chi tiết khả năng người dùng web tắt lịch sử trò chuyện của họ.

Theo OpenAI, API ChatGPT đã tắt tính năng chia sẻ dữ liệu theo mặc định.

The API policy is perfectly clear – what's confusing is the policy about conversations we have using the ChatGPT web interface and iOS/Android apps

— Simon Willison (@simonw) August 15, 2023

Tuy nhiên, các nhà phê bình đã chỉ ra rằng các cuộc hội thoại trên phiên bản web được lưu theo mặc định. Người dùng cũng phải từ chối cả việc lưu các cuộc trò chuyện của họ — một tính năng thuận tiện để tiếp tục từ nơi họ đã dừng lại — và sử dụng dữ liệu của họ để huấn luyện mô hình. Hiện tại, không có tùy chọn nào để giữ lại các cuộc trò chuyện mà không đồng ý chia sẻ dữ liệu.