OpenAI cam kết 1 triệu USD để hỗ trợ các sáng kiến ​​an ninh mạng do AI điều khiển

Khi bọn tội phạm nghĩ ra những cách sáng tạo để khai thác AI cho mục đích xấu, OpenAI vẫn cam kết trang bị cho “những người bảo vệ” các công cụ cần thiết.

Những tác động bất lợi của công nghệ trí tuệ nhân tạo (AI) trong tay bọn tội phạm, cho phép tạo ra phần mềm độc hại và giả mạo sâu, đã làm tăng tính cấp bách của hành động. 

OpenAI, người tạo ra ChatGPT và Dall-e, đã công bố chương trình tài trợ an ninh mạng trị giá 1 triệu đô la để tăng cường và đo lường tác động của các công nghệ an ninh mạng do AI điều khiển.

Công ty AI đã liên tục nhấn mạnh tầm quan trọng của quy định AI để ngăn chặn các ứng dụng độc hại tiềm ẩn. Trong một cuộc chạy đua vũ trang kỹ thuật số đang diễn ra, OpenAI dường như đang thực hiện các biện pháp chủ động để đảm bảo các lực lượng tích cực không bị tụt lại phía sau.

OpenAI đã trình bày một loạt các khái niệm dự án, bao gồm tạo ra các honeypot để gài bẫy những kẻ tấn công, hỗ trợ các nhà phát triển thiết kế phần mềm an toàn và tăng cường quy trình quản lý bản vá để đạt hiệu quả tối ưu.

Các mục tiêu của chương trình là rõ ràng, như OpenAI đã nêu trong bài đăng trên blog chính thức của mình: “Mục đích của chúng tôi là thúc đẩy sự tiến bộ của các khả năng an ninh mạng do AI điều khiển cho những người bảo vệ thông qua các khoản tài trợ và hỗ trợ bổ sung.” Trọng tâm là đánh giá hiệu quả của các mô hình AI và xác định các phương pháp để tăng cường khả năng an ninh mạng của họ.

Sáng kiến ​​đột phá này cố gắng đạt được ba mục tiêu chính. Thứ nhất, nó tìm cách “trao quyền cho những người bảo vệ” bằng cách tận dụng các khả năng của AI và các nỗ lực hợp tác để thay đổi cán cân theo hướng có lợi cho những người dành riêng cho việc tăng cường an toàn và bảo mật tổng thể.

Một trọng tâm khác của sáng kiến ​​là “đo lường các khả năng”. OpenAI nhằm cung cấp hỗ trợ cho các dự án tập trung vào phát triển các phương pháp định lượng để đánh giá hiệu quả của các mô hình AI trong lĩnh vực an ninh mạng. Ngoài ra, OpenAI dự định “nâng tầm thảo luận” bằng cách thúc đẩy các cuộc thảo luận chuyên sâu về mối quan hệ phức tạp giữa AI và an ninh mạng.

Sáng kiến ​​này phá vỡ quan điểm thông thường về an ninh mạng. OpenAI nhấn mạnh tầm quan trọng của cụm từ thường được nghe rằng những người bảo vệ phải luôn luôn đúng, trong khi những kẻ tấn công chỉ cần thành công một lần. Tuy nhiên, công ty nhận ra sức mạnh của sự hợp tác hướng tới mục tiêu chung là đảm bảo an toàn cho mọi người. Nó quyết tâm chứng minh rằng, với sự trợ giúp của AI, các hậu vệ có thể thay đổi động lực và chiếm thế thượng phong.