Startup trình diễn mạng cơ sở hạ tầng GPU phi tập trung sắp tới cho OpenAI, Uber

Io.net đã xây dựng một mạng lưới cơ sở hạ tầng vật lý phi tập trung sẽ cung cấp sức mạnh tính toán GPU cho AI và học máy.

Một dự án bắt đầu như một hệ thống giao dịch định lượng cấp tổ chức cho tiền điện tử và cổ phiếu đã chuyển đổi để trở thành một mạng phi tập trung cung cấp sức mạnh tính toán GPU để phục vụ nhu cầu ngày càng tăng về dịch vụ trí tuệ nhân tạo (AI) và máy học (ML).

Io.net đã phát triển một mạng thử nghiệm lấy nguồn sức mạnh tính toán GPU từ nhiều trung tâm dữ liệu, công cụ khai thác tiền điện tử và nhà cung cấp lưu trữ phi tập trung. Việc tổng hợp sức mạnh tính toán của GPU được quảng cáo là sẽ giảm đáng kể chi phí thuê các nguồn này, vốn ngày càng trở nên đắt đỏ khi AI và máy học ngày càng phát triển.

Giám đốc điều hành và đồng sáng lập Ahmad Shadid đã giải thích chi tiết về mạng nhằm mục đích cung cấp một nền tảng phi tập trung để cho thuê sức mạnh tính toán với chi phí chỉ bằng một phần chi phí của các giải pháp thay thế tập trung hiện đang tồn tại.

Shadid giải thích cách dự án được hình thành vào cuối năm 2022 trong cuộc thi hackathon Solana. Io.net đang phát triển một nền tảng giao dịch định lượng dựa vào sức mạnh tính toán GPU cho các hoạt động tần số cao nhưng bị cản trở bởi chi phí thuê năng lực tính toán GPU quá cao.

Nhóm đã giải thích thách thức của việc thuê phần cứng GPU hiệu suất cao trong tài liệu cốt lõi của mình , với giá thuê một chiếc Nvidia A100 trung bình khoảng 80 USD mỗi ngày cho mỗi thẻ. Cần hơn 50 thẻ này để hoạt động 25 ngày một tháng sẽ tốn hơn 100.000 USD.

Một giải pháp đã được tìm thấy khi phát hiện ra Ray.io, một thư viện nguồn mở mà OpenAI sử dụng để phân phối chương trình đào tạo ChatGPT trên hơn 300.000 CPU và GPU. Thư viện đã sắp xếp hợp lý cơ sở hạ tầng của dự án, với phần phụ trợ của nó được phát triển trong thời gian ngắn hai tháng.

Shadid đã giới thiệu  mạng thử nghiệm hoạt động của Io.net tại Hội nghị thượng đỉnh Ray tập trung vào AI vào tháng 9 năm 2023, nêu bật cách dự án tổng hợp sức mạnh tính toán, sức mạnh này được cung cấp cho người tiêu dùng GPU dưới dạng cụm để đáp ứng các trường hợp sử dụng AI hoặc máy học cụ thể.

“Mô hình này không chỉ cho phép Io.net cung cấp khả năng tính toán GPU rẻ hơn tới 90% so với các nhà cung cấp hiện tại mà còn cho phép sức mạnh tính toán gần như không giới hạn.”

Mạng phi tập trung được thiết lập để tận dụng chuỗi khối của Solana để cung cấp SOL và đồng USD các khoản thanh toán cho các kỹ sư máy học và thợ mỏ đang thuê hoặc cung cấp sức mạnh tính toán.

“Khi các kỹ sư ML trả tiền cho cụm của họ, số tiền này sẽ được chuyển thẳng đến những người khai thác phục vụ trong cụm bằng GPU của họ, với một khoản phí mạng nhỏ được phân bổ cho giao thức Io.net.”

Lộ trình của dự án được thiết lập để bao gồm việc ra mắt hệ thống mã thông báo gốc kép sẽ có IO và IOSD. Mô hình mã thông báo sẽ thưởng cho những người khai thác khi thực hiện khối lượng công việc học máy và duy trì thời gian hoạt động của mạng trong khi xem xét chi phí tiêu thụ điện bằng USD.

“Đồng xu IO sẽ được giao dịch tự do trên thị trường tiền điện tử và là cánh cổng để tiếp cận sức mạnh tính toán, trong khi mã thông báo IOSD sẽ đóng vai trò là mã thông báo tín dụng ổn định được chốt theo thuật toán ở mức 1 USD.”

Shadid nói rằng Io.net về cơ bản khác với các dịch vụ đám mây tập trung như Amazon Web Services (AWS):

“Để so sánh, họ là United Airlines và chúng tôi là Kayak; họ sở hữu máy bay, trong khi chúng tôi giúp mọi người đặt chuyến bay.”

Người sáng lập nói thêm rằng bất kỳ doanh nghiệp nào yêu cầu tính toán AI thường sử dụng các nhà cung cấp bên thứ ba vì họ thiếu GPU để xử lý tất cả công việc nội bộ. Với nhu cầu GPU ước tính tăng 10 lần sau mỗi 18 tháng, Hadid cho rằng thường không đủ năng lực để đáp ứng nhu cầu, dẫn đến thời gian chờ đợi lâu và giá cao.

Điều này càng trở nên phức tạp bởi những gì ông mô tả là việc sử dụng không hiệu quả các trung tâm dữ liệu không được tối ưu hóa cho loại công việc AI và máy học đang gia tăng nhanh chóng:

“Chỉ riêng ở Mỹ đã có hàng nghìn trung tâm dữ liệu độc lập với tỷ lệ sử dụng trung bình là 12%–18%. Kết quả là, các nút thắt đang được tạo ra, điều này có tác động dây chuyền làm tăng giá điện toán GPU.”

Ưu điểm là người khai thác tiền điện tử trung bình sẽ thu được lợi nhuận bằng cách cho thuê phần cứng của họ để cạnh tranh với AWS. Hadid cho biết, người khai thác trung bình sử dụng A100 40 GB kiếm được 0,52 USD mỗi ngày, trong khi AWS đang bán cùng loại thẻ đó cho điện toán AI với giá 59,78 USD một ngày.

“Một phần trong đề xuất giá trị của Io.net là trước tiên, chúng tôi cho phép người tham gia tiếp cận thị trường điện toán AI và bán lại GPU của họ, đồng thời đối với các kỹ sư ML, chúng tôi rẻ hơn đáng kể so với AWS.”

Các số liệu được chia sẻ ước tính rằng những người khai thác có tài nguyên GPU theo ý của họ có thể kiếm được nhiều hơn 1.500% so với việc họ khai thác nhiều loại tiền điện tử.