Startup Hàn Quốc trình làng máy chủ AI tiết kiệm năng lượng, thách thức Nvidia H100

Giải pháp tiết kiệm năng lượng cho hạ tầng AI

Trong bối cảnh nhu cầu về cơ sở hạ tầng AI tăng vọt, việc tìm ra giải pháp phần cứng vừa mạnh mẽ vừa tiết kiệm năng lượng là bài toán cấp thiết. Startup Hàn Quốc FuriosaAI, với sự hậu thuẫn của LG, vừa giới thiệu RNGD Server, dòng máy chủ được đánh giá có hiệu năng tương đương Nvidia H100 nhưng vượt trội về hiệu quả năng lượng.

Theo công bố, mỗi hệ thống RNGD có sức mạnh tính toán 4 petaflop (tương đương hàng triệu tỷ phép tính mỗi giây) và 384 GB bộ nhớ HBM3, trong khi mức tiêu thụ điện chỉ 3 kW. Để so sánh, máy chủ Nvidia DGX H100 có thể “ngốn” hơn 10 kW cho cùng mức hiệu năng. Điều này đồng nghĩa một rack trung tâm dữ liệu giới hạn 15 kW có thể chứa 5 máy RNGD, thay vì chỉ vừa 1 máy DGX H100.

Thiết kế này giúp giải quyết rào cản lớn của các doanh nghiệp: đa số trung tâm dữ liệu hiện chỉ giới hạn mức 8 kW/rack, do yêu cầu phức tạp về làm mát và cấp điện. Với RNGD, doanh nghiệp có thể mở rộng hạ tầng AI nhanh chóng, tiết kiệm chi phí đầu tư và duy trì tính tương thích với API của OpenAI.

Đặc biệt, FuriosaAI nhấn mạnh sản phẩm hướng đến khả năng suy luận trên mỗi watt cao gấp đôi so với GPU truyền thống, một yếu tố sống còn khi AI ngày càng “ngốn” năng lượng khổng lồ.

Tham vọng định hình tương lai AI

FuriosaAI không phải cái tên xa lạ trong giới công nghệ. Startup này từng gây chú ý khi từ chối lời đề nghị mua lại trị giá 800 triệu USD từ Meta, cho thấy sự tự tin vào con đường độc lập.

Mới đây, công ty hoàn tất vòng gọi vốn series C trị giá 125 triệu USD, đồng thời mở rộng hợp tác với LG AI Research. LG hiện sử dụng RNGD để vận hành mô hình Exaone, đạt hiệu suất suy luận cao gấp đôi trên mỗi watt so với GPU thông thường. Trước đó, FuriosaAI cũng hợp tác cùng OpenAI trình diễn chatbot gpt-oss 120B, chạy thời gian thực chỉ với hai bộ tăng tốc RNGD – minh chứng rõ ràng cho sức mạnh phần cứng mới.

Theo giới phân tích, RNGD không chỉ là giải pháp tiết kiệm chi phí cho doanh nghiệp mà còn mở ra hướng đi mới cho ngành công nghiệp AI toàn cầu. Khi các mô hình ngôn ngữ lớn (LLM) ngày càng phức tạp, việc duy trì hiệu năng mà không “bóp nghẹt” hạ tầng năng lượng trở thành yếu tố cạnh tranh sống còn.

Hiện RNGD đang được nhiều khách hàng thử nghiệm và dự kiến mở đơn đặt hàng vào đầu năm 2026. Nếu thành công, FuriosaAI có thể trở thành đối thủ đáng gờm với Nvidia – gã khổng lồ đang chiếm lĩnh thị trường chip AI.