Tại IFA 2026, AMD đã công bố Threadripper Halo, một hệ thống máy trạm làm mát bằng chất lỏng mạnh mẽ, tích hợp bộ tăng tốc Instinct MI350P nhằm cạnh tranh trực tiếp với DGX Station của Nvidia trong lĩnh vực nghiên cứu AI tại chỗ.
What happened
Trong bối cảnh các nhà nghiên cứu học máy ngày càng có nhu cầu xử lý AI cục bộ để đảm bảo quyền riêng tư và hiệu suất, AMD đã tận dụng các linh kiện cao cấp sẵn có để tạo ra đối thủ cho DGX Station của Nvidia. Được công bố tại IFA 2026, Threadripper Halo đánh dấu lần đầu tiên dòng tăng tốc Instinct của AMD được đưa vào định dạng máy trạm (workstation). Hệ thống này nhắm đến phân khúc nghiên cứu cao cấp, nơi người dùng cần sức mạnh tính toán khổng lồ ngay tại văn phòng thay vì phụ thuộc hoàn toàn vào các trung tâm dữ liệu tập trung.
Thay đổi kỹ thuật: Sự kết hợp giữa Threadripper PRO và Instinct MI350P
Trái tim của hệ thống là vi xử lý Threadripper PRO 9995WX 96 lõi (ra mắt năm 2025), hỗ trợ tới 2 TB bộ nhớ DDR5. Điểm nhấn thực sự nằm ở khả năng trang bị tối đa 4 GPU Instinct MI350P dựa trên chuẩn PCIe. Mỗi card MI350P cung cấp 144 GB bộ nhớ HBM3e với băng thông 4 TB/s và hiệu suất tính toán FP4 đạt 4,6 petaFLOPS. Khi kết hợp tối đa, hệ thống đạt tới 576 GB HBM3e và băng thông bộ nhớ 16 TB/s, cho phép vận hành các mô hình trên 1. 000 tỷ tham số hoàn toàn trên bộ nhớ GPU ở độ chính xác 4-bit.
The evidence so far
Với cấu hình này, Threadripper Halo có thể chạy các mô hình trọng số mở lớn nhất hiện nay, ví dụ như Kimi K3 của Moonshot. AI với 2,8 nghìn tỷ tham số, bằng cách đẩy một phần dữ liệu sang bộ nhớ hệ thống. AMD khẳng định hệ thống của họ cung cấp tổng bộ nhớ gấp 3,4 lần và băng thông bộ nhớ gấp đôi so với DGX Station của Nvidia (vốn dùng GPU B300 252 GB và CPU Grace 72 lõi). Điều này mang lại lợi thế đáng kể trong việc suy luận mô hình ngôn ngữ lớn (LLM), giúp giảm thiểu độ trễ và tăng tốc độ xử lý cho các dự án nghiên cứu phức tạp.
Giới hạn và rủi ro: Thách thức về năng lượng và chi phí
Sức mạnh cực đại đi kèm với những rào cản lớn về hạ tầng. Một hệ thống chạy 4 card MI350P có thể vượt quá giới hạn của ổ cắm điện tiêu chuẩn tại Bắc Mỹ trừ khi AMD hạ xung nhịp các card từ 600W xuống 300W hoặc yêu cầu mạch điện 20 amp chuyên dụng. Đây có thể là lý do các bản mẫu tại IFA chỉ lắp đặt 2 GPU. Ngoài ra, mức giá dự kiến từ 100. 000 đến 150. 000 USD là một khoản đầu tư khổng lồ, chưa kể đến rủi ro nghẽn cổ chai tại bus PCIe của CPU khi thực hiện các tác vụ song song tensor (tensor parallel operations).
What is still unclear
AMD dự kiến sẽ chính thức mở bán Threadripper Halo vào năm sau (2027). Giới công nghệ sẽ cần theo dõi liệu AMD có thực hiện các điều chỉnh về điện năng để phù hợp với môi trường văn phòng hay không, cũng như mức giá chính thức khi đối đầu với sự khan hiếm hàng của Nvidia DGX Station. Hiệu suất thực tế của việc kết hợp giữa bộ nhớ hệ thống và bộ nhớ GPU để chạy các mô hình siêu lớn như Kimi K3 cũng sẽ là điểm mấu chốt quyết định sự thành công của dòng máy trạm 'Halo' này.
Latest comments
0No comments yet. You can start the conversation.