PV Tech News – NVIDIA vừa chính thức ra mắt công nghệ bộ nhớ hoàn toàn mới mang tên NVHBM, hợp tác phát triển cùng Annapurna Labs thuộc Amazon. Chuẩn bộ nhớ này hứa hẹn giúp các hệ thống AI chạy nhanh hơn 30% và tiết kiệm 15% điện năng so với công nghệ HBM4E sắp tới.
Hiện nay, khi các mô hình AI cán mốc hàng nghìn tỷ tham số, băng thông bộ nhớ đang trở thành điểm nghẽn lớn nhất đối với hiệu năng xử lý. Để giải quyết bài toán này, NVIDIA đã giới thiệu NVHBM – giải pháp bộ nhớ DRAM tùy chỉnh được mở rộng từ kiến trúc NVLink Fusion, hướng tới các tác vụ AI đại lý (Agentic AI) và AI vật lý (Physical AI) trong tương lai. Điểm khác biệt cốt lõi của NVHBM nằm ở việc chuyển bộ điều khiển bộ nhớ (memory controller) ra khỏi chip xử lý chính (XPU) và tích hợp trực tiếp vào phần đế (base die) của chồng bộ nhớ HBM. Mạch điều khiển này do NVIDIA tự thiết kế và sẽ giao cho các nhà sản xuất bộ nhớ lớn gia công.
Bằng cách đưa bộ điều khiển bộ nhớ sang phần đế HBM, NVHBM mang lại 3 ưu điểm vượt trội cho hệ thống tăng tốc AI:
- Tăng băng thông bộ nhớ: Tốc độ truyền tải dữ liệu tăng hơn 30% so với chuẩn HBM4E tiêu chuẩn.
- Tiết kiệm điện năng: Mức tiêu thụ điện của bộ nhớ giảm tới 15%, giúp tiết kiệm chi phí vận hành đáng kể trên các trung tâm dữ liệu quy mô hàng ngàn XPU.
- Mở rộng không gian tính toán: Việc loại bỏ bộ điều khiển bộ nhớ giúp tiết kiệm tới 25% diện tích mặt đế của chip chính. Phần diện tích trống này có thể dùng để bổ sung thêm các nhân xử lý tính toán.
Bên cạnh đó, so với tiêu chuẩn JEDEC HBM4e, thiết kế này giúp giảm tới 67% diện tích mạch giao tiếp (PHY) và các thành phần phụ trợ. Giao diện kết nối thu gọn cũng giúp đơn giản hóa việc đi dây trên đế cắm (interposer), giải phóng thêm tới 80% diện tích silicon hữu dụng trên toàn bộ bề mặt thiết kế.
Để đẩy nhanh tiến độ thương mại hóa, NVIDIA đang thiết lập một tiêu chuẩn chung cho NVHBM nhằm cho phép nhiều nhà cung cấp bộ nhớ cùng sản xuất. Điều này giúp giảm thiểu thời gian nghiên cứu, thử nghiệm và giúp các đối tác trong hệ sinh thái NVLink Fusion đưa các dòng chip AI tùy chỉnh ra thị trường nhanh hơn.
Amazon sẽ là một trong những đối tác đầu tiên ứng dụng công nghệ này. Annapurna Labs (đơn vị thiết kế chip của Amazon) sẽ hợp tác với NVIDIA để tích hợp NVHBM và kiến trúc NVLink vào dòng chip AWS Trainium thế hệ mới (bắt đầu từ Trainium4). Nhờ đó, các vi xử lý của Amazon và GPU của NVIDIA có thể kết nối mượt mà trong cùng một hệ thống máy chủ rack-scale.
Đại diện NVIDIA cũng xác nhận công nghệ bộ nhớ tùy chỉnh này sẽ xuất hiện trên thế hệ GPU tiếp theo có tên mã Feynman, dự kiến sẽ chính thức trình làng vào năm 2028. Sự ra đời của NVHBM đánh dấu bước chuyển mình quan trọng trong kiến trúc bộ nhớ cho AI, giúp định hình lại hiệu năng của các siêu máy tính trong những năm tới. Đừng quên theo dõi Phong Vũ Tech News để cập nhật những xu hướng AI và tin tức công nghệ mới mỗi ngày.
Nguồn: Wccftech
Bài viết liên quan:
