Google ra mắt siêu máy tính AI sử dụng GPU NVIDIA H100

Siêu máy tính A3 được thiết kế để đào tạo và phục vụ các mô hình AI đòi hỏi khắt khe.

Google vừa ra mắt siêu máy tính A3 thế hệ tiếp theo được xây dựng cho AI, trang bị GPU NVIDIA H100. Các thiết bị này “được build để nhắm đến đào tạo AI và phục vụ các mô hình AI đòi hỏi khắt khe nhất, cung cấp sức mạnh cho sự phát triển vượt bậc của các mô hình ngôn ngữ lớn và AI ngày nay”.

Google A3 Supercomputer sử dụng IPU (Infrastructure Processing Unit) có tốc độ lên đến 200Gbps được thiết kế tùy chỉnh và cung cấp băng thông mạng gấp 10 lần so với các máy ảo A2 của hãng. Chúng cung cấp tới 26 exaFlop hiệu suất AI, giúp “cải thiện đáng kể thời gian và chi phí đào tạo các mô hình ML lớn.”

GPU H100 của NVIDIA

GPU NVIDIA H100 phiên bản PCIe hiện có thể đặt hàng tại Thế Giới Máy Chủ

Thông số kỹ thuật chính của Google A3 Supercomputer:

8 H100 GPUs utilizing NVIDIA’s Hopper architecture, delivering 3 times compute throughput
3.6 TB/s bisectional bandwidth between A3’s 8 GPUs via NVIDIA NVSwitch and NVLink 4.0
Next-generation 4th Gen Intel Xeon Scalable processors
2TB of host memory via 4800 MHz DDR5 DIMMs
10 times greater networking bandwidth powered by our hardware-enabled IPUs, specialized inter-server GPU communication stack and NCCL optimizations

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

____
Bài viết liên quan