Đánh giá máy chủ GPU Supermicro SuperServer 4029GP-TRT3

SuperMicro SuperServer 4029GP-TRT3, là một phần của dòng sản phẩm GPU Server với các máy chủ 4U 4029GP. Máy chủ này hỗ trợ tới 6TB bộ nhớ và tối đa 9x GPU Nvidia cùng với việc sử dụng CPU Intel Xeon Scalable thế hệ mới giúp hiệu suất tổng thể của toàn hệ thống được nâng cao lên đáng kể.. Nó được thiết kế để kết xuất 3D, trí tuệ nhân tạo, phân tích dữ liệu, xử lý giao dịch trực tuyến và các ứng dụng đòi hỏi khắt khe khác.

Được thiết kế cho các ứng dụng tính toán chuyên sâu nhất, SuperServer 4029GP-TRT3 có khả năng cung cấp hỗ trợ lên tới 24x 2,5 inch ổ đĩa cứng. Khả năng thích ứng cao, hệ thống này là lý tưởng để thay đổi nhu cầu kinh doanh hoặc dự án cho các doanh nghiệp. Supermicro có ba cấu hình khác trong 4029 family, nhưng sự khác biệt duy nhất giữa các model là số lượng GPU mà nó hỗ trợ.

Đây là dòng máy chủ dạng nằm với kích thước tiêu chuẩn 4U rackmonut, với những thiết kế riêng biệt của hãng Supermicro. Ở thiết kế mặt trước, máy có 24 khe cắm ổ cứng dạng 2.5 inch, có thể sử dụng ổ cứng chuẩn SATA/SAS/NVMe cho cả ổ SSD hay HDD, mang lại hiệu năng cao, tốc độ nhanh chóng mà lại có độ trễ cực thấp. Đặc biệt với 24 ổ cứng, máy còn có khả năng lưu trữ lên đến khoảng hơn 190TB, giúp doanh nghiệp có một vùng lưu trữ “Bigdata”, phục vụ cho công việc Training, Suy luận, Triển khai các mô hình AI; DL; hay ML của mình. Ngoài ra, với khả năng rút nóng các ổ cứng, nó còn giúp cho người dùng thuận tiện và dễ dàng hơn trong việc bảo hành; bảo trì hệ thống, tránh làm gián đoạn hoạt động của hệ thống máy chủ. Bên cạnh các khe cắm ổ cứng thì máy còn có các đèn LED hiển thị trạng thái hoạt động; hai nút Power và Reset phục vụ cho việc quản trị hệ thống, giúp người dùng có thể theo dõi hiện trạng hoạt động của máy tốt hơn.

Phía sau của máy có thiết kế khá tiêu chuẩn với 4 bộ cấp nguồn (PSU), có thể rút nóng và hoạt động theo chế độ redundant (hỏng 1 nguồn máy vẫn vận hành) theo 2 cặp( 2+2) cung cấp công suất mạnh mẽ và ổn định cho hệ thống, đặc biệt khi sử dụng với các card GPUs có hiệu năng và công suất tiêu thụ lớn. Các bộ nguồn cũng cho phép rút nóng, dễ dàng trong việc tháo lắp và thay thế linh kiện Kế đến là cổng VGA và 4 cổng USB giúp kết nối đến các thiết bị ngoại vi.

Về các kết nối mạng, ta có thể thấy có 3 cổng kết nối. Một cổng LAN đơn độc ở phía trên các cổng USB 2.0 là cổng quản lý, giúp kết nối từ xa để quản trị, cấu hình hệ thống máy chủ thông qua phần mềm IPMI 2.0. Đối với kết nối mạng tiêu chuẩn, có hai cổng dựa trên bộ điều khiển mạng Intel C622 với tốc độ cao 10Gbps, giúp hệ thống mạng nội bộ hoạt động ổn định và hiêu quả với tốc độ cao.

Ở phía trên của mặt sau, chúng ta có thể thấy các khe tản nhiệt, giúp hệ thống xả các lưu lượng nhiệt tỏa ra trong qua trình hoạt động của các card GPU, giúp máy có thể đc tối ưu hơn trong quá trình hoạt động cũng như chế độ làm mát cho các linh kiện bên trong, đặc biệt là các GPUs dạng Passive.

Trái tim của máy chủ là bo mạch chủ Supermicro X11DPG-OT-CPU, là trung tâm giúp liên kết và điều khiển tất cả linh kiện thiết yếu như CPU, RAM, các khe cắm PCIe và ổ cứng lưu trữ với nhau thành một khối thống nhất, mang lại hiệu quả hoạt động rất tốt cho hệ thống máy chủ.

Hiệu năng hoạt động của hệ thống được tối ưu bằng việc hỗ trợ sử dụng CPU hiệu suất cao Intel Xeon Scalable thế hệ 1 & 2 với các dòng cao cấp như Silver; Gold hay Platinum. Với hiệu năng tối đa cho mỗi CPU lên đến 28 nhân 58 luồng, mang lại hiệu quả hoạt động và tốc độ truy xuất dữ liệu cực kỳ nhanh chóng, rất lý tưởng cho các hệ thống AI; ML; DL….Và với cấu hình sử dụng 2 CPU hiệu năng cao thì chắc chắn sẽ mang lại hiệu quả hoạt động; hiệu quả công việc rất tuyệt vời cho các doanh nghiệp.

Song song với CPU Intel Xeon Scalable hiệu năng cao chính là bộ nhớ RAM DDR4 Enterprise, dòng chuyên dụng dành cho các máy chủ hiệu năng cao. Máy chủ này hỗ trợ gắn tối đa 24 khe cắm RAM DDR4 với các dung lượng tùy chọn từ 16-128GB cho mỗi thanh, như vậy với 24 khe cắm, chúng ta có dung lượng bộ nhớ tối đa lên đến 6TB với tốc độ cao 2933 Mhz. Với bộ nhớ có dung lượng và tốc độ cao, đặc biệt với dòng RAM giảm tải LRDIMM, đây là một sự kết hợp hoàn hảo dành cho các mô hình Trí Tuệ Nhân Tạo, Deep Learning….mang lại khả năng hoạt động tốt nhất cho các mô hình này, giúp cho việc nghiên cứu, đào tạo….ứng dụng trí thông minh vào hoạt động kinh doanh, công việc của các doanh nghiệp tốt hơn và hiệu quả hơn.

Một thành phần không kém phần quan trọng, góp phần làm nên sức mạnh cho bộ máy GPU server chính là các card GPU hiệu năng cao. Máy chủ 4029GP-TRT3 hỗ trợ gắn được 9 card GPU dạng double-wide hiệu năng cao của hãng NVIDIA, tiêu biểu là dòng Tesla với các model cao cấp như T4; P4; P40; P100 và đặc biệt là dòng Tesla V100. Với sự hỗ trợ của tối đa 9 GPUs Tesla hiệu năng cao này, giúp cho các mô hình cấp cao của doanh nghiệp được triển khai, hoạt động với tốc độ và tính chính xác cực cao với sự hỗ trợ tối đa của NVIDIA khi họ tích hợp rất nhiều các thuật toán vào các GPU Tesla, tiêu biểu nhất là dòng V100, với hiệu năng và khả năng tính toán, suy luận rất cao thì đây là GPU tốt nhất dành cho AI ở thời điểm hiện tại.

Các GPUs này sẽ được cấp nguồn từ các chân cắm nguồn 8 pin gắn trực tiếp từ Mainboard, và được kết nối trực tiếp qua các khe cắm PCIe hổ trợ trên Backplane X11DPG-O-PCIE  với 11 khe PCI-E 3.0 x16, 1 khe PCI-E 3.0 x8. Với sự đa dạng về các chuẩn PCIe như vậy, nó sẽ giúp cho người dùng có thể lắp đặp thêm các card mở rộng khác như card Network, card RAID controller hay card HBA….tùy thuộc vào các nhu cầu sử dụng khác nhau của doanh nghiệp, tối ưu hóa hiệu quả hoạt động cho các mô hình ẠI, DL, ML của doanh nghiệp.

Với hiệu năng hoạt động mạnh mẽ: CPU 56 nhân 112 luồng, bộ nhớ RAM 6TB tốc độ 2933 Mhz; ổ cứng 2.5 inch HDD/SSD tốc độ truy xuất nhanh chóng và đặc biệt là khả năng kết nối lên đến 9 GPUs cao cấp, Server GPU System 4029GP-TRT3 là một lựa chọn lý tưởng, phục vụ cho các dự án trí tuệ nhân tạo, Deep Learning, Machine Learning, HPC hoặc VDI… Bên cạnh đó, với thiết kế dạng nằm kích thước tiêu chuẩn 4U, các doanh nghiệp có thể dễ dàng lắp đặt máy ở trên Data Center giúp tối ưu về chi phí cho cơ sở hạ tầng mà vẫn đảm bảo hệ thống máy chủ của mình hoạt động ổn định và hiệu quả.

 

Liên hệ tác giả