NDR 400G: Cung cấp hiệu suất vô cùng mạnh mẽ cho Kỷ nguyên Exascale AI

Trang bị hiệu suất phá vỡ kỷ lục trong giao tiếp mạng

 

Kiến trúc NVIDIA® Mellanox® InfiniBand thế hệ thứ bảy, với công nghệ InfiniBand NDR 400 Gb/giây, mang đến cho các nhà phát triển AI và các nhà nghiên cứu khoa học hiệu suất mạng khả dụng nhanh nhất để giải quyết các vấn đề khó khăn nhất trên thế giới. NVIDIA Mellanox InfiniBand® đang là người mở đường với Software-Defined Networking, tăng tốc In-Network Computing, Remote Direct-Memory Access (RDMA), tốc độ và nguồn cấp dữ liệu nhanh nhất – bao gồm những cải tiến ấn tượng so với thế hệ HDR InfiniBand trước đó.

Giới thiệu NVIDIA NDR 400 Gb/s InfiniBand

 

Nâng cao các ứng dụng lẫn siêu máy tính HPC và AI

 

In-Network Computing được tăng tốc

Những hạ tầng tính toán hiệu suất cao (HPC), AI và hyperscale ngày nay yêu cầu kết nối nhanh hơn và mạng thông minh hơn để phân tích dữ liệu và chạy các mô phỏng phức tạp với tốc độ và hiệu quả cao hơn. NVIDIA Mellanox InfiniBand nâng cao và mở rộng In-Network Computing của mình với các công cụ tính toán được cấu hình sẵn và có thể lập trình chẳng hạn như thế hệ thứ ba của NVIDIA Mellanox Scalable Hierarchical Aggregation and Reduction Protocol (SHARPv3), MPI Tag Matching, MPI All-to-All và các lõi có thể lập trình được mang lại chi phí mỗi node và ROI tốt nhất.

 

 

Khả năng mở rộng không giới hạn

NDR InfiniBand với công nghệ SHARPv3 tạo ra khả năng mở rộng gần như không giới hạn để tổng hợp dữ liệu lớn thông qua mạng, với hỗ trợ lên đến 64 luồng song song – sức mạnh tăng tốc AI cao hơn 32 lần so với thế hệ HDR InfiniBand trước đó. Các công cụ phần cứng MPI All-to-All và MPI Tag Matching cùng với các khả năng khác như kiểm soát tắc nghẽn nâng cao, định tuyến thích ứng và mạng tự phục hồi, tất cả đều cung cấp những cải tiến quan trọng cho các cụm HPC và AI, cho phép chúng đạt được hiệu suất cao hơn nữa.

 

 

 

Truyền dẫn dữ liệu ở tốc độ ánh sáng

 

Host Channel Adapters

NDR InfiniBand Host Channel Adapter (HCA) với PCIe Gen4 và Gen5 hỗ trợ đa dạng các kiểu dáng, cung cấp các port mạng single hoặc dual ở tốc độ 400 Gb/s đối với NDR, 200 Gb/s đối với NDR200 và các tốc độ thấp hơn.

Các HCA này bao gồm những khả năng In-Network Computing nâng cao với các engine phần cứng MPI All-to-All và MPI Tag Matching và các cải tiến khác để nâng cao chất lượng dịch vụ (QoS) bao gồm định tuyến thích ứng, kiểm soát tắc nghẽn và hơn thế nữa. Các HCA cũng bao gồm các lõi tính toán có thể lập trình được cho phép giảm tải các thuật toán dữ liệu tiền xử lý và các đường dẫn điều khiển ứng dụng đến mạng mang lại hiệu suất, khả năng mở rộng cao hơn và tăng cường chồng chéo giữa tính toán và giao tiếp.

 

Edge Switches

Dòng switch biên NDR InfiniBand bao gồm 64 port NDR hoặc 128 port NDR200 trên các 32 connector Octal Small Form-factor Pluggable (OSFP) vật lý. Các switch biên 1U nhỏ gọn bao gồm các phiên bản làm mát bằng khí và làm mát bằng chất lỏng được quản lý bên trong hoặc bên ngoài.
Dòng switch này cung cấp tổng cộng 51,2 Tb/s thông lượng hai chiều, với công suất hơn 66,5 tỷ gói tin mỗi giây. Là một giải pháp InfiniBand rack-mounted lý tưởng, switch biên NDR InfiniBand cho phép sự linh hoạt tối đa cho nhiều loại cấu trúc liên kết bao gồm Fat Tree, DragonFly+, multi-dimensional Torus, Hypercube, v.v.

 

Modular Switches

Các switch dạng mô-đun NDR InfiniBand cung cấp những cấu hình port sau:

2048 port NDR (400 Gb/s) hoặc 4096 port NDR200 (200 Gb/s)

1024 port NDR (400 Gb/s) hoặc 2048 port NDR200 (200 Gb/s)

Switch mô-đun lớn nhất có thể mang tổng thông lượng 2 chiều là 1.64 Pb/s, gấp 5 lần so với switch mô-đun HDR InfiniBand thế hệ trước đó.

Switch mô-đun kích cỡ trung bình cung cấp tổng thông lượng hai chiều là 819 Tb/s.

 

Transceivers và Cables

Những tùy chọn kết nối NDR InfiniBand bao gồm sự đa dạng về loại transceiver và các connector multi-fiber push-on (MPO), active copper cable (ACC) và direct attached cable (DAC) với các option splitter 1-to-2 hoặc 1-to-4 cung cấp sự linh hoạt tối đa để xây dựng bất kỳ cấu trúc liên kết nào với hiệu suất cao nhất.

 

Hiệu suất, khả năng mở rộng và hiệu quả mạng hàng đầu thế giới

 

Hiệu suất

  • Băng thông 400 Gb/s mỗi port
  • 64 port NDR 400 Gb/s hoặc 128 port NDR200 200 Gb/s trong một switch duy nhất
  • 2048 port NDR hoặc 4096 port NDR200 trong một switch modular duy nhất
  • Hơn 66.5 tỷ gói tin mỗi giây (hai chiều) trên một thiết bị switch NDR duy nhất

 

Phá vỡ các kỷ lục của chính mình

  • Băng thông gấp 2 lần mỗi port so với HDR
  • Cơ số switch gấp 3 lần so với HDR
  • Sức mạnh tăng tốc AI cao hơn gấp 32 lần mỗi switch so với HDR
  • Hơn 1 triệu node 400 Gb/s trong một tier 4-switch (three hops) Dragonfly+ network. Cao hơn 6,5 lần so với HDR InfiniBand

 

Những tính năng chính

  • Full transport offload
  • RDMA, GPUDirect® RDMA, GPUDirect Storage
  • Các công cụ In-Network Computing có thể lập trình
  • Tăng tốc phần cứng MPI All-to-All
  • Tăng tốc phần cứng MPI Tag Matching
  • NVIDIA Mellanox SHARPv3
  • Định tuyến thích ứng, kiểm soát tắt nghẽn, và QoS nâng cao
  • Mạng tự phục hồi

 

 

 

Tham khảo các sản phẩm của Mellanox tại:
→ https://www.thegioimaychu.vn/thiet-bi-mang/mellanox
→ https://www.thegioimaychu.vn/linh-kien-may-chu/mellanox

 

Giới thiệu về Mellanox

Là một thành viên sau khi được NVIDIA mua lại vào tháng 4 năm 2020, Mellanox Technologies là nhà cung cấp hàng đầu về các giải pháp và dịch vụ kết nối thông minh trên Ethernet và InfiniBand cho máy chủ, hệ thống lưu trữ và hạ tầng siêu hội tụ. Các giải pháp kết nối thông minh của Mellanox làm tăng hiệu quả của trung tâm dữ liệu bằng cách cung cấp thông lượng cao nhất và độ trễ thấp nhất.

Nhất Tiến Chung (NTC) là nhà cung cấp các giải pháp hạ tầng Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là nhà phân phối chính thức của các hệ thống siêu máy tính cho AI với sức mạnh xử lý của GPU NVIDIA và mạng tốc độ cao từ Mellanox Technologies.

   Liên hệ tư vấn giải pháp    
1900 558879     presales@thegioimaychu.vn