NVIDIA DGX Station A100 - Trung tâm dữ liệu AI trong một chiếc máy trạm - Blog

NVIDIA vừa qua đã công bố NVIDIA DGX Station™ A100 – máy trạm làm việc và là máy chủ dành cho workgroup ở cấp petascale duy nhất trên thế giới. Thế hệ thứ hai của hệ thống AI đột phá DGX Station A100 tăng tốc các workload có đòi hỏi khắt khe trong lĩnh vực machine learning và khoa học dữ liệu cho các nhóm làm việc trong văn phòng công ty, cơ sở nghiên cứu, phòng thí nghiệm hoặc văn phòng gia đình ở bất cứ đâu.

Cung cấp 2,5 petaflop hiệu suất AI, DGX Station A100 là máy chủ dành cho nhóm làm việc duy nhất có bốn GPU NVIDIA® A100 Tensor Core mới nhất được kết nối hoàn toàn với NVIDIA NVLink®, cung cấp bộ nhớ GPU lên đến 320GB để tăng tốc độ đột phá trong khoa học dữ liệu doanh nghiệp và AI.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

DGX Station A100 cũng là máy chủ nhóm làm việc duy nhất hỗ trợ công nghệ NVIDIA Multi-Instance GPU (MIG). Với MIG, một DGX Station A100 duy nhất cung cấp tới 28 phiên bản GPU riêng biệt để chạy các công việc song song và hỗ trợ nhiều người dùng mà không ảnh hưởng đến hiệu suất hệ thống.

Charlie Boyle, phó chủ tịch kiêm tổng giám đốc hệ thống DGX tại NVIDIA cho biết: “DGX Station A100 mang AI ra khỏi trung tâm dữ liệu với một hệ thống cấp máy chủ có thể cắm ở bất kỳ đâu. “Các nhóm nghiên cứu khoa học dữ liệu và AI có thể tăng tốc công việc của họ bằng cách sử dụng cùng một phần mềm như hệ thống NVIDIA DGX A100, cho phép họ dễ dàng mở rộng quy mô từ phát triển đến triển khai”.

DGX Station tạo sức mạnh cho các sáng tạo trong AI

Các tổ chức trên khắp thế giới đã sử dụng DGX Station để cung cấp sức mạnh cho AI và khoa học dữ liệu trong các ngành như giáo dục, dịch vụ tài chính, chính phủ, chăm sóc sức khỏe và bán lẻ. Những công ty ứng dụng AI hàng đầu này bao gồm:

BMW Group Production đang sử dụng NVIDIA DGX Station để khai phá thông tin hữu ích nhanh hơn khi họ phát triển và triển khai các mô hình AI giúp cải thiện hoạt động.
DFKI, Trung tâm Nghiên cứu Trí tuệ Nhân tạo của Đức, đang sử dụng DGX Station để xây dựng các mô hình giải quyết các thách thức quan trọng đối với xã hội và ngành, bao gồm các hệ thống thị giác máy tính giúp các dịch vụ khẩn cấp phản ứng nhanh với thiên tai.
Lockheed Martin đang sử dụng DGX Station để phát triển các mô hình AI sử dụng dữ liệu cảm biến và nhật ký dịch vụ để dự đoán nhu cầu bảo trì nhằm cải thiện thời gian hoạt động sản xuất, tăng độ an toàn cho người lao động và giảm chi phí vận hành.
NTT Docomo, nhà khai thác di động hàng đầu Nhật Bản với hơn 79 triệu thuê bao, sử dụng DGX Station để phát triển các dịch vụ sáng tạo dựa trên AI như giải pháp nhận dạng hình ảnh.
Pacific Northwest National Laboratory đang sử dụng NVIDIA DGX Station để thực hiện nghiên cứu do liên bang tài trợ nhằm hỗ trợ vấn đề an ninh quốc gia. Tập trung vào đổi mới công nghệ trong lĩnh vực tái tạo năng lượng và an ninh quốc gia, PNNL là trung tâm HPC hàng đầu của Hoa Kỳ về khám phá khoa học, tái tạo năng lượng, hóa học, khoa học Trái đất và phân tích dữ liệu.

Siêu máy tính AI ở bất cứ đâu

Mặc dù DGX Station A100 không yêu cầu cấp nguồn hoặc làm mát cấp trung tâm dữ liệu, nhưng đây là hệ thống cấp máy chủ có cùng khả năng quản lý từ xa như hệ thống trung tâm dữ liệu NVIDIA DGX A100. Quản trị viên hệ thống có thể dễ dàng thực hiện bất kỳ tác vụ quản lý nào qua kết nối từ xa khi các nhà khoa học và nghiên cứu dữ liệu đang làm việc tại nhà hoặc trong phòng thí nghiệm.

DGX Station A100 có sẵn với bốn GPU NVIDIA A100 Tensor Core 80GB hoặc 40GB, cung cấp các tùy chọn cho nhóm nghiên cứu khoa học dữ liệu và AI để lựa chọn một hệ thống theo khối lượng công việc và ngân sách riêng của họ.

Để cung cấp năng lượng cho các mô hình AI hội thoại phức tạp như BERT Large inference, DGX Station A100 nhanh hơn gấp 4 lần so với DGX Station thế hệ trước. Nó mang lại hiệu suất tăng gần gấp 3 lần cho việc đào tạo BERT Large AI.

Tăng gấp đôi bộ nhớ GPU cho AI, HPC

Đối với khối lượng công việc trung tâm dữ liệu nâng cao, hệ thống DGX A100 sẽ có sẵn GPU NVIDIA A100 80GB mới, tăng gấp đôi dung lượng bộ nhớ GPU lên 640GB cho mỗi hệ thống để cho phép các nhóm AI tăng cường độ chính xác với các bộ dữ liệu và mô hình lớn hơn.

Hệ thống NVIDIA DGX A100 640GB mới cũng có thể được tích hợp vào Giải pháp NVIDIA DGX SuperPOD (TM) cho Doanh nghiệp, cho phép các tổ chức xây dựng, đào tạo và triển khai các mô hình AI khổng lồ trên các siêu máy tính AI chìa khóa trao tay có sẵn trong đơn vị 20 hệ thống DGX A100.

Các phần đầu tiên của hệ thống DGX SuperPOD với DGX A100 640GB sẽ bao gồm siêu máy tính Cambridge-1 đang được lắp đặt tại Vương quốc Anh để tăng cường năng lực cho nghiên cứu chăm sóc sức khỏe, cũng như siêu máy tính AI HiPerGator mới của Đại học Florida sẽ cung cấp sức mạnh cho khám phá được truyền AI trên khắp Bang Sunshine .

Tính sẵn sàng

Hệ thống NVIDIA DGX Station A100 và NVIDIA DGX A100 640GB sẽ có sẵn trong quý này thông qua các đại lý của NVIDIA Partner Networks trên toàn thế giới. Tùy chọn nâng cấp có sẵn cho khách hàng NVIDIA DGX A100 320GB.

Nhất Tiến Chung tự hào được NVIDIA chọn làm đối tác cung cấp các hệ thống máy chủ tăng tốc cho AI cấp trung tâm dữ liệu tại Việt Nam. Đội ngũ chuyên viên được đào tạo và cấp chứng chỉ từ NVIDIA giúp khách hàng dễ dàng được tư vấn cấu hình phù hợp cho dự án.

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

____
Bài viết liên quan

Vanito Hoang