Edge Computing: Điện toán biên cần một nền tảng toàn diện từ đầu đến cuối

Đây là kỷ nguyên của điện toán tăng tốc! Hàng nghìn tỷ thiết bị, cảm biến và máy móc hoạt động tự động, chạy AI và các ứng dụng doanh nghiệp trong trung tâm dữ liệu, trên đám mây và ngay tại rìa mạng. Mạng lưới Internet-of-things (IoT) rộng lớn này sẽ có quy mô gấp 1.000 lần so với mạng internet mà chúng ta biết ngày nay. Nền tảng NVIDIA EGX, với hiệu năng cao ngay tại biên, khả năng quản lý chặt chẽ và hạ tầng do phần mềm định nghĩa, làm cho viễn cảnh này khả thi hơn bao giờ hết.

Hệ thống AI mạnh mẽ, an toàn, từ Trung tâm dữ liệu đến rìa mạng

Nền tảng NVIDIA EGX mang đến sức mạnh của điện toán AI được tăng tốc từ trung tâm dữ liệu đến vùng biên với một loạt phần cứng được tối ưu hóa, hỗ trợ dịch vụ quản lý và lớp phần mềm đám mây gốc dễ triển khai và một hệ sinh thái rộng lớn gồm nhiều đối tác cung cấp EGX thông qua sản phẩm và dịch vụ của họ.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

Giải pháp phần cứng cho mọi mắc xích

Danh mục phần cứng EGX bao gồm từ dòng NVIDIA Jetson nhỏ bé, tiết kiệm điện cho các tác vụ như nhận dạng hình ảnh và kết hợp cảm biến ở rìa, đến toàn bộ tủ rack của hệ thống được chứng nhận bởi NVIDIA cho trung tâm dữ liệu, có thể cung cấp hơn 10.000 tops (tera operations per second) để phục vụ hàng trăm người dùng với khả năng nhận dạng giọng nói thời gian thực và các trải nghiệm AI phức tạp khác. Và các bộ tăng tốc EGX tập trung kết hợp hiệu năng của GPU NVIDIA Ampere và công nghệ mạng NVIDIA Mellanox SmartNIC, cùng với các DPU (data processing unit) để tạo ra các trung tâm dữ liệu nhanh hơn, hiệu quả hơn và an toàn hơn.

Các ứng dụng thuần đám mây (Cloud-native)

Với phân lớp NVIDIA EGX, các vấn đề CNTT truyền thống về cài đặt phần mềm trên các hệ thống từ xa sẽ biến mất. Sử dụng Helm chart, container và Continuous Integration / Countinuous Delivery (CI/CD), các đơn vị có thể triển khai các container AI, dễ dàng cập nhật trong vài phút. NVIDIA GPU Operator và NVIDIA Network Operator đều chuẩn hóa và tự động hóa việc triển khai tất cả các thành phần cần thiết để cung cấp các cụm Kubernetes.

Kiến trúc EGX stack được hỗ trợ bởi các đối tác nền tảng đám mây lai hàng đầu: Canonical, Cisco Container Platform (CCP), Microsoft Azure, Nutanix, Red Hat và VMware.

Chạy các ứng dụng chuyên ngành trên NVIDIA NGC Catalog

Danh mục NVIDIA NGC bao gồm một loạt các phần mềm tăng tốc GPU, bao gồm các ứng dụng AI và khoa học dữ liệu hàng đầu cho mọi ngành, được điều chỉnh, thử nghiệm và tối ưu hóa để chạy trên hệ thống EGX. Danh mục này cũng cung cấp cho người dùng quyền truy cập vào các mô hình được đào tạo trước dành riêng cho lĩnh vực của bên thứ ba và các Helm chart sẵn sàng của Kubernetes, giúp dễ dàng triển khai phần mềm mạnh mẽ hoặc xây dựng các giải pháp tùy chỉnh.

NVIDIA Fleet Command, chạy trong danh mục NGC, có thể triển khai và quản lý các ứng dụng chuyên ngành ở rìa mạng và xử lý các tác vụ quản lý phức tạp trước đây như cập nhật phần mềm hệ thống qua mạng hoặc theo dõi sức khỏe hệ thống.

MÁY CHỦ EGX DÀNH CHO CÁC ỨNG DỤNG MÔ PHỎNG CHUYÊN NGHIỆP

NVIDIA A40, cùng với phần mềm NVIDIA vGPU, là trung tâm của các máy chủ NVIDIA EGX thế hệ tiếp theo triển khai các ứng dụng đồ họa chuyên nghiệp, mang lại hiệu suất và các tính năng có thể hỗ trợ đồ họa chuyên nghiệp ở bất cứ đâu.

→ Tìm hiểu về NVIDIA EGX Server

Chạy các ứng dụng doanh nghiệp cùng AI

Trung tâm dữ liệu doanh nghiệp đang ở một thời điểm mà – trung tâm dữ liệu kế thừa, siêu hội tụ đang nhường chỗ cho một hạ tầng IT hiện đại, tách biệt, được bảo mật và được tăng tốc. Trung tâm dữ liệu ngày nay ngày càng được định nghĩa bằng phần mềm để giúp bảo mật, hộ trợ mạng, lưu trữ và khả năng quản lý. Với số lượng người dùng ngày càng tăng, tốc độ dữ liệu bùng nổ, sự ra đời của công nghệ ảo hóa và điện toán đám mây , gánh nặng xử lý đối với trung tâm dữ liệu ngày càng tăng.

Khi các doanh nghiệp hướng tới AI và điện toán đám mây, một kiến trúc trung tâm dữ liệu mới là cần thiết để hỗ trợ cho các ứng dụng hiện đại, sử dụng nhiều dữ liệu được tăng tốc và bảo mật trên cùng một cơ sở hạ tầng. NVIDIA và các đối tác đang dẫn đầu xu hướng chuyển dịch. Kết quả đạt được cho khách hàng là các sản phẩm và dịch vụ tốt hơn được cung cấp cho khách hàng nhanh hơn bao giờ hết, đồng thời tiếp tục đáp ứng các mục tiêu hoạt động về bảo mật, hiệu quả và độ tin cậy.

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

____
Bài viết liên quan

Vanito Hoang