Thiết kế và xây dựng hạ tầng CNTT cho Trí tuệ Nhân tạo

Việc xây dựng hạ tầng CNTT cho Trí tuệ Nhân tạo (AI) đòi hỏi những đánh giá kỹ lưỡng về nhu cầu lưu trữ, về hệ thống mạng và dữ liệu, kết hợp với việc lập kế hoạch một cách hoàn chỉnh và có chủ đích.

Hạ tầng cho AI không đơn giản như các hệ thống CNTT thông thường. Thành công cuối cùng của một doanh nghiệp/tổ chức với AI phụ thuộc nhiều vào mức độ phù hợp của môi trường IT đối với các ứng dụng cần nhiều tài nguyên này. Trong khi các dịch vụ đám mây đang nổi lên như một nguồn lực mới cho các tải xử lý AI sử dụng nhiều dữ liệu, phần lớn các công ty hiện nay vẫn dựa vào môi trường CNTT tại chỗ của họ cho các dự án này.

Lưu trữ dữ liệu lớn: Các yêu cầu về hạ tầng cho AI

Một trong những cân nhắc lớn nhất là lưu trữ dữ liệu AI, đặc biệt là khả năng mở rộng quy mô lưu trữ khi khối lượng dữ liệu tăng lên. Khi các công ty chuẩn bị các chiến lược AI cho doanh nghiệp và xây dựng cơ sở hạ tầng cần thiết, lưu trữ phải được ưu tiên hàng đầu. Điều đó bao gồm việc đảm bảo dung lượng lưu trữ thích hợp, chỉ số IOPS và độ tin cậy để xử lý lượng dữ liệu khổng lồ cần thiết cho AI một cách hiệu quả.

Giải pháp hạ tầng Deep Learning, Trí tuệ Nhân tạo - AI

Việc tìm ra loại dung lượng lưu trữ mà doanh nghiệp cần phụ thuộc vào nhiều yếu tố, bao gồm cấp độ triển khai AI mà doanh nghiệp có kế hoạch sử dụng và liệu doanh nghiệp có cần đưa ra quyết định theo thời gian thực hay không.

Ví dụ: đối với hệ sinh thái mạng nơ-ron tiên tiến, có giá trị cao, kiến trúc lưu trữ gắn với mạng truyền thống có thể gây ra các vấn đề với việc mở rộng do hạn chế về I/O và độ trễ. Tương tự, một công ty dịch vụ tài chính sử dụng hệ thống AI của doanh nghiệp cho các quyết định giao dịch trong thời gian thực có thể cần công nghệ lưu trữ nhanh.

Nhiều công ty đã và đang xây dựng các môi trường phân tích và dữ liệu lớn được thiết kế để hỗ trợ khối lượng dữ liệu khổng lồ và những môi trường này có thể sẽ phù hợp với nhiều loại ứng dụng AI.

Một yếu tố khác là bản chất của dữ liệu nguồn. Các ứng dụng AI phụ thuộc vào dữ liệu nguồn, vì vậy một tổ chức cần biết dữ liệu nguồn nằm ở đâu và các ứng dụng AI sẽ sử dụng nó như thế nào. Ví dụ: các ứng dụng sẽ phân tích dữ liệu cảm biến trong thời gian thực hay chúng sẽ sử dụng xử lý hậu kỳ?

Bạn cũng cần tính đến lượng dữ liệu ứng dụng AI sẽ tạo ra. Các ứng dụng AI đưa ra quyết định tốt hơn khi chúng tiếp xúc với nhiều dữ liệu hơn. Khi cơ sở dữ liệu phát triển theo thời gian, các công ty cần theo dõi năng lực và lập kế hoạch mở rộng khi cần thiết.

Số lượng thu thập dữ liệu và loại AI được triển khai sẽ thúc đẩy các quyết định về kiến trúc lưu trữ dữ liệu lớn.

Cơ sở hạ tầng mạng AI

Mạng là một thành phần quan trọng khác của cơ sở hạ tầng trí tuệ nhân tạo. Để cung cấp hiệu quả cao ở quy mô cần thiết nhằm hỗ trợ AI và các mô hình học máy, các tổ chức có thể sẽ cần phải nâng cấp mạng của họ.

Các thuật toán học sâu phụ thuộc nhiều vào khả năng truyền dẫn và các mạng doanh nghiệp sẽ cần phải luôn đáp ứng theo nhu cầu khi mức độ triển khai AI được mở rộng. Đó là lý do tại sao khả năng mở rộng phải được ưu tiên cao và điều đó sẽ yêu cầu băng thông cao, độ trễ thấp và kiến trúc hệ thống linh hoạt.

Các công ty nên tự động hóa bất cứ khi nào có thể. Ví dụ, họ nên triển khai các công cụ quản lý cơ sở hạ tầng tự động trong các trung tâm dữ liệu của họ.

Trong khi đó, các nhà cung cấp cơ sở hạ tầng mạng cũng đang tìm cách làm như vậy. Các mạng do phần mềm xác định đang được kết hợp với học máy để tạo ra các mạng dựa trên mục đích có thể dự đoán các nhu cầu mạng hoặc các mối đe dọa bảo mật và phản ứng trong thời gian thực.

Khối lượng công việc trí tuệ nhân tạo

Cũng rất quan trọng đối với cơ sở hạ tầng trí tuệ nhân tạo là có đủ tài nguyên máy tính, bao gồm cả CPU và GPU.

Môi trường dựa trên CPU có thể xử lý khối lượng công việc AI cơ bản, nhưng học sâu liên quan đến nhiều tập dữ liệu lớn và triển khai các thuật toán mạng thần kinh có thể mở rộng. Vì vậy, tính toán dựa trên CPU có thể không đủ.

Tạo một lớp phần cứng được tối ưu hóa bằng AI bắt đầu bằng việc phân tích nhu cầu CPU và GPU.

Để cung cấp các khả năng xử lý cần thiết, các công ty phải chuyển sang sử dụng GPU. Việc triển khai GPU cho phép các tổ chức tối ưu hóa cơ sở hạ tầng trung tâm dữ liệu của họ và đạt được hiệu quả sử dụng điện năng.

Nhiều công ty tạo ra GPU và CPU tập trung vào AI, cung cấp cho các doanh nghiệp các tùy chọn khi mua phần cứng AI. Ví dụ, NVIDIA là hãng tiên phong phát triển GPU tập trung vào AI, trong khi Intel bán chip được thiết kế cho công việc AI, bao gồm xử lý tín hiệu truyền thông và ngôn ngữ tự nhiên (NLP).

Trong khi đó, các công ty được thành lập gần đây, bao gồm Graphcore, Cerebras và Ampere Computing, đã tạo ra các chip cho tải công việc AI nâng cao.

Chuẩn bị dữ liệu AI

Các tổ chức có nhiều điều để xem xét. Họ không chỉ phải chọn nơi họ sẽ lưu trữ dữ liệu, cách họ sẽ di chuyển dữ liệu qua các mạng và cách họ xử lý nó, mà còn phải chọn cách họ sẽ chuẩn bị dữ liệu để sử dụng trong các ứng dụng AI .

Một trong những bước quan trọng để AI doanh nghiệp thành công là làm sạch dữ liệu. Còn được gọi là lọc dữ liệu , đó là quá trình cập nhật hoặc xóa dữ liệu khỏi cơ sở dữ liệu không chính xác, không đầy đủ, định dạng không đúng hoặc trùng lặp.

Bất kỳ công ty nào, đặc biệt là những công ty trong lĩnh vực theo hướng dữ liệu, nên xem xét triển khai các công cụ làm sạch dữ liệu tự động để đánh giá dữ liệu về lỗi bằng cách sử dụng các quy tắc hoặc thuật toán. Chất lượng dữ liệu đặc biệt quan trọng với AI. Nếu hệ thống AI cung cấp dữ liệu không chính xác hoặc lỗi thời, kết quả đầu ra và mọi quyết định kinh doanh liên quan cũng sẽ không chính xác.

Quản lý và quản lý dữ liệu AI

Một yếu tố quan trọng khác là truy cập dữ liệu . Tổ chức có các cơ chế thích hợp để cung cấp dữ liệu một cách an toàn và hiệu quả cho những người dùng cần nó không?

Tạo ra một hạ tầng AI tốt sẽ hỗ trợ một công ty chống lại sự thiên vị, giảm thiểu rủi ro và đảm bảo trách nhiệm giải trình.

Do đó, một phần của chiến lược quản lý dữ liệu cần đảm bảo rằng người dùng – máy móc và con người – có thể truy cập dễ dàng và nhanh chóng vào dữ liệu. Nó phải có thể truy cập được từ nhiều thiết bị đầu cuối khác nhau, bao gồm cả thiết bị di động thông qua mạng không dây.

Quyền truy cập cũng làm nảy sinh một số vấn đề về quyền riêng tư và bảo mật, vì vậy việc kiểm soát truy cập dữ liệu rất quan trọng. Các công ty cần xem xét các công nghệ như công cụ quản lý danh tính và truy cập và mã hóa dữ liệu như một phần của chiến lược quản lý và quản lý dữ liệu của họ.

AIoT

Sẽ không có cuộc thảo luận nào về hạ tầng trí tuệ nhân tạo nếu không đề cập đến sự giao thoa của nó với IoT. Artificial Intelligence IoT ( AIoT ) liên quan đến việc thu thập và phân tích dữ liệu từ vô số thiết bị, sản phẩm, cảm biến, tài sản, vị trí, phương tiện, v.v., sử dụng IoT, AI và học máy để tối ưu hóa việc quản lý và phân tích dữ liệu. AIoT rất quan trọng để có được cái nhìn sâu sắc nhất từ tất cả thông tin đến từ những thứ được kết nối.

Nền tảng dữ liệu kinh doanh Statista dự báo sẽ có hơn 10 tỷ thiết bị IoT được kết nối trên toàn thế giới vào năm 2021. Hơn nữa, Statista dự kiến con số đó sẽ tăng lên hơn 25 tỷ thiết bị vào năm 2030.

Hãy tưởng tượng lượng dữ liệu khủng khiếp được tạo ra bởi các đối tượng được kết nối và sẽ tùy thuộc vào các công ty và công cụ AI của họ để tích hợp, quản lý và bảo mật tất cả thông tin này.

Từ quan điểm hạ tầng trí tuệ nhân tạo, các công ty cần xem xét mạng lưới, nền tảng lưu trữ dữ liệu, phân tích dữ liệu và bảo mật để đảm bảo họ có thể xử lý hiệu quả sự phát triển của hệ sinh thái IoT của họ. Điều đó bao gồm dữ liệu được tạo bởi các thiết bị của chính họ, cũng như dữ liệu của các đối tác trong chuỗi cung ứng của họ.

Đào tạo AI

Cuối cùng nhưng chắc chắn không kém phần quan trọng: Huấn luyện và phát triển kỹ năng là yếu tố quan trọng đối với bất kỳ nỗ lực CNTT nào và đặc biệt là các sáng kiến AI của doanh nghiệp. Các công ty sẽ cần các nhà phân tích dữ liệu, nhà khoa học dữ liệu, nhà phát triển, chuyên gia an ninh mạng, kỹ sư mạng và chuyên gia CNTT với nhiều kỹ năng khác nhau để xây dựng và duy trì cơ sở hạ tầng của họ để hỗ trợ AI và sử dụng các công nghệ trí tuệ nhân tạo, chẳng hạn như học máy, NLP và học sâu, trên cơ sở liên tục.

Họ cũng sẽ cần những người có khả năng quản lý các khía cạnh khác nhau của phát triển cơ sở hạ tầng và những người thông thạo các mục tiêu kinh doanh của tổ chức. Tập hợp một đội mạnh lại với nhau là một phần thiết yếu của bất kỳ nỗ lực phát triển cơ sở hạ tầng trí tuệ nhân tạo nào.

Nhất Tiến Chung (NTC) hiện là nhà cung cấp các giải pháp hạ tầng CNTT, Điện toán Hiệu năng cao (HPC) cho AI với kinh nghiệm kinh doanh phần cứng từ năm 2005. Chúng tôi là đối tác NPN cấp Elite (2022) chính thức của NVIDIA cho các hệ thống DGX (DGX A100, DGX Station A100) và hệ thống cụm siêu máy tính DGX SuperPOD với sức mạnh lưu trữ song song của DDN và kết nối mạng tốc độ cao từ hãng Mellanox (thuộc NVIDIA).

____
Bài viết liên quan

Vanito Hoang