Dự báo các xu hướng về AI và ML năm 2021: Sự xuất hiện của ModelOps!

Tất cả những gì Trí tuệ nhân tạo đã từng có, kỳ vọng sẽ có hoặc ngay trong hiện tại đối với doanh nghiệp đã được gói gọn trong một khái niệm mới, một thuật ngữ kết hợp, đồng thời nêu chi tiết chính xác vai trò của nó ở hiện tại, và sẽ tiến triển như thế nào trong năm 2021 tới đây.

Khái niệm ModelOps là biểu tượng của AI vì nó mang lại sự tin cậy cho toàn bộ chiều rộng của AI (từ Machine Learning đến cơ sở kiến ​​thức của AI), mà Gartner chỉ ra liên quan đến các quy tắc, tác nhân, biểu đồ kiến ​​thức, v.v…

ModelOps không chỉ đơn giản là vận hành và quản lý các mô hình AI. Đó là về việc thực thi một cách nhanh chóng, trên quy mô lớn, với sự tin cậy và theo một cách để giải quyết các vấn đề kinh doanh quan trọng nhất của doanh nghiệp – nếu không nói đó cũng là những vấn đề của cả xã hội.

Hơn nữa, nó liên quan đến việc thực hiện tại chỗ (on-premises) trong khi tận dụng các lợi thế của đám mây và, khi nói đến năng lực Machine Learning của AI, với một loạt các phương pháp bắt nguồn từ học có giám sát (Supervised Learning), không giám sát (Unsupervised) và kể cả là học tăng cường (Augmented Learning).

Ngụ ý của những khả năng này là nhu cầu đặt các mô hình Machine Learning ở vị trí cạnh tranh, thay thế các giới hạn (và phương pháp) dữ liệu đào tạo truyền thống của chúng, và hấp thụ mọi thứ từ streaming đến dữ liệu tĩnh để có những dự đoán chính xác dựa trên dữ liệu mới nhất có thể.

Hoặc, như Wayne Thompson – Trưởng nhóm Khoa học Dữ liệu của SAS đã nói, “Hiện tại, hầu hết các tổ chức chỉ đang kiểm tra điểm số của mô hình và xem liệu điểm số của mô hình có thay đổi hay không bằng cách sử dụng một mô hình ngoại tuyến cũ hơn. Điều hiện đại thực sự là đưa mô hình vào môi trường đào tạo, đồng thời triển khai và đào tạo đồng thời cập nhật trọng số của mô hình”.

ModelOps

Theo nhiều cách, ModelOps chỉ là một thuật ngữ mới để quản lý mô hình, mặc dù một điều được thừa nhận rằng AI không chỉ là số liệu thống kê trong khi ưu tiên triển khai kịp thời. ModelOps được hoàn thiện khi các tổ chức có thể xúc tiến việc tạo và vận hành các mô hình phù hợp cho bất kỳ trường hợp sử dụng cụ thể nào. Thompson đã trích dẫn một ví dụ về ngân hàng trong đó tổ chức này “muốn có một hệ thống nút nhấn và thứ đó hoạt động giống như một nhà máy. Và họ muốn là có thể kiểm tra và xem liệu mọi thứ có đang xảy ra bất thường nào hay không, và họ cũng mong muốn nó thực sự được tự động hóa”.

Các nền tảng phù hợp với quản lý mô hình tạo điều kiện thuận lợi cho những lợi ích này theo nhiều cách khác nhau. Thứ nhất, họ có thể chấm điểm các mô hình và kết quả của chúng bằng cách “đặt các mô hình này vào các package như ASTORE hoặc vào một chức năng tính điểm, và chuyển nó cho một thứ gì đó chắc chắn hơn, có cấu trúc hơn, được quản lý chặt chẽ hơn nhiều”, Thompson nói. Họ cũng có thể tích hợp mô hình production vào quy trình làm việc với các API, thể hiện tầm quan trọng gắn kết của đám mây đối với AI. Quan trọng nhất, họ có thể nhập các mô hình vào các điểm vận hành (production) để điều chỉnh linh hoạt các trọng số và phép đo với dữ liệu thực, khác với dữ liệu cũ hoặc dữ liệu lịch sử.

Điện toán biên (The Edge)

Internet of Things và điện toán biên cung cấp các cơ hội rất tốt để cập nhật mô hình trong thời gian thực nhằm khắc phục sự dịch chuyển của mô hình, về bản chất sẽ xảy ra theo thời gian. Trong khi các trường hợp sử dụng ModelOps trong lĩnh vực tài chính liên quan đến việc tự động hóa dàn dựng và phân phối các mô hình — trên quy mô — để phân khúc khách hàng mục tiêu vi mô, trung tâm triển khai IoT hấp dẫn dựa trên các mối quan tâm ưu việt về sức khỏe công cộng (và tư nhân) với dữ liệu truyền trực tuyến và đôi khi là thị giác máy tính (Computer Vision). Vấn đề chủ yếu với cái gọi là AIoT là nhập các mô hình đáng tin cậy vào các tiện ích đầu cuối “bởi vì các mô hình học sâu có kích thước rất lớn,” Thompson đề cập.

Một giải pháp đáng tin cậy là định vị chúng vào một “file ASTORE, chỉ là một binary block mà chúng tôi đóng gói tất cả các hiệu số này vào để nó rõ ràng hơn với bạn,” Thompson nhận xét. File nhị phân đó được lưu trữ và nén lại, sau đó có thể được chia sẻ”. Với phương pháp này, các tổ chức có thể hỗ trợ các ứng dụng trong Computer Vision và phát hiện đối tượng để đảm bảo mọi người giữ được khoảng cách xã hội, thực hiện theo dõi liên hệ hoặc chỉ theo dõi tình trạng tài sản thiết bị trong Internet công nghiệp. Hơn nữa, họ có thể tận dụng một cách tiếp cận trong đó các mô hình đang điều chỉnh cho phù hợp với dữ liệu sản xuất thực tế, đồng thời sử dụng các phương pháp hay nhất về kiến trúc và phần cứng cho TinyML .

MLOps trên đám mây

Sức sống của đám mây đối với ModelOps là gần như vô song, đặc biệt là với sự chú trọng hiện tại vào cộng tác từ xa. Các giải pháp ModelOps cạnh tranh được tích hợp sẵn để dễ triển khai; nhiều tùy chọn mua sắm mô hình có thể truy cập đám mây. Hầu hết mọi quy trình làm việc chỉ đơn thuần là một lệnh gọi API. Đám mây đang ngày càng trở thành bối cảnh để đào tạo các mô hình học máy, hoạt động như một điểm khởi chạy tài chính cho ba hình thức chính của nó:

  • Học có giám sát: Đa dạng học máy này yêu cầu dữ liệu đào tạo được gắn nhãn. Theo Thompson, “Một số mô hình này, giống như một công cụ đề xuất, chúng tôi thực sự học trực tuyến khi chúng tôi đang xây dựng tập dữ liệu mục người dùng.” Ví dụ: những thông tin đầu vào theo thời gian thực trên đám mây, được cập nhật mỗi khi khách hàng mua hàng, cung cấp đào tạo tối ưu cho các mô hình. Thompson thừa nhận: “Bạn càng thực sự có thể đào tạo mô hình đó khi dữ liệu đang được thu thập, thì mô hình của bạn sẽ trở nên mới mẻ hơn nhiều.
  • Học tăng cường: Loại học máy này tránh kiểm tra các bộ dữ liệu đào tạo điển hình; thay vào đó, một tác nhân tương tác động với một môi trường theo một loạt những gì Thompson gọi là phần thưởng và ràng buộc. Các biện pháp đám mây tiên tiến cho phép các tổ chức cho phép các đại lý học trong mô phỏng sau đó “hoán đổi môi trường mô phỏng với môi trường thực; nó là cùng một API nên tác nhân tăng cường không thể xác định được điều này, ”Thompson nhận xét. “Và, một lần nữa có thể triển khai và đào tạo đồng thời.”
  • Học không giám sát: Phương thức học tập này liên quan đến dữ liệu huấn luyện không có nhãn. Nó dựa trên các kỹ thuật phân nhóm và các biện pháp giảm kích thước, rất có lợi khi xử lý dữ liệu ở quy mô lớn. Các biện pháp này “giúp bạn giảm thứ nguyên bằng cách có thể, giả sử, giảm 500 biến thành ba,” Gul Ege, Giám đốc cấp cao của SAS về Phân tích nâng cao, Nghiên cứu và Phát triển cho biết. Năng lực này rất quan trọng đối với việc triển khai dữ liệu phát trực tuyến IoT, như quan sát dây chuyền sản xuất bằng thị giác máy tính và “nghĩ ra đâu là phần của dữ liệu này mà bạn thực sự cần lưu giữ mà không cần lên đám mây nếu cần”, Ege giải thích. “Phần còn lại hoặc chỉ là tiếng ồn hoặc… quá nhiều dữ liệu nói cùng một điều.

Phân tích “Predictive” so với “Prescriptive”

Tự động hóa quy trình bằng rô-bốt đã trở thành một trong những phương tiện được áp dụng rộng rãi nhất để chuyển hiệu quả dự đoán của AI sang một phương tiện có tính chất quy định. Theo Một MạngCOO Joe Bellini, những con bot này có khả năng “không chỉ có thể phân tích và dự đoán mà còn thực sự chỉ định và thực thi. Và, bạn có thể làm cho nó tự chủ. ” Chẳng hạn, bằng cách trang bị cho các tác nhân ảo khả năng học máy, họ có thể xác định các xu hướng trong mạng lưới chuỗi cung ứng giữa các tổ chức và xác định cách tốt nhất để phản ứng với sự thiếu hụt dự đoán. “Người đại diện không chỉ có thể đề xuất các đơn thuốc dựa trên dữ liệu có sẵn trong mạng, mà người đại diện còn có thể thực thi các quyết định đã được đưa ra — khiến nó có thể hành động được,” Bellini xác nhận. “Vì vậy, hãy thực sự thay đổi kế hoạch, thay đổi lịch trình, thay đổi tải trọng của hãng vận chuyển, phân bổ lại”.

Bots cũng có thể triển khai các chi tiết cần thiết để thu lợi nhuận từ phân tích quy định, mà Automation Anywhere SVP của Tiếp thị Sản phẩm và Giải pháp Kevin Murray đã mô tả là “hoạt động dặm cuối cùng xung quanh tự động hóa”. Ông đã phác thảo một trường hợp sử dụng bàn trợ giúp trong đó các hệ thống AI đề xuất một sản phẩm thay thế cho khách hàng trước khi các bot được giao nhiệm vụ thực hiện “việc mua sắm, kiểm kê, vận chuyển, tất cả thông tin xảy ra sau khi đề xuất ma thuật đó xảy ra”. Các xu hướng RPA phù hợp cho AI bao gồm việc lắp ráp các bot riêng lẻ thành các trợ lý kỹ thuật số toàn diện có thể tích hợp với dữ liệu, hệ thống và mô hình máy tính trên các môi trường. Ghép nối những khả năng này với việc học tăng cường có thể chứng minh một giải pháp lâu dài cho sự phát triển của AI thành AI nói chung.

Công nghệ ngôn ngữ tự nhiên

AI hội thoại vẫn là đỉnh cao của công nghệ ngôn ngữ tự nhiên vì nó kết hợp các khía cạnh của Xử lý ngôn ngữ tự nhiên, Hiểu ngôn ngữ tự nhiên, Tạo ngôn ngữ tự nhiên và Truy vấn ngôn ngữ tự nhiên. Đó là một cách thực tế để tương tác với các hệ thống không tiếp xúc vật lý, điều này được ca ngợi trong các môi trường xã hội hiện đại. Theo TopQuadrantTuy nhiên, CTO Ralph Hodgson, các công nghệ ngôn ngữ tự nhiên có thể sớm bao gồm tổng hợp với dữ liệu hình ảnh, báo trước sự hội tụ giữa lĩnh vực nhận dạng hình ảnh và NLP. Dựa trên cái mà ông gọi là “vectơ từ”, những khả năng này có thể “làm cho một tài liệu văn bản xuất hiện với một hình ảnh,” Hodgson biểu thị. Các ứng dụng hiện tại bao gồm dữ liệu dạng văn bản không có cấu trúc, đang tăng lên trong toàn bộ doanh nghiệp. Hodgson dự đoán: “Mạng nơ-ron sẽ thực hiện những gì chúng làm đối với hình ảnh so với văn bản – tài liệu”.

Kết quả là

Đầu vào tổng thể của ModelOps là mã nhị phân. Nó đảm bảo độ tin cậy của mô hình đối với các yếu tố chủ chốt trong quản trị dữ liệu như quản lý vòng đời và các mô hình vị trí — một cách nhanh chóng — nơi chúng tận dụng được nhiều nhất cho doanh nghiệp. Nhiều triển khai trong số này, cho dù liên quan đến các tương tác ngôn ngữ tự nhiên hoặc thị giác máy tính, đều nằm ở biên của mạng. Cuộc khủng hoảng sức khỏe cộng đồng hiện nay củng cố nhu cầu này và xứng đáng với ModelOps.

“Nghe có vẻ ngờ nghệch với câu chuyện: chúng ta nghĩ về các cửa hàng mà không cần thu ngân một năm trước đây, nhưng bây giờ nó trở nên khả thi”, Jacob Smith – Equinix VP of Bare Metal Strategy & Marketing. “Tương tự với máy bay không người lái giao hàng tạp hóa cho bạn”. Mức độ liên quan như vậy khiến nó bắt buộc phải liên tục cập nhật các mô hình dự đoán với dữ liệu mới nhất để triển khai, đào tạo và tối ưu hóa một cách đồng thời.

Liên hệ tác giả