Domino Data Lab dodaje skalowanie automatyczne do metodyki MLOps
Domino Data Lab 5.0 koncentruje się głównie na wdrażaniu, automatycznym skalowaniu i monitorowaniu części cyklu życia uczenia maszynowego.
Jak poinformował zeszłej jesieni Andrew Brust, Domino Data Lab ostatnio przyjmuje szersze spojrzenie na MLOps, od zarządzania eksperymentami po ciągłą integrację/ciągłe dostarczanie modeli, inżynierię funkcji i zarządzanie cyklem życia. W niedawno wydanej wersji 5.0 Domino koncentruje się na przeszkodach, które zwykle spowalniają fizyczne wdrożenie.
Najważniejszą z nowych możliwości jest skalowanie automatyczne. Wcześniej analitycy danych musieli albo odgrywać rolę inżynierów klastrów, albo współpracować z nimi, aby wprowadzić modele do produkcji i zarządzać obliczeniami. Nowa wersja umożliwia zautomatyzowanie tego kroku, wyrównując szanse z usługami w chmurze, takimi jak Amazon SageMaker i Google Vertex AI, które już to robią, oraz ofertami Azure Machine Learning w wersji zapoznawczej. Jeszcze bardziej wygładza to fakt, że jest certyfikowany do działania na platformie Nvidia AI Enterprise (Nvidia jest jednym z inwestorów w Domino).
Funkcje skalowania automatycznego opierają się na obsłudze technologii Ray i Dask (oprócz platformy Spark), która została dodana w poprzedniej wersji 4.6, która udostępnia interfejsy API do wbudowywania w przetwarzanie rozproszone w kodzie.
Kolejną nową funkcją 5.0 zajmującą się wdrażaniem jest dodanie nowej biblioteki łączników danych, dzięki czemu analitycy danych nie muszą wymyślać koła na nowo za każdym razem, gdy próbują połączyć się ze Snowflake, AWS Redshift lub AWS S3; Inne źródła danych zostaną dodane w przyszłości.
Dopełnieniem wersji 5.0 jest wbudowane monitorowanie. W ten sposób zintegrowano wcześniej autonomiczną funkcję i trzeba było ją skonfigurować ręcznie. W wersji 5.0 Domino automatycznie konfiguruje monitorowanie, przechwytywanie strumieni prognoz na żywo i przeprowadzanie kontroli statystycznych danych produkcyjnych i treningowych po wdrożeniu modelu. Na potrzeby debugowania przechwytuje migawki modelu: wersję kodu, zestawy danych i konfiguracje środowiska obliczeniowego. Za pomocą jednego kliknięcia analitycy danych uruchamiają środowisko programistyczne modelu wersjonowanego w celu debugowania. System jednak w tym momencie nie automatyzuje wykrywania ani nie wydaje zaleceń dotyczących miejsc, w których modele wymagają naprawy.
Iskrą napędową (gra słów niezamierzona) dla możliwości 5.0 jest rozwiązywanie problemów operacyjnych, które zmuszają analityków danych do wykonywania zadań inżynieryjnych systemu lub klastra lub polegania na administratorach, którzy wykonują je za nich.
Ale jest też wąskie gardło inżynierii danych, jak odkryliśmy w badaniach, które przeprowadziliśmy dla Ovum (obecnie Omdia) i Dataiku w 2018 roku. Z dogłębnych rozmów z kilkunastoma dyrektorami ds. danych wynika, że analitycy danych zazwyczaj spędzają ponad połowę czasu na inżynierii danych. Wersja 5.0 rozwiązuje jedną poważną przeszkodę w inżynierii danych - łączenie się z popularnymi zewnętrznymi źródłami danych, ale obecnie Domino nie zajmuje się konfiguracją potoków danych lub, co bardziej najważniejsze, automatyzacją zadań przygotowywania danych. Oczywiście to ostatnie (integracja przygotowania danych) jest tym, co doprowadziło do przejęcia Paxaty przez Data Robot w 2019 roku.
Funkcje wersji 5.0 odzwierciedlają sposób, w jaki Domino Data Lab i inne narzędzia do zarządzania cyklem życia uczenia maszynowego musiały rozszerzyć zakres zainteresowania z cyklu życia modelu na wdrożenie. To z kolei odzwierciedla fakt, że w miarę jak przedsiębiorstwa zdobywają doświadczenie w ML, coraz częściej opracowują więcej modeli i muszą uprzemysłowić to, co pierwotnie było jednorazowymi procesami. Nie zdziwilibyśmy się, gdyby Domino skupiło się na sklepach z artykułami.