Systemy AI wymagają ciągłej kontroli zdrowia, ponieważ ich świat zmienia się po uruchomieniu. Kod może pozostać ten sam. Dane mogą nie.
To jest ta część, która często jest pomijana w systemach chmurowych. Model może obsługiwać żądania, zwracać poprawne dane i nie wyświetlać błędów serwera, podczas gdy jego odpowiedzi stają się gorsze. Zielony panel usługowy nie dowodzi, że AI jest zdrowe.
Traktuję zdrowie jako trzy osobne sprawdzenia. Czy system działa? Czy dane są nadal poprawne? Czy model jest nadal przydatny? Te sprawdzenia wspierają się nawzajem, ale odpowiadają na różne pytania.
Platforma chmurowa może śledzić użycie procesora (CPU), pamięci, czas żądania i wskaźniki błędów. Są to podstawowe sygnały usługi. Pomagają pokazać, czy oprogramowanie jest dostępne i wystarczająco szybkie.
AI potrzebuje więcej.
Dane wejściowe mogą zmieniać się w drobny sposób. Kamera może się przesunąć. Czujnik może się zestarzeć. Użytkownicy mogą wysyłać nowe rodzaje tekstu. Zasada biznesowa może zmienić znaczenie pola. Brakujące wartości mogą wzrosnąć. Cecha może zachować swoją nazwę, ale zmienić swój zakres.
Te zmiany nazywane są dryfem danych (data drift). W prostych słowach, dane obserwowane przez model przestają przypominać dane używane podczas trenowania.
Narzędzia monitorujące w chmurze mogą porównać nowe wejście ze stored bazową linią odniesienia (baseline). Baseline to rekord oczekiwanego kształtu i wartości danych. System może sprawdzać pola, brakujące wartości, zakresy i zmiany rozkładu. Może następnie zgłosić naruszenie, gdy nowe dane wyjdą poza ustalone limity.
Brzmi to prosto. Jest to użyteczne, ale nie jest pełną kontrolą zdrowia.
Model może otrzymywać czyste dane i nadal wykonywać złe prognozy. Docelowa wartość mogła się zmienić. Klienci mogą zachowywać się w nowy sposób. Wzór oszustwa mógł się przesunąć. Model wizyjny może widzieć oświetlenie, które było rzadkie w danych treningowych. Wejście może przejść wszystkie kontrole formatu, podczas gdy odpowiedź staje się mniej przydatna.
Dlatego jakość modelu wymaga własnego nadzoru.
Kontrole jakości porównują prognozy z późniejszą prawdą, gdy ta prawda stanie się dostępna. Dla klasyfikatora może to obejmować dokładność lub wskaźniki błędów. Dla modelu numerycznego może to obejmować wielkość błędów prognoz. Odpowiednia miara zależy od zadania.
Tutaj istnieje opóźnienie. Prawdziwa odpowiedź często przychodzi po prognozie. Wynik kredytu może zająć czas. Awaria maszyny może zostać potwierdzona później. Użytkownik może nigdy nie dostarczyć opinii. To sprawia, że zdrowie modelu jest trudniejsze do zmierzenia niż zdrowie usługi.
Model może być zdrowy w jednym sensie i niezdrowy w innym. Czas odpowiedzi może być normalny. Jakość danych może być stabilna. Jednak model może zawodzić dla grupy użytkowników lub rzadkiego przypadku. Pojedynczy wynik może to ukryć.
Projekt monitorowania musi więc odpowiadać rzeczywistemu systemowi. Dla usługi komputerowego widzenia użytecznymi sygnałami mogą być rozmiar obrazu, zakres kolorów, rozmycie, pewność predykcji i wskaźnik wyników nieznanych. Dla usługi tekstowej użytecznymi sygnałami mogą być długość wejścia, język, puste żądania, wskaźniki odmów i zmiany w powszechnych terminach.
Celem nie jest zbieranie każdej możliwej metryki. Tworzy to szum. Celem jest obserwacja sygnałów powiązanych z znanymi trybami awarii.
Rozdzielam również alerty od raportów. Raport pomaga komuś przeanalizować trend. Alert mówi, że limit został przekroczony i może być potrzebne działanie. Jeśli każda mała zmiana tworzy alert, ludzie przestają ufać alertom. Jest to powszechna awaria w operacjach chmurowych. System monitorowania staje się kolejnym źródłem pracy.
Użyteczny alert wymaga kontekstu. Powinien pokazywać, co się zmieniło, kiedy się zmieniło i który model lub ścieżka danych była dotknięta. Powinien również wskazywać następne sprawdzenie. Czy potok wejściowy został zmieniony? Czy źródło zaprzestało wysyłania wartości? Czy nowa wersja modelu została wprowadzona? Czy problem ogranicza się do jednego regionu lub klasy?
Ciągłe monitorowanie nie oznacza sprawdzania każdej wartości w każdym momencie. Niektóre sprawdzenia uruchamiają się dla każdego żądania. Inne działają według harmonogramu. Niektóre potrzebują etykiet, które przychodzą później. Słowo „ciągłe” opisuje proces operacyjny, a nie jedną stałą metodę próbkowania.
Ma to znaczenie dla kosztów. Przechwytywanie każdego wejścia i wyjścia może zużywać zasoby magazynowe i sieciowe. Poufne dane mogą wymagać również ostrożnej obróbki. Logi powinny zawierać wystarczająco szczegółów do diagnozy, ale nie powinny stać się niekontrolowaną kopią danych użytkownika.
Istnieje inny limit, który zasługuje na jasne sformułowanie. Dryf danych nie zawsze oznacza awarię.
Zmiana w danych może być oczekiwana. Sezonowa zmiana może być prawdziwa i nieszkodliwa. Uruchomienie produktu może celowo zmienić zachowanie użytkowników. Model może działać lepiej na nowych danych, nawet gdy te dane różnią się od jego bazy treningowej.
Alert dryfu danych to sygnał do przeglądu. Nie jest dowodem, że konieczne jest ponowne trenowanie. Automatyczne ponowne trenowanie może pogorszyć system, jeśli nowe dane są błędne, obciążone uprzedzeniami, niekompletne lub powiązane z błędnymi etykietami.
Ta sama ostrożność dotyczy wyników pewności (confidence scores). Wysoka pewność nie dowodzi poprawności. Wiele modeli może być bardzo pewnych, gdy mylą się. Pewność jest użyteczna jako jeden sygnał wśród innych. Nie jest certyfikatem zdrowia.
W działającym systemie chmurowym monitoring zdrowia zwykle obejmuje kilka warstw. Warstwa usługi sprawdza dostępność i szybkość. Warstwa danych sprawdza kształt i jakość. Warstwa modelu sprawdza prognozy i znane wyniki. Warstwa biznesowa sprawdza, czy wyjście nadal wspiera zadanie.
Ostatnia warstwa jest łatwa do zignorowania. Model może utrzymać swój wynik techniczny, stając się mniej przydatny dla ludzi, którzy od niego zależą. Model rankingowy może zwracać wyniki szybko, ale umieszczać niewłaściwe elementy na pierwszym miejscu. Model detekcji może nadal znajdować obiekty, ale przegapiać przypadki, które mają największe znaczenie.
Tu liczy się odpowiedzialność. Ktoś musi wiedzieć, który zespół przegląda alert. Ktoś musi wiedzieć, co counts jako poważna zmiana. Ktoś musi wiedzieć, czy wstrzymać model, porównać wersje, sprawdzić źródłowe dane, czy poczekać na więcej dowodów.
Monitorowanie bez planu reakcji to głównie dekoracja. Może generować wykresy bez redukcji ryzyka.
Nie widzę jednej uniwersalnej metryki zdrowia dla systemów AI. Odpowiednie sprawdzenia zależą od modelu, danych, użytkowników i kosztu błędu. To jest uczciwy limit. Narzędzia od głównych platform chmurowych mogą automatyzować przechwytywanie, linie bazowe, sprawdzenia harmonogramowe i alerty. Nie mogą jednak zdecydować, czy zmiana jest akceptowalna w konkretnym systemie.
Praktyczny pomysł jest prosty. Traktuj model AI jako żywą usługę, a nie gotowy plik. Obserwuj jego runtime, jego wejścia, jego wyjścia i jego rzeczywiste wyniki. Utrzymuj sprawdzenia powiązane z znanymi sposobami, w jakie system może zawieść.
Ta praca jest mniej ekscytująca niż uruchomienie nowego modelu. To jednak tu decyduje się większość rzeczywistej jakości systemu. Dla The Model Log jest to użyteczna obietnica: jeden praktyczny koncept AI, jeden działający przykład i jeden szczery взгляд na to, co naprawdę działa.



