Liderzy produktów AI potrzebują umiejętności projektowania systemów, a nie programowania
Liderzy produktów AI potrzebują umiejętności projektowania systemów, a nie programowania
Prawdziwy problem jest prosty: liderów produktów AI często ocenia się po kodzie, podczas gdy trudniejszym zadaniem jest projektowanie systemów. Lider produktu może napisać demo i tak pominąć te elementy, które sprawiają, że produkt AI jest użyteczny w realnym świecie.
Widziałem ten podział wielokrotnie. Model może wyglądać na inteligentny w notatniku Jupyter. Produkt może jednak zawieść, gdy zetknie się z wolnymi danymi, hałasującymi wejściami lub użytkownikami, którzy w pośpiechu zadają błędne pytania. To właśnie w tym miejscu kluczowe staje się projektowanie systemów.
Głębokie uczenie (deep learning) znajduje się w ramach szerszego systemu produktowego. Nie jest ono produktem samo w sobie. Model to tylko jeden element. Pozostałe to przepływ danych, opóźnienia, ścieżki awaryjne, koszty oraz ludzka kontrola.
Co oznacza projektowanie systemów w kontekście AI
Projektowanie systemów to sztuka sprawienia, by cały potok danych działał. Zakłada ono pytanie o to, skąd pochodzą dane, jak są czyszczone, kiedy uruchamiany jest model, co dzieje się, gdy ten się myli, oraz kto widzi wynik. To rzeczywisty kształt produktu AI.
Programowanie pomaga na jednej warstwie tego stosu technologicznego. Pozwala osobie zbudować dowód koncepcji (proof of concept). Jednak lider produktu musi rozumieć, jak elementy łączą się ze sobą pod obciążeniem i w przypadku awarii.
Prosty system AI ma kilka ruchomych części. Może przyjmować tekst, obrazy lub dźwięk. Może wysłać to wejście do modelu. Następnie może zapisać wynik, wyświetlić go użytkownikowi lub przekazać do innej usługi. Każdy krok może zawieść na inny sposób.
Dlaczego samo programowanie nie wystarcza
Wiele produktów AI wykorzystuje głębokie uczenie, ale głębokie uczenie zależy od czegoś więcej niż samej biegłości w modelowaniu. Potrzebuje danych, a często ich dużo. Potrzebuje też odpowiedniego rodzaju danych. Strukturalne rekordy z systemu ERP nie są takie same jak obrazy, klipy głosowe czy tekst swobodny.
Ta różnica zmienia projekt produktu. System rekomendacyjny wymaga świeżych zachowań użytkowników. Narzędzie medyczne do analizy obrazów wymaga starannej weryfikacji danych wejściowych. Asystent głosowy wymaga niskiego opóźnienia i ścieżki awaryjnej, gdy mowa jest niejasna. Żadnego z tych problemów nie rozwiązuje czysty skrypt treningowy.
Liderzy produktów muszą też znać ograniczenia automatycznego uczenia cech. Głębokie uczenie potrafi samodzielnie wyłuskać przydatne wzorce. Może jednak też wychwytywać hałas, uprzedzenia lub skróty w danych. Model, który wygląda silnie podczas testów, może zachowywać się źle, gdy charakter wejścia ulegnie zmianie.
Konkretne przykład: asystent czatu obsługi klienta
Weźmy asystenta czatu obsługującego sklep internetowy. Podejście nastawione na kod pyta, jak podłączyć model do okna czatu. To dopiero pierwszy krok.
Podejście nastawione na projektowanie systemów zadaje inne pytania. Skąd asystent czerpie fakty o produktach? Czy czyta je z aktualnego katalogu, czy ze statycznego pliku? Co się stanie, jeśli katalog będzie niedostępny? Gdy model jest niepewny, czy odpowiada mimo wszystko, czy przekazuje sprawę do człowieka? Jak zapisywany jest czat w celu audytu?
To nie jest skomplikowana teoria. To podstawowa przetrwanie produktu. Jeśli model wymyśli politykę zwrotów, użytkownikowi nie będzie ważne, że kod był elegancki.
Elementy, które lider produktu AI musi zrozumieć
Lider produktu AI nie musi być najszybszym programistą w pokoju. Jego zadaniem jest zrozumienie kształtu systemu na tyle dobrze, by podejmować trafne decyzje.
Oznacza to znajomość działania sieci neuronowych na wysokim poziomie. Oznacza to wiedzę, że głębokie uczenie radzi sobie dobrze z obrazami, dźwiękiem, językiem i innymi danymi niestrukturyzowanymi. Oznacza to zrozumienie, dlaczego duże zbiory danych mają znaczenie i dlaczego małe lub brudne dane mogą szybko zniszczyć zaufanie.
Oznacza to również wiedzę, gdzie tradycyjne uczenie maszynowe nadal jest lepszym rozwiązaniem. Nie każdy problem wymaga głębokiej sieci. Niektóre dane biznesowe są strukturalne i na tyle proste, że lżejszy model łatwiej wytłumaczyć, taniej utrzymywać i szybciej konserwować.
Dobry lider produktu pyta o całą ścieżkę od wejścia do wyniku. Gdzie przechowywane są dane? Jak aktualizowany jest model? Jak weryfikowany jest wynik? Jaki jest koszt, jeśli model uruchamia się zbyt często? Jaki jest koszt, jeśli działa zbyt wolno? To pytania systemowe, a nie sztuczki programistyczne.
Dlaczego to ma znaczenie dla wartości biznesowej
Głębokie uczenie tworzy wartość, gdy jest powiązane z rzeczywistym przypadkiem użycia. Może to być rozpoznawanie twarzy, asystenci głosowi, systemy rekomendacyjne, obrazowanie medyczne lub generatywny AI. W każdym przypadku model jest tylko jednym elementem rezultatu biznesowego.
Lider skupiony wyłącznie na kodzie może przeoczyć warstwę biznesową. Zły format wejścia może zabić adopcję. Wolna reakcja sprawi, że produkt będzie wydawać się zepsuty. Model, który jest dokładny, ale trudny do wyjaśnienia, może zawieść w środowisku regulowanym. Prawdziwe produkty są oceniane według pełnego doświadczenia, a nie według wyniku w notatniku.
Dlatego projektowanie systemów to silniejsza umiejętność dla liderów produktów AI. Utrzymuje ona fokus na tym, jak produkt zachowuje się w terenie. Pomaga też liderom precyzyjniej rozmawiać z inżynierami. Oszczędza to czas i unika typowego teatru, w którym wszyscy zgadzają się, że demo jest imponujące, a potem milcz martwią się o produkcję.
Jak ta perspektywa zmienia rzeczy
Gdy ktoś myśli w kategoriach systemowych, pytania stają się lepsze. Dyskusja przesuwa się z „Czy model to potrafi?” na „Czy produkt przetrwa to wejście, ten koszt i ten tryb awarii?”. To lepsze miejsce do bycia.
Zmienia to też sposób wyjaśniania głębokiego uczenia. Sieci neuronowe to nie magiczne pudełka. To warstwowe systemy, które uczą się wzorców z dużych ilości danych. Działają dobrze w niektórych ustawieniach i słabo w innych. To wystarczająca prawda na jedną lekcję i bardziej użyteczna niż bezkrytyczne chwalenie technologii.
Więc kluczowa idea jest jasna. Liderzy produktów AI nie muszą stawać się inżynierami na pełen etat. Muszą posiadać umiejętności projektowania systemów. To dzięki nim głębokie uczenie zamienia się z ładnego demo w produkt, który może wytrzymać w świecie.
To rodzaj praktycznej lekcji, którą The Model Log stara się utrzymać prostą: jedna użyteczna koncepcja, jeden klarowny przykład i jedno szczere spojrzenie na to, co naprawdę działa.
