Systemy sztucznej inteligencji wymagają inżynierii oprogramowania opartej na modułach. Oto prosta odpowiedź, która wynika z jednego prostego powodu. Oprogramowanie AI nie jest już jedną całością. To stos komponentów, a każdy z nich ewoluuje w sposób niezależny.
Zawsze wracam do tego samego wniosku, patrząc na rzeczywiste systemy AI. Model to tylko jeden element. Istnieje przygotowywanie danych, logika podpowiedzi (promptów), wyszukiwanie informacji, kontrole bezpieczeństwa, ocena wyników, routowanie oraz aplikacja otaczająca ten układ. Jeśli wszystko to jest ze sobą splątane, każda drobna zmiana staje się zmianą całego systemu. To właśnie tam pojawiają się problemy z utrzymaniem kodu.
Modularna inżynieria oprogramowania pomaga, ponieważ dzieli system na wyraźne części. Każdy komponent ma swoją rolę. Każdy ma wejście i wyjście. Wyszukiwarka odnajduje tekst. Generator tworzy tekst. Walidator sprawdza wynik. Router wybiera, którego modelu lub narzędzia użyć. Gdy te elementy są oddzielone, można zmienić jeden z nich bez burzenia reszty systemu naraz.
Brzmi to jak standardowa praktyka programistyczna, bo taką właśnie jest. Sztuczna inteligencja nie zniosła podstaw inżynierii oprogramowania. Sprawiała ją jedynie bardziej widoczną. Te same stare zasady mają wciąż znaczenie: przejrzyste interfejsy, luźne powiązania i małe fragmenty łatwiejsze do testowania. W przypadku AI potrzeba ta jest ostra, ponieważ zachowanie modeli jest mniej stabilne niż w zwykłym kodzie. Modele się zmieniają. Podpowiedzi się zmieniają. Dane się zmieniają. Nawet to samo wejście może prowadzić do różnych wyników.
Myślę, że to główny fakt, który ludzie przeoczają. Traktują system AI jak pojedyncze endpoint modelu. W środowisku produkcyjnym rzadko jest to tak proste. Użyteczny system to zazwyczaj łańcuch. A gdy istnieje łańcuch, modularny design przestaje być kwestią stylu, a staje się kwestią kontroli.
Modularność pomaga również przy wymianie komponentów. Jeśli model embeddingów ulegnie zmianie, reszta aplikacji nie powinna wymagać przepisania. Jeśli warstwa bezpieczeństwa potrzebuje nowej reguły, nie powinna być ukryta w kodzie wyszukiwania. Jeśli podpowiedź wymaga rewizji, nie powinno to wymuszać zmiany w warstwie bazy danych. To właśnie ten aspekt oszczędza czas później. Ogranicza też zasięg awarii, gdy coś się zawali.
Jest jeszcze jedna korzyść. Systemy modularne są łatwiejsze do inspekcji. Jeśli wynik jest błędny, można sprawdzić pojedynczy blok. Czy dane były złe? Czy wyszukiwanie pominęło źródło? Czy generowanie zignorowało źródło? Czy walidacja się nie powiodła? Bez modułów odpowiedź zwykle jest zakopana w jednym dużym węźle kodu i domysłów. Nie lubię zgadywania w produkcji. Jest drogie i nieodpowiedzialne.
Czysta, modularna architektura dobrze koresponduje z tym, jak pracują zespoły AI. Różni ludzie często odpowiadają za różne części. Jeden zespół zajmuje się danymi. Inny nadzoruje warstwę modelu. Kolejny odpowiada za logikę produktową. Wyraźne granice modułów umożliwiają tę pracę, żeby nikt nie wchodził innym po stopach w tym samym kodzie. To nie jest glamour. To po prostu sposób, w jaki działa dostarczanie oprogramowania, gdy system jest prawdziwy.
Mimo to modularność nie jest magią. Może tworzyć nowe miejsca łączenia, a te mogą się psuć. Modularny potok AI może być łatwiejszy do modyfikacji, ale trudniejszy do zrozumienia w całości, jeśli kontrakty między komponentami są słabe. Zły interfejs może ukrywać złe założenia. Łańcuch czystych modułów nadal może dawać bałagan. Modularność więc pomaga, ale nie zastępuje dobrych testów, dobrych metryk ani starannej recenzji.
Istnieje też pewna niepewność co do tego, jak daleko modularny design powinien posunąć się w przypadku nowoczesnych agentów AI. Niektóre systemy działają najlepiej jako jasne potoki. Inne wykorzystują bardziej płynną kontrolę, gdzie jeden model decyduje, które narzędzie wywołać dalej. Branca wciąż ustala, gdzie ścisłe moduły przynoszą największą korzyść, a gdzie spowalniają proces. Byłbym ostrożny wobec każdego, kto twierdzi, że jeden wzór pasuje do każdego systemu AI. Zazwyczaj oznacza to, że najtrudniejsza część pracy jeszcze się nie zaczęła.
Praktyczna odpowiedź jest prosta. Systemy AI powinny być budowane jak systemy oprogramowania, a nie jak jedno wielkie sztuczne rozwiązanie. Model ma znaczenie, ale system wokół niego ma takie samo znaczenie. Gdy elementy są osobne, całość jest łatwiejsza do budowania, zmiany i debugowania. Gdy nie są, system staje się kruchy bardzo szybko.
Dlatego modularna inżynieria oprogramowania nie jest dodatkowym nawykiem w pracy z AI. To kształt, który sprawia, że systemy AI są zarządzalne. I to właśnie taki rodzaj prostej, sprawdzającej się prawdy stara się utrzymać The Model Log: jeden praktyczny koncept AI, jeden działający przykład i jedna szczera analiza tego, co naprawdę działa.



