AI przechodzi od eksperymentów do integracji z przedsiębiorstwami.
To jest prawdziwa zmiana, która dzieje się teraz. Opowieść już nie dotyczy tego, czy AI może wykonywać użyteczną pracę w ramach demonstracji. Chodzi o to, jak AI wpisuje się w rzeczywiste systemy, z rzeczywistymi użytkownikami, rzeczywistymi danymi i rzeczywistymi regułami. To znacznie trudniejsze wyzwanie i z nim mierzy się obecnie większość zespołów.
Wciąż wracam do prostego punktu. Eksperymentowanie jest tanie w porównaniu z integracją. Prototyp może spoczywać na laptopie lub w środowisku testowym (sandbox). System przedsiębiorstwa musi obsługiwać tożsamość, dostęp, logi, jakość danych, etapy przeglądu oraz tryby awaryjne. Gdy tylko AI zacznie dotykać wypłat, wsparcia klienta, wyszukiwania, przeglądania kodu lub prac umownych, faza „zabawki” szybko się kończy.
Zmiana jest widoczna w tym, jak firmy mówią o AI. Język ewoluował od „spróbujmy tego” do „włączmy to do procesu pracy”. Brzmi to niewiele, ale tak nie jest. Model, który pomaga jednej osobie raz, to demonstracja. Model, który wpisuje się w system zgłoszeń, system dokumentów lub aplikację wewnętrzną, to infrastruktura. Oznacza to, że musi być wystarczająco niezawodny, aby istnieć wewnątrz procesu, a nie tylko robić wrażenie w teście.
Dlatego też zarządzanie zgodnością (governance) przeszło z tematu pobocznego na kluczowy. Przedsiębiorstwa potrzebują teraz kontroli nad tym, jakie dane model może widzieć, co może zapisywać, kto może zatwierdzać wyniki i gdzie przechowywane są rekordy. W praktyce to właśnie tutaj wiele projektów zwalnia. Model często nie jest najtrudniejszą częścią. Trudne jest wszystko wokół modelu.
Myślę, że to główny fakt, który czytelnicy muszą zrozumieć w tej chwili. AI staje się coraz mniej oddzielnym narzędziem, a coraz bardziej warstwą wbudowaną w oprogramowanie biznesowe. Ta warstwa może być wąska. Może generować szkice, rangować wyniki wyszukiwania, podsumowywać rozmowy lub kierować sprawy. Ale nawet te wąskie zastosowania zmieniają kształt systemu. Dodają nowe punkty kontrolne, nowe ścieżki błędów i nową pracę wsparciową.
Użyteczny wzór jest jasny. Przedsiębiorstwa przechodzą od pilotaży do produkcji, gdy funkcja AI mapuje się na istniejące zadanie. Jest to łatwiejsze niż proszenie ludzi o naukę całkowicie nowego narzędzia. Ułatwia również mierzenie wartości w codziennej pracy. Jeśli AI istnieje wewnątrz systemu, którego ludzie już używają, adaptacja ma tendencję do bycia mniej krępująca. Użytkownik nie musi tak często przełączać kontekstu. To praktyczna wygrana, a nie efektowna.
Mimo to nie przesadzalbym z dojrzałością branży. Dużo sztucznej inteligencji w przedsiębiorstwach nadal jest nierówna. Niektóre zespoły mają dobre mechanizmy kontrolne i jasne zastosowania. Inne mają użycie cieniowe (shadow use), luźne zatwierdzanie i mało dowodów na to, że praca jest lepsza. Etykieta „zintegrowane z przedsiębiorstwem” może ukryć dużą lukę między dopracowanym wdrożeniem a kruchym pilotażem w garniturze.
Istnieje również cicha granica, która nie otrzymuje wystarczającej uwagi. Integracja nie usuwa ryzyka związanego z modelem. Przenosi je tylko. Model wewnątrz procesu pracy może być bardziej użyteczny, ale może też szybciej rozpowszechniać błędy, jeśli otaczające go kontrole są słabe. Jeśli dane są przestarzałe, wynik nadal może być błędny. Jeśli prompt lub zbiór reguł jest kruchy, system może nadal zawodzić w sposób, który wygląda schludnie na slajdzie, a chaotycznie w rzeczywistości.
Dlatego obecny trend dotyczy nie tylko większych modeli. Chodzi o instalacje hydrauliczne (plumbing) wokół nich. Zespoły łączą AI z systemami uwierzytelniania, wewnętrznymi API, magazynami dokumentów, warstwami wyszukiwania i dziennikami audytowymi. Dodają również ścieżki awaryjne, ludzki przegląd i limity użycia. To mniej ekscytujące niż demo z laboratorium, ale to ta część, która decyduje o tym, czy AI przetrwa kontakt z firmą.
Widzę jeszcze jedną ważną zmianę. Pytaniem nie jest już „Czy AI może wykonać tę pracę?”. Lepszym pytaniem jest: „Czy to AI wpisze się w pracę bez psucia reszty systemu?”. To pytanie systemowe. Obejmuje opóźnienia, uprawnienia, dostęp do danych, koszty i obciążenie wsparcia. Obejmuje również zaufanie. Jeśli użytkownicy nie potrafią określić, kiedy mogą polegać na wyniku, integracja jest słaba, niezależnie od tego, jak inteligentny wydaje się model.
Niewiedza (niepewność) znajduje się teraz w następnej warstwie. Niektóre zastosowania w przedsiębiorstwach będą nadal rosły, ponieważ są proste i powtarzalne. Inne staną w miejscu, ponieważ ryzyko jest zbyt wysokie lub proces zbyt chaotyczny. Systemy typu agent, w których modele podejmują działania w różnych narzędziach, mogą stać się bardziej powszechne, ale podnoszą również poprzeczkę dla kontroli. Ta część wciąż się zmienia, a ograniczenia są realne.
Więc nagłówek to nie histeria. To zmiana fazowa. AI wychodzi z piaskownicy i trafia do stosu technologicznego. Praca polega teraz mniej na udowadnianiu, że AI istnieje, a bardziej na dopasowaniu jej do prawdziwego oprogramowania bez powodowania chaosu. To wolniejsze, mniej efektowne i o wiele bardziej użyteczne.
To rodzaj zmiany, którą lubię opisywać na The Model Log: jedna praktyczna koncepcja AI, jeden działający przykład i jeden szczery spojrzenie na to, co naprawdę działa.
