Architektura systemów sztucznej inteligencji wymaga modeli bezpieczeństwa typu zero trust.
Nadal wracam do jednego prostego faktu: systemy AI nie żyją już za jednym, czystym murem. Opierają się na modelach, magazynach danych, interfejsach API, agentach, promptach, narzędziach i usługach chmurowych. Dlatego architektura AI wymaga modeli bezpieczeństwa zero trust. W praktyce oznacza to, że każde żądanie, każdą tożsamość i każdy przepływ danych należy weryfikować, a nie traktować jako zaufane z definicji.
Stary pogląd na sieci był prosty. Umieść systemy w bezpiecznym obwodzie i ufaj temu, co jest wewnątrz. To podejście szybko upada w przypadku AI. Model może wywołać narzędzie. Narzędzie może uzyskać dostęp do bazy danych. Użytkownik może wkleić prywatne dane do promptu. Agent może działać w imieniu osoby, a następnie kontynuować działanie po zmianie kontekstu. Powierzchnia ataku jest szersza, a łańcuch zaufania dłuższy.
Model zero trust pasuje do tej rzeczywistości, ponieważ opiera się na surowszej zasadzie: najpierw zweryfikuj, potem zezwól. Dla AI oznacza to silne sprawdzanie tożsamości użytkowników i usług, wąskie uprawnienia dla modeli i agentów oraz jasne kontrolowanie dostępu do danych. Oznacza również monitorowanie tego, co system robi w czasie działania, a nie tylko tego, co zostało zatwierdzone w fazie projektowania. Systemy AI mogą rozwijać się bardzo szybko, a model bezpieczeństwa musi nadążać za tym tempem.
Ma to największe znaczenie w trzech obszarach. Po pierwsze, dostęp do samego modelu. Punkt końcowy (endpoint) modelu to nie tylko kolejny interfejs API, jeśli może on uzyskiwać dostęp do poufnych danych lub uruchamiać akcje. Po drugie, dostęp do danych stojących za modelem. Jeśli prompty, dane pobierane przy wyszukiwaniu (retrieval data) lub wyniki zawierają treści prywatne, to ścieżka danych potrzebuje własnej kontroli. Po trzecie, dostęp do akcji agenta. Jeśli agent może wysyłać e-maile, zapisywać rekordy lub wywoływać wewnętrzne usługi, każda akcja wymaga ograniczeń zakresu i logowania. Bez tego jeden błędny prompt może przerodzić się w większy incydent.
Podoba mi się podejście zero trust, ponieważ jest szczere w kwestii niepowodzeń. Zakłada ono, że jedna tożsamość może zostać skradziona, jeden token może wyciec, albo jedno wywołanie narzędzia może pójść nie tak. Brzmi to ostrożnie, ale jest w rzeczywistości realistycznym inżynieryjnym podejściem. Systemy AI są zbudowane z wielu ruchomych części, a każda z nich może być wykorzystana w sposób, którego jej projektant się nie spodziewał. Bezpieczeństwo oparte na nadziei to słaby plan.
Praktyczna zmiana jest prosta do opisania, ale trudna do wdrożenia. Traktuj użytkowników AI, agentów, usługi, prompty i dane jako oddzielne punkty zaufania. Nadaj każdemu z nich tylko taki dostęp, jakiego naprawdę potrzebuje. Sprawdzaj to często. Loguj to dokładnie. Ogranicz zasięg, jaki może mieć błąd. Nie czyni to AI bezpiecznym w idealny sposób. Utrudnia jednak, aby jedna słaba strona stała się problemem całego systemu.
Istnieje tu jeden szczery limit. Zero trust nie jest magiczną tarczą i samo w sobie nie rozwiązuje problemów z zachowaniem modelu. Pomaga w zakresie tożsamości, dostępu i promieniowania awarii (blast radius). Nie usuwa natomiast wstrzykiwania promptów, złych wyników, skażonych danych czy słabej architektury aplikacji. Do tych zagrożeń nadal potrzebne są własne środki ochronne i przeglądy. Rzeczywista odpowiedź brzmi więc nie tyle, że zero trust zastępuje wszystkie inne metody obrony, ile że architektura AI jest zbyt narażona, aby model oparty na domyślnym zaufaniu mógł przetrwać długo.
To właśnie ten aspekt mam na uwadze. Systemy AI są użyteczne, ponieważ łączą ze sobą więcej elementów i wykonują więcej pracy. Ta sama rozległość ich działania jest właśnie powodem, dla którego od początku wymagają ścisłych reguł dostępu. „The Model Log” dobrze radzi sobie z tym podejściem: jeden praktyczny koncept AI, jeden działający przykład i jeden szczery spojrzenie na to, co naprawdę działa.



