Jaki problem rozwiązują właściwie podstawowe technologie AI i jak działają, bez całego tego pokazu sztuczek?
To dobry punkt wyjścia. Większość rozmów o AI pomija silnik i od razu przechodzi do demonstracji. Prawdziwa historia jest prostsza i mniej efektowna: systemy AI uczą się wzorców z danych, przechowują je w parametrach modelu i wykorzystują do przewidywania lub tworzenia nowych wyników.
Podstawowa zasada: AI uczy się wzorców z danych
W centrum większości współczesnego AI stoi uczenie maszynowe. Model nie otrzymuje każdej reguły ręcznie. Widzi przykłady, szuka struktury i dostosowuje swoje wewnętrzne ustawienia, aby zmniejszać błędy.
Istnieją trzy powszechne style uczenia. Uczenie nadzorowane używa oznaczonych przykładów. Uczenie nienadzorowane szuka struktury w nieoznaczonych danych. Uczenie przez wzmacnianie uczy się metodą prób i błędów dzięki nagrodom i karam.
Filtr spamu to czysty przykład uczenia nadzorowanego. Widzi e-maile, które są już oznaczone jako spam lub nie. Z czasem uczy się, które wzorce słów, nadawców i kształty wiadomości często idą w parze ze spammem.
To pierwszy przydatny model myślowy. AI nie „rozumie” w ludzkim rozumieniu. Dopasowuje wzorce na tyle dobrze, by być użytecznym.
Sieci neuronowe to warstwy ważonych przypuszczeń
Sieć neuronowa to stos połączonych węzłów. Informacje wpływają do warstwy wejściowej, przechodzą przez warstwy ukryte i kończą na warstwie wyjściowej. Każde połączenie ma wagę, czyli po prostu liczbę kontrolującą, jak mocno jeden węzeł wpływa na drugi.
Trenowanie zmienia te wagi. Model zgaduje, sprawdza, jak bardzo się pomylił, a następnie używa propagacji wstecznej, by lekko przesunąć wagi w lepszym kierunku. Powtórz to wystarczająco wiele razy, a sieć stanie się lepsza w wykonywaniu zadania.
Głębokie uczenie to ta sama koncepcja, ale z wieloma warstwami. Więcej warstw pozwala modelowi uczyć się bardziej złożonych wzorców. To potężne, ale nie jest darmowe. Więcej warstw oznacza też więcej danych, większą moc obliczeniową i więcej sposobów na przetrenowanie.
Różne kształty sieci neuronowych pasują do różnych danych. CNN-y dobrze radzą sobie z obrazami, ponieważ szukają lokalnych wzorców wizualnych. RNN-y zostały stworzone dla sekwencji, takich jak tekst czy szereg czasowy. Transformatory przejęły pracę z językiem, ponieważ korzystają z mechanizmu uwagi, który pomaga modelowi skupić się na najbardziej istotnych fragmentach wejścia.
Duże modele językowe to systemy oparte na transformatorach trenowane etapami
Duże modele językowe, czyli LLM-y, to sieci neuronowe oparte na transformatorach. Ich zadanie jest zwykle proste w istocie: przewidzieć następny token, czyli fragment tekstu. Z tego prostego zadania uczą się gramatyki, stylu, faktów i luźnych wzorców wnioskowania.
Trenowanie zazwyczaj ma dwie główne fazy. Najpierw następuje wstępne trenowanie na szerokich zbiorach tekstowych. Daje to modelowi ogólną umiejętność językową. Następnie dochodzi do dopracowywania pod węższe zadanie, np. przetwarzanie dokumentów czy pomoc klienta.
Dlatego LLM-e wydają się elastyczne. Mogą ponownie wykorzystać ten sam bazowy model do wielu zadań. To praktyczne przenoszenie wiedzy. Model najpierw uczy się ogólnej umiejętności, a potem dostosowuje się do konkretnego zastosowania.
Granice są też jasne. LLM może wygenerować płynny tekst, nie będąc poprawnym. Może brzmieć pewnie, a wciąż się mylić. To nie jest kwestia poboczna. To główny tryb awarii.
NLP i wizja komputerowa zamieniają surowe dane w użyteczną strukturę
Przetwarzanie języka naturalnego, czyli NLP, obejmuje systemy pracujące z tekstem. Systemy te klasyfikują wiadomości, wyodrębniają nazwy i daty, streszczają dokumenty oraz wykrywają sentyment. Starsze systemy NLP polegały bardziej na ręcznie pisanych regułach. Współczesne NLP opiera się na modelach neuronowych, ponieważ lepiej radzą sobie z nieporządnym językiem.
Wizja komputerowa wykonuje podobną pracę dla obrazów i wideo. Potrafi rozpoznawać obiekty, wykrywać, gdzie się znajdują, i oddzielać jeden kształt od drugiego. Kamera fabryczna sprawdzająca pod kątem wad to standardowy przypadek użycia wizji komputerowej. Tak samo system medycznych obrazów, który podkreśla podejrzone obszary do przeglądu.
Obie dziedziny wykonują wspólną pracę. Zamieniają surowe, zakłócone dane wejściowe w strukturę, której system może użyć. Tekst staje się etykietami, encjami lub streszczeniami. Piksele stają się obiektami, maskami lub współrzędnymi.
Modele generatywne tworzą nową treść
Niektóre systemy AI nie tylko klasyfikują. One generują. GAN-y wykorzystują dwie sieci neuronowe rywalizujące ze sobą. Jedna tworzy fałszywe próbki. Druga próbuje wychwytywać falsyfikaty. To ciągłe napięcie może produkować ostre, syntetyczne obrazy.
Modele dyfuzyjne działają inaczej. Zaczynają od szumu i powoli go usuwają, aż pojawi się obraz. Podejście to stało się kluczowe dla systemów tekst-do-obrazu. To jeden z powodów, dla których nowoczesna generacja obrazów wygląda tak realistycznie.
Te modele są użyteczne, ale nie są niewinnymi narzędziami. Budzą pytania o własność intelektualną, nadużycia i zaufanie. Jeśli obraz wygląda na prawdziwy, system i tak musi udowodnić, że jest autentyczny. AI nie dostaje wolnego przepustu tylko dlatego, że obrazek jest ładny.
Dane to prawdziwa podstawa
Każdy system AI zależy od jakości danych. Objętość ma znaczenie, bo modele potrzebują wystarczającej liczby przykładów. Różnorodność ma znaczenie, bo dane ze świata rzeczywistego występują w wielu formach. Szybkość ma znaczenie, gdy dane szybko się zmieniają. Wiarygodność ma znaczenie, bo złe dane trują wynik.
Jakość składa się z kilku prostych elementów. Dane powinny być kompletne, dokładne, spójne, aktualne i istotne. Jeśli wejście jest słabe, wyjście też będzie słabe. To nie jest opinia. To najstarsza zasada w tej dziedzinie.
Oto mały przykład, którego używam, ucząc tego. Wyobraź sobie zespół wsparcia, który chce, by model AI kierował zgłoszeniami klientów. Jeśli dane treningowe mieszają problemy z rozliczeniami, logowaniem i błędami produktu, model uczy się niewłaściwych wzorców. Może nadal wyglądać sprawnie podczas demonstracji. Zawiedzie jednak w kolejce, gdzie etykiety muszą coś znaczyć.
Dlatego przygotowanie danych pochłania tak dużo czasu w rzeczywistych projektach. Model to tylko jedna część systemu. Potok danych to element, który nie pozwala modelowi pewnie kłamać.
Zniekształcenia, prywatność i zarządzanie są częścią systemu
Dane treningowe mogą zawierać zniekształcenia. Jeśli próba nie jest reprezentatywna, model uczy się zniekształconego świata. Jeśli pomiary są przekłamane, model uczy się tego przekłamania. Jeśli proces zbierania stale faworyzuje jeden wynik, model często będzie powtarzał ten wzorzec.
W ten sposób system AI może generować niesprawiedliwe wyniki bez żadnego złego zamiaru w środku. Po prostu kopiuje kształt danych. Proste, i irytujące w sposób, na jaki potrafią tylko programy.
Prywatność i zarządzanie mają znaczenie z tego samego powodu. Dane mogą wymagać anonimizacji, pseudonimizacji lub różnicowej prywatności, by chronić ludzi. Zespoły potrzebują też zasad dotyczących przechowywania, dostępu, usuwania i monitorowania. Bez tej warstwy model może być technicznie imponujący, ale operacyjnie chaotyczny.
Infrastruktura decyduje o tym, co faktycznie trafi do produkcji
Systemy AI potrzebują też miejsca do życia. Jeziora danych przechowują surowe dane. Magazyny danych przechowują oczyszczone i ustrukturyzowane dane. Przetwarzanie wsadowe obsługuje pracę porcjami. Przetwarzanie w czasie rzeczywistym obsługuje strumienie na żywo.
Rozwiązania chmurowe i lokalne mają każde swoje miejsce. Chmura oferuje elastyczną skalowalność i dostęp do wyspecjalizowanego sprzętu. Rozwiązania lokalne dają ściślejszą kontrolę i lepiej sprawdzają się przy stabilnych obciążeniach. Trening i wnioskowanie wymagają też różnych kształtów infrastruktury. Trening potrzebuje skoków ciężkich obciążeń obliczeniowych. Wnioskowanie potrzebuje niezawodnej usługi o niskim opóźnieniu.
Tutaj wiele projektów zderza się z rzeczywistością. Model jest gotowy, zanim gotowa jest platforma danych. Albo dane są gotowe, zanim gotowy jest model zarządzania. Albo biznes chce demonstracji, zanim ktokolwiek zgodzi się co oznaczają dane. Klasyczne zachowanie w oprogramowaniu, tylko z większą liczbą kart GPU.
Możesz teraz spojrzeć na system AI i zobaczyć ruchome elementy stojące za szumem wokół technologii. Umiesz odróżnić dane, model, trenowanie i wdrożenie. To moment, w którym AI przestaje być nagłówkiem, a zaczyna być systemem inżynieryjnym.
O taki przejrzysty, praktyczny widok chcę dalej dbać tutaj, w The Model Log, gdzie jeden praktyczny koncept AI, jeden działający przykład i jedno szczere spojrzenie na to, co naprawdę działa, dzielą jedną salę.
