Python wciąż pojawia się w kontekście głębokich sieci neuronów z prostego powodu. PyTorch i TensorFlow sprawiają, że praca jest praktyczna. Dają programistom Pythona narzędzia do budowania, trenowania i dostrajania sieci neuronowych bez konieczności opuszczania wyższego poziomu kodu przy każdym kroku.
Wciąż wracam do jednego prostego faktu: język to nie cała historia. Python to przednie drzwi. To właśnie PyTorch i TensorFlow wykonują ciężką pracę za nimi. Zajmują się tensorami, automatycznym śledzeniem gradientów oraz przepływem treningu, na którym zależy nauka głęboka. PyTorch czerpie z normalnego przepływu sterowania w Pythonie, dzięki czemu model może zachowywać się jak zwykły kod podczas działania. TensorFlow również używa Pythona, a jego warstwa Keras oferuje czysty sposób definiowania i trenowania modeli.
Ma to znaczenie, ponieważ głębokie sieci neuronowe to nie tylko długie łańcuchy obliczeń matematycznych. Potrzebują wielokrotnych przejść przez dane. Potrzebują gradientów. Potrzebują jasnego sposobu definiowania warstw, funkcji strat i aktualizacji. Te dwa frameworki sprawiają, że ten proces jest możliwy do wykorzystania w Pythonie. PyTorch często opisuje się jako dynamiczny, co oznacza, że graf jest budowany w miarę wykonywania kodu. TensorFlow początkowo stosował bardziej statyczny styl grafu, choć współczesny TensorFlow obsługuje również wykonywanie eager (bezpośrednie), które znacznie bardziej przypomina normalną pracę w Pythonie.
Myślę, że to jest punkt, który wielu ludzi przeoczają, pytając o „głębokie sieci neuronowe w Pythonie”. Sam Python nie jest silnikiem modelu. Jest to warstwa kontrolna. Frameworkiem jest to, co zamienia Pythona w narzędzie do uczenia głębokiego. Dlatego ten sam język może obsługiwać szybkie eksperymenty, kod badawczy oraz systemy produkcyjne. Kod modelu wygląda jak Python, ale rzeczywiste obliczenia są przenoszone do zoptymalizowanych operacji tensorowych i pracy na GPU.
Istnieje również praktyczny podział w tym, jak te narzędzia się odczuwają. PyTorch ma tendencję do bycia bezpośrednim. Łatwo go inspekcjonować, zmieniać i debugować, ponieważ kod wykonuje się krok po kroku. TensorFlow często wydaje się bardziej ustrukturyzowany, zwłaszcza gdy używa się nad nim Keras. Ta struktura pomaga, gdy projekt wymaga bardziej standardowej ścieżki treningowej. Żadne z tych podejść nie jest magią. Oba są dojrzałe. Obie potrafią trenować głębokie sieci. Różnica polega raczej na stylu i przepływie pracy niż na podstawowych możliwościach.
Jeden szczery limit warto powiedzieć wyraźnie. Wybór między PyTorch a TensorFlow nie jest rozstrzygany przez jedną regułę. Pole się ciągle zmienia, a oba frameworki ewoluowały w czasie. Niektóre starsze twierdzenia dotyczące statycznych grafów versus dynamiczne grafy są teraz zbyt uproszczone. TensorFlow przesunął się w kierunku wykonywania eager, a PyTorch stał się silniejszy w zakresie wdrażania i narzędzi. Stary, ładny podział nadal pomaga jako punkt wyjścia, ale już nie przedstawia pełnego obrazu.
Dla mnie prawdziwa odpowiedź jest prosta. Jeśli ktoś chce budować głębokie sieci neuronowe w Pythonie, PyTorch i TensorFlow to główne ścieżki. To są narzędzia, które czynią Pythona użytecznym dla poważnej pracy w dziedzinie uczenia głębokiego. Język ma znaczenie, ale to we frameworku sieć neuronowa staje się rzeczywistością.
O tego rodzaju praktyczne szczegóły stara się dbać The Model Log: jeden praktyczny koncept sztucznej inteligencji, jeden działający przykład i jeden szczery rzut oka na to, co naprawdę działa.
