Claude to w pierwszej kolejności model sieci neuronowej, a dopiero potem narzędzie do rozumowania. Jego odpowiedzi pochodzą z dużego transformera, czyli rodzaju sieci neuronowej zaprojektowanej do nauki wzorców w tekście i innych danych. Karta modelu Anthropic wskazuje, że modele Claude’a wykorzystują architekturę transformera, trenowaną przy użyciu uczenia bez nadzoru, RLHF oraz Konstytucyjnego AI.
Brzmi to sucho, ale jest to kluczowa informacja. Claude nie rozumuje jak silnik regułowy. Nie posiada w sobie schludnego pudełka z regułami logiki. Przewiduje następny użyteczny token, a następnie wykorzystuje nauczoną strukturę wewnętrzną, aby utrzymać tę przewidywalną wartość w zgodzie z zadaniem. Dlatego właśnie ludzie mówią o „rozumowaniu” z Claude’em. Model nauczył się wzorców wspierających wieloetapową pracę, a nie tylko krótkie odpowiedzi.
Najważniejsza część tej sprawy brzmi tak: Claude może poświęcić więcej wysiłku na trudne żądanie. Anthropic dokumentuje tryb „Myślenie”, w którym model analizuje problem przed udzieleniem odpowiedzi. W tym trybie może on ponownie sformułować zadanie, próbować różnych ścieżek, sprawdzać wyniki pośrednie i odrzucać te, które zawiodą. Praktyczny efekt jest prosty. Zwykłe pytanie faktograficzne może otrzymać szybką odpowiedź. Trudne zadania matematyczne, kodowania lub analityczne mogą najpierw uruchomić głębszą pracę wewnętrzną.
Myślę, że tu wielu ludzi źle rozumie Claude’a. Słyszą „asystent AI” i oczekują jednego sztucznego triku. Ale w rzeczywistości istnieją tu dwie warstwy. Pierwszą warstwą jest sama sieć neuronowa, wytrenowana do modelowania języka i wielu użytecznych wzorców. Drugą warstwą jest zachowanie rozumowania, które pojawia się, gdy model przeznacza większy wysiłek wewnętrzny na rozwiązanie problemu. Dlatego Claude może wydawać się spokojny w przypadku prostych zadań, a bardziej zastanawiający w tych trudniejszych.
Anthropic stwierdził również, że Claude 3.7 Sonnet może działać zarówno jako zwykły LLM, jak i model rozumujący, z rozszerzonym myśleniem dostępnym, gdy jest to potrzebne. Bardziej najnowsze dokumenty opisują adaptacyjne myślenie, w którym Claude decyduje, czy myśleć, oraz ile, w oparciu o żądanie. Ma to znaczenie dla deweloperów, ponieważ pokazuje, że rozumowanie nie jest osobnym magicznym systemem doklejonym na końcu. Jest częścią sposobu, w jaki model jest uruchamiany i kierowany.
Istnieje tutaj użyteczne ograniczenie, które powinno pozostać w świadomości. „Rozumowanie” Claude’a to nadal nauczone zachowanie wewnątrz sieci neuronowej. Może wyglądać na ostrożne i mimo to być błędne. Badania samej Anthropic pokazują, że model czasami produkuje wiarygodne, ale słabe argumenty, lub pracuje wstecz od wskazówki w sposób, który wygląda na motywowane rozumowanie. To prawdziwy znak ostrzegawczy. Lepsze kroki wewnętrzne nie gwarantują prawdy.
Więc uczciwa odpowiedź jest prosta. Zdolności rozumowania Claude’a są napędzane przez sieci neuronowe, szczególnie duże modele językowe oparte na transformerach, plus metody treningowe i tryby myślenia, które pomagają modelowi poświęcić więcej wysiłku na trudne zadania. System może łączyć fakty, śledzić kroki i radzić sobie z dłuższymi zadaniami lepiej niż tryb szybkiej odpowiedzi. Ale to nadal model, a nie maszyna dowodowa. Potrafi rozumieć wystarczająco dobrze, by być użytecznym, i wciąż może chybić celu.
To jest ta część warta zapamiętania. Nagłówek jest prawdziwy, ale użyteczna wersja jest węższa. Sieci neuronowe dają Claude’owi strukturę do nauki wzorców. Tryby myślenia dają mu przestrzeń do analizowania trudniejszych problemów. Ograniczeniem jest to, że oba są nadal systemami statystycznymi, więc osąd i weryfikacja mają nadal znaczenie, gdy odpowiedź musi być poprawna.
To jest rodzaj prostej, działającej prawdy, do której dąży The Model Log: jeden praktyczny koncept AI, jeden działający przykład i jeden szczery rzut oka na to, co naprawdę działa.
