Głębokie uczenie napędza silnik rekomendacji YouTube. Pomaga systemowi wybierać użyteczne filmy z ogromnej kolekcji, a następnie rangować je dla każdego widza.
Taka odpowiedź brzmi prosto. Sam system nie jest prosty.
Moim zdaniem kluczowym pomysłem jest podział na generowanie kandydatów i rangowanie. To dwa różne zadania. Jeden model znajduje mały zbiór możliwych filmów. Drugi model ocenia te filmy i decyduje, które pojawią się jako pierwsze.
Ten podział ma znaczenie, ponieważ YouTube ma zbyt wiele filmów, aby porównać je wszystkie w całości dla każdego widza. Model nie może głęboko oceniać każdej pozycji za każdym razem, gdy ktoś otwiera aplikację. Pierwszy etap ogranicza przestrzeń wyszukiwania. Drugi etap poświęca więcej mocy obliczeniowej na krótszą listę.
Dwie sieci neuronowe, dwa zadania
Model generowania kandydatów analizuje ostatnią aktywność widza. Może to obejmowane obejrzeć filmy, wyszukane frazy, subskrypcje, polubienia, łapki w dół i inne sygnały. Następnie znajduje małą grupę filmów, które mogą pasować do widza.
Sieć neuronowa jest przydatna tutaj, ponieważ potrafi uczyć się wzorców na podstawie wielu sygnałów. Widz może obejrzeć film o Pythonie, następnie wyszukać wizję komputerową, a potem pominąć kilka strumieni gier. Model może wykorzystać te zdarzenia łącznie. Nie potrzebuje prostych reguł dla każdego przypadku.
Wynik nie jest ostateczną odpowiedzią. To krótka lista propozycji.
Model rangowania otrzymuje tę krótką listę. Otrzymuje również więcej szczegółów o widzowie, filmie i obecnej sytuacji. Pora dnia, urządzenie, język, niedawne działania i oglądany film mogą wpływać na ocenę.
Model rangowania następnie uporządkowuje kandydatów. To część, którą zauważa większość widzów. Decyduje, który film znajduje się blisko góry strony głównej lub pojawia się dalej w strumieniu oglądania.
Stary opis badawczy tego projektu nadal jest użyteczny, ponieważ pokazuje podstawowy kształt wyraźnie. Głębokie uczenie nie działa jako jeden wielki magiczny model. Działa jako zestaw modeli wewnątrz większego systemu wyszukiwania.
Ta różnica jest łatwa do przeoczenia w luźnych dyskusjach. Jest też ważna przy budowaniu mniejszych systemów rekomendacji. Pojedynczy model może wystarczyć dla małego katalogu. W skali makro pobieranie i rangowanie zwykle potrzebują różnych celów.
Czego uczy się model
System uczy się na podstawie zachowań. Obejrzany film daje jeden sygnał. Pominięty film daje inny. Frazy wyszukiwania, polubienia, łapki w dół, subskrypcje i informacja „Nie interesuje mnie” dostarczają więcej informacji.
Czas oglądania może pomóc, ale nie jest całym celem. Długi film może ciągle grać, gdy widz jest nieobecny. Krótki film może być użyteczny nawet wtedy, gdy zajmuje mało czasu. YouTube opisał również ankiety satysfakcji jako sposób na naukę o doświadczeniu widza, zamiast polegać tylko na czasie oglądania.
To trudny problem modelowania. To samo działanie może oznaczać różne rzeczy.
Widz może raz zainteresować się tematem do szkoły. Nie oznacza to, że temat jest trwałym zainteresowaniem. Inny widz może przerwać w połowie, bo film szybko odpowiedział na pytanie. Surowe zdarzenie nie wyjaśnia przyczyny.
Sieci neuronowe mogą uczyć się użytecznych wzorców z tych zdarzeń. Nie mogą czytać intencji bezpośrednio. Widzą zapisy zachowań i próbują przewidzieć, co może się wydarzyć dalej.
Dlatego modele rekomendacji używają wielu sygnałów. Każdy sygnał jest słaby sam w sobie. Razem mogą opisać bieżące zainteresowania widza z większą dokładnością.
Modele uczą się również z grup podobnych widzów. Jeśli ludzie o podobnych wzorcach oglądania często polubią film, ten film może trafić do zbioru kandydatów innego widza. Może to pomóc w przypadku filmów, których dana osoba nigdy wcześniej nie oglądała.
Jest tu kompromis. Wspólne wzorce mogą pomagać w odkrywaniu nowych treści. Mogą też sprawiać, że rekomendacje wyglądają podobnie. System, który stale wybiera znane tematy, może dawać mniej miejsca nowym zainteresowaniom.
Głębokie uczenie jest częścią większego systemu
Sieć neuronowa nie jest całym silnikiem rekomendacji. Zbieranie danych, przetwarzanie cech, indeksowanie filmów, zasady bezpieczeństwa, zasady biznesowe, eksperymenty i systemy dostarczania mają znaczenie.
Użyteczny model może nadal zawodzić, jeśli jego dane wejściowe doczną spóźniono. Model rangowania może również produkować słabe wyniki, jeśli cel jest zbyt wąski. Optymalizacja kliknięć, na przykład, nie opisuje w pełni satysfakcji ani wartości.
Tu liczy się wybór celu treningowego. Inżynierowie muszą zdecydować, co model powinien przewidywać. Możliwe cele to kliknięcie, dłuższe oglądanie, obejrzenie filmu do końca, pozytywna ocena lub odpowiedź z ankiety.
Każdy cel zmienia zachowanie systemu.
Kliknięcie jest łatwe do zmierzenia. Może też nagradzać tytuł lub miniaturę, która przyciąga uwagę, nie dostarczając wartości. Czas oglądania daje więcej kontekstu, ale nadal nie dowodzi, że widz był zadowolony.
Żaden pojedynczy sygnał nie rozwiązuje tego problemu. Publiczne wyjaśnienia YouTube opisują kilka rodzajów informacji zwrotnej, w tym zachowanie podczas oglądania, bezpośrednią informację zwrotną i sygnały satysfakcji. Dokładny system produkcyjny ciągle się zmienia, więc publiczne opisy należy czytać jako przewodniki wysokiego poziomu, a nie pełny kod źródłowy.
To ograniczenie ma znaczenie. Artykuł badawczy wyjaśnia architekturę na wysokim poziomie. Nie ujawnia wszystkich obecnych modeli, cech, zasad ani metod ewaluacji używanych dzisiaj.
Trudnym problemem jest informacja zwrotna
Systemy rekomendacji uczą się na podstawie zachowań, na które wpływają. Tworzy to pętlę sprzężenia zwrotnego.
Film pokazywany częściej dostaje więcej szans na obejrzenie. Film pokazywany rzadziej otrzymuje mniej danych. System może wtedy potraktować brak danych jako słabe zainteresowanie, nawet gdy widzowie nigdy nie mieli sprawiedliwej szansy go zobaczyć.
Nowi twórcy i nowe tematy mogą spotkać się z tym problemem. Model potrzebuje wystarczających dowodów, aby podjąć pewną decyzję. Potrzebuje też jakiegoś sposobu testowania mniej znanych wyborów.
Nazywa się to problemem eksploracji. System musi zrównoważyć znane zainteresowania z możliwymi nowymi zainteresowaniami. Zbyt dużo eksploracji może wydawać się losowa. Zbyt mało może zawęzić kanał.
Ten sam problem dotyczy widzów. Przyszłe sugestie kształtuje przeszłe zachowanie osoby. Może to być użyteczne, gdy wzorzec jest jasny. Może też ciągle pokazywać podobne materiały po zakończeniu tymczasowego zainteresowania.
Personalizacja jest zatem zadaniem predykcyjnym, a nie idealnym zrozumieniem człowieka. Model szacuje prawdopodobne zainteresowanie na podstawie dostępnych sygnałów. Może się mylić, a jego błędy mogą się powtarzać.
Najsilniejszą praktyczną lekcją jest prosta. Głębokie sieci neuronowe czynią możliwe skalowalną rekomendację, ucząc się złożonych powiązań między widzami, filmami i kontekstem. Nie usuwają one potrzeby starannie wyznaczonych celów, dobrych danych, uczciwego testowania i mocnych kontroli systemowych.
Kiedy wyjaśniam ten system programistom, skupiam się najpierw na dwuetapowym projekcie. Generowanie kandydatów znajduje to, co może pasować. Rangowanie decyduje, co zasługuje na uwagę. Ta struktura jest łatwiejsza do zrozumienia niż mglista deklaracja, że „AI rekomenduje filmy”.
Daje też lepszy sposób oceny systemu. Zapytaj, co model pobiera. Zapytaj, jak go ranguje. Zapytaj, jakie zachowanie nagradza. Następnie zapytaj, czego model nie może obserwować.
Głębokie uczenie napędza silnik rekomendacji YouTube, ale samo głębokie uczenie nie wyjaśnia wyniku. Końcowe doświadczenie pochodzi z modeli, danych, wyborów produktowych i pętli sprzężenia zwrotnego działających razem. Przydatny inżynierski punkt widzenia jest praktyczny: potężna predykcja wymaga starannej kontroli.
Oto fokus The Model Log: jedno praktyczne pojęcie sztucznej inteligencji, jeden działający przykład i jedna szczera analiza tego, co naprawdę działa.
