Nauka wielozadaniowa - Multi-task learning

Uczenie wielozadaniowe (MTL) to poddziedzina uczenia maszynowego, w której wiele zadań uczenia się jest rozwiązywanych w tym samym czasie, przy jednoczesnym wykorzystaniu podobieństw i różnic między zadaniami. Może to skutkować lepszą wydajnością uczenia się i dokładnością przewidywania dla modeli specyficznych dla zadania w porównaniu z osobnym szkoleniem modeli. Wczesne wersje MTL nazywano „podpowiedziami”.

W szeroko cytowanym artykule z 1997 r. Rich Caruana przedstawił następującą charakterystykę:

Uczenie wielozadaniowe to podejście do transferu indukcyjnego, które poprawia uogólnianie poprzez wykorzystanie informacji dziedzinowych zawartych w sygnałach szkoleniowych powiązanych zadań jako błędu indukcyjnego . Robi to poprzez równoległe uczenie się zadań przy użyciu wspólnej reprezentacji ; to, czego się nauczymy dla każdego zadania, może pomóc w lepszym nauczeniu się innych zadań.

W kontekście klasyfikacji MTL ma na celu poprawę wydajności wielu zadań klasyfikacyjnych poprzez ich wspólne uczenie się. Jednym z przykładów jest filtr spamu, który może być traktowany jako odrębne, ale powiązane zadania klasyfikacyjne dla różnych użytkowników. Aby uczynić to bardziej konkretnym, weź pod uwagę, że różne osoby mają różne rozkłady funkcji, które odróżniają wiadomości spamowe od legalnych, na przykład osoba mówiąca po angielsku może uznać, że wszystkie wiadomości e-mail w języku rosyjskim są spamem, a nie rosyjskojęzyczne. Jednak w tym zadaniu klasyfikacji istnieje wyraźna cecha wspólna dla użytkowników, na przykład jedną wspólną cechą może być tekst związany z transferem pieniężnym. Wspólne rozwiązanie problemu klasyfikacji spamu każdego użytkownika za pośrednictwem MTL może pozwolić rozwiązaniom na wzajemne informowanie się i poprawę wydajności. Dalsze przykłady ustawienia MTL obejmują multiclass klasyfikacji i klasyfikacji wieloklasowej etykiety .

Uczenie wielozadaniowe działa, ponieważ regularyzacja wywołana wymaganiem, aby algorytm dobrze wykonywał powiązane zadanie, może być lepszy od regularyzacji, która zapobiega nadmiernemu dopasowaniu poprzez jednolitą karę dla całej złożoności. Jedną z sytuacji, w której MTL może być szczególnie pomocny, jest sytuacja, w której zadania mają istotne cechy wspólne i są na ogół nieznacznie niedostatecznie próbkowane. Jednak, jak omówiono poniżej, wykazano również, że MTL jest korzystny w przypadku uczenia się niepowiązanych zadań.

Metody

Grupowanie zadań i nakładanie się

W ramach paradygmatu MTL informacje mogą być udostępniane w ramach niektórych lub wszystkich zadań. W zależności od struktury powiązania zadań, można chcieć udostępniać informacje selektywnie w ramach zadań. Na przykład zadania mogą być pogrupowane lub istnieć w hierarchii lub być powiązane według jakiejś ogólnej metryki. Załóżmy, jak opisano bardziej formalnie poniżej, że wektor parametrów modelujący każde zadanie jest kombinacją liniową pewnej podstawowej podstawy. Podobieństwo w zakresie tej podstawy może wskazywać na pokrewieństwo zadań. Na przykład w przypadku sparsity nakładanie się niezerowych współczynników w zadaniach wskazuje na wspólność. Grupowanie zadań odpowiada wtedy zadaniom leżącym w podprzestrzeni generowanej przez pewien podzbiór elementów bazowych, gdzie zadania w różnych grupach mogą być rozłączne lub arbitralnie nakładać się na swoje podstawy. Powiązanie zadań można narzucić a priori lub nauczyć się na podstawie danych. Hierarchiczne powiązanie zadań można również wykorzystać pośrednio, bez jawnego zakładania a priori wiedzy lub relacji uczenia się. Na przykład można przeprowadzić bezpośrednie uczenie się o trafności próby w różnych zadaniach, aby zagwarantować skuteczność wspólnego uczenia się w wielu dziedzinach.

Wykorzystywanie niepowiązanych zadań

Można podjąć próbę uczenia się grupy zadań głównych, wykorzystując grupę zadań pomocniczych, niezwiązanych z zadaniami głównymi. W wielu aplikacjach korzystne może być wspólne uczenie się niepowiązanych ze sobą zadań, które wykorzystują te same dane wejściowe. Powodem jest to, że wcześniejsza wiedza na temat powiązania zadań może prowadzić do rzadszych i bardziej pouczających reprezentacji dla każdej grupy zadań, zasadniczo poprzez odsiewanie specyfiki dystrybucji danych. Zaproponowano nowatorskie metody, które opierają się na wcześniejszej metodologii wielozadaniowej, faworyzując wspólną, niskowymiarową reprezentację w ramach każdej grupy zadań. Programista może nałożyć karę na zadania z różnych grup, co zachęca obie reprezentacje do bycia ortogonalnym . Eksperymenty na danych syntetycznych i rzeczywistych wykazały, że włączenie niepowiązanych ze sobą zadań może skutkować znaczną poprawą w stosunku do standardowych wielozadaniowych metod uczenia się.

Transfer wiedzy

Z uczeniem wielozadaniowym wiąże się koncepcja transferu wiedzy. Podczas gdy tradycyjna nauka wielozadaniowa implikuje, że wspólna reprezentacja jest rozwijana równolegle w ramach zadań, transfer wiedzy implikuje sekwencyjnie dzieloną reprezentację. Projekty uczenia maszynowego na dużą skalę, takie jak głęboka, splotowa sieć neuronowa GoogLeNet , klasyfikator obiektów oparty na obrazach, mogą tworzyć solidne reprezentacje, które mogą być przydatne do dalszego uczenia algorytmów zadań związanych z uczeniem się. Na przykład wstępnie wytrenowany model może być używany jako ekstraktor cech do wykonywania wstępnego przetwarzania dla innego algorytmu uczenia. Lub wstępnie wytrenowany model może być użyty do zainicjowania modelu o podobnej architekturze, który jest następnie dostrajany w celu nauczenia się innego zadania klasyfikacji.

Grupowe uczenie adaptacyjne online

Tradycyjnie uczenie się wielozadaniowe i transfer wiedzy są stosowane w stacjonarnych ustawieniach uczenia się. Ich rozszerzenie na środowiska niestacjonarne jest określane jako grupowe uczenie się adaptacyjne online (GOAL). Dzielenie się informacjami może być szczególnie przydatne, jeśli uczący się działają w ciągle zmieniającym się środowisku, ponieważ uczący się może skorzystać z wcześniejszych doświadczeń innego ucznia, aby szybko przystosować się do nowego środowiska. Takie adaptacyjne uczenie się grup ma wiele zastosowań, od przewidywania finansowych szeregów czasowych, przez systemy rekomendacji treści, po wizualne zrozumienie adaptacyjnych agentów autonomicznych.

Matematyka

Odwzorowanie przestrzeni Hilberta funkcji o wartościach wektorowych (RKHSvv)

Problem MTL można odlewać w kontekście RKHSvv (a całkowitego przestrzeni wewnętrznej produktów z funkcjami o wartościach wektorowych wyposażonych w jądrze odtwarzającego ). W szczególności ostatnio skupiono się na przypadkach, w których strukturę zadań można zidentyfikować za pomocą oddzielnego jądra, opisanego poniżej. Prezentacja tutaj pochodzi od Ciliberto i in., 2015.

Koncepcje RKHSvv

Załóżmy, że zestaw danych uczących to , z , , gdzie t indeksuje zadanie i . Niech . W tym ustawieniu istnieje spójna przestrzeń wejścia i wyjścia oraz ta sama funkcja strat dla każdego zadania: . Powoduje to uregulowany problem uczenia maszynowego: ${\ Displaystyle {\ mathcal {S}} _ {t} = \ {(x_ {i} ^ {t}, y_ {i} ^ {t}) \} _ {i = 1} ^ {n_ {t} }}$${\ Displaystyle x_ {i} ^ {t} \ w {\ mathcal {X}}}$${\ Displaystyle y_ {i} ^ {t} \ w {\ mathcal {Y}}}$${\displaystyle t\w 1,...,T}$${\ Displaystyle n = \ suma _ {t = 1} ^ {T} n_ {t}}$ ${\ Displaystyle {\ mathcal {L}}: \ mathbb {R} \ razy \ mathbb {R} \ rightarrow \ mathbb {R} _ {+}}$

$${\ Displaystyle \ min _ {f \ w {\ mathcal {H}}} \ suma _ {t = 1} ^ {T} {\ Frac {1} {n_ {t}}} \ suma _ {i = 1 }^{n_{t}}{\mathcal {L}}(y_{i}^{t},f_{t}(x_{i}^{t}))+\lambda ||f||_{ \mathcal {H}}^{2}}$$

( 1 )

gdzie jest wektorem odtwarzającym przestrzeń Hilberta jądra z funkcjami posiadającymi komponenty . ${\ Displaystyle {\ Mathcal {H}}}$${\ Displaystyle f: {\ mathcal {X}} \ rightarrow {\ mathcal {Y}} ^ {T}}$${\displaystyle f_{t}:{\mathcal {X}}\rightarrow {\mathcal {Y}}}$

Jądro odtwarzające dla przestrzeni funkcji jest symetryczną funkcją o wartościach macierzowych , taką, że zachodzi następująca własność odtwarzania: ${\ Displaystyle {\ Mathcal {H}}}$${\ Displaystyle f: {\ mathcal {X}} \ rightarrow \ mathbb {R} ^ {T}}$${\ Displaystyle \ Gamma: {\ mathcal {X}} \ razy {\ mathcal {X}} \ rightarrow \ mathbb {R} ^ {T \ razy T}}$${\ Displaystyle \ Gamma (\ cdot, x) c \ w {\ mathcal {H}}}$

$${\ Displaystyle \ langle f (x), c \ rangle _ {\ mathbb {R} ^ {T}} = \ langle f \ gamma (x \ cdot) c \ rangle _ {\ mathcal {H}}}$$

( 2 )

Z jądra odtwarzającego powstaje twierdzenie o reprezentatorze, pokazujące, że każde rozwiązanie równania 1 ma postać:

$${\ Displaystyle f (x) = \ suma _ {t = 1} ^ {T} \ suma _ {i = 1} ^ {n_ {t}} \ gamma (x, x_ {i} ^ {t}) c_ {i}^{t}}$$

( 3 )

Oddzielne jądra

Forma jądra Γ indukuje zarówno reprezentację przestrzeni cech, jak i strukturyzuje dane wyjściowe w różnych zadaniach. Naturalnym uproszczeniem jest wybór jądra separowalnego, które uwzględnia oddzielne jądra w przestrzeni wejściowej X i zadaniach . W tym przypadku jądro odnoszące skalarne składników i jest przez . Dla funkcji o wartościach wektorowych możemy napisać , gdzie k jest skalarnym jądrem odtwarzającym, a A jest symetryczną dodatnią macierzą półokreśloną. Odtąd oznaczają . ${\displaystyle \{1,...,T\}}$${\displaystyle f_{t}}$${\displaystyle f_{s}}$${\textstyle \gamma ((x_{i},t),(x_{j},s))=k(x_{i},x_{j})k_{T}(s,t)=k(x_ {i},x_{j})A_{s,t}}$${\ Displaystyle f \ w {\ mathcal {H}}}$${\ Displaystyle \ Gamma (x_ {i}, x_ {j}) = k (x_ {i}, x_ {j}) A}$${\displaystyle T\razy T}$${\ Displaystyle S_ {+} ^ {T} = \ {\ tekst {matryce PSD}} \} \ podzbiór \ mathbb {R} ^ {T \ razy T}}$

Ta właściwość faktoryzacji, separowalność, oznacza, że ​​reprezentacja wejściowej przestrzeni cech nie różni się w zależności od zadania. Oznacza to, że nie ma interakcji między jądrem wejściowym a jądrem zadaniowym. Strukturę zadań reprezentuje wyłącznie A . Metody dla ziarniaków nierozdzielnych Γ to aktualny obszar badań.

W przypadku rozdzielnym twierdzenie o reprezentacji sprowadza się do . Wynikiem modelu danych uczących jest wtedy KCA , gdzie K jest empiryczną macierzą jądra z wpisami , a C jest macierzą wierszy . ${\textstyle f(x)=\sum _{i=1}^{N}k(x,x_{i})Ac_{i}}$${\displaystyle n\razy n}$${\textstyle K_{i,j}=k(x_{i},x_{j})}$${\displaystyle n\razy T}$${\displaystyle c_{i}}$

W jądrze separowalnym równanie 1 można przepisać jako

$${\ Displaystyle \ min _ {C \ w \ mathbb {R} ^ {n \ razy T}} V (Y, KCA) + \ lambda tr (KCAC ^ {\ góra})}$$

( P )

gdzie V jest (ważoną) średnią L stosowaną w ujęciu wejściowym do Y i KCA . (Waga wynosi zero, jeśli brakuje obserwacji). ${\ Displaystyle Y_ {i} ^ {t}}$

Zauważ, że drugi termin w P można wyprowadzić w następujący sposób:

${\ Displaystyle {\ zacząć {wyrównany} \ | f \ | _ {\ mathcal {H}} ^ {2} i = \ lewo \ langle \ suma _ {i = 1} ^ {n} k (\ cdot, x_ {i})Ac_{i},\sum _{j=1}^{n}k(\cdot ,x_{j})Ac_{j}\right\rangle _{\mathcal {H}}\\& =\sum _{i,j=1}^{n}\langle k(\cdot ,x_{i})Ac_{i},k(\cdot ,x_{j})Ac_{j}\rangle _{ \mathcal {H}}&{\text{(dwuliniowość)}}\\&=\sum _{i,j=1}^{n}\langle k(x_{i},x_{j})Ac_{ i},c_{j}\rangle _{\mathbb {R} ^{T}}&{\text{(odtwarzanie właściwości)}}\\&=\sum _{i,j=1}^{n} k(x_{i},x_{j})c_{i}^{\top }Ac_{j}=tr(KCAC^{\top })\end{wyrównany}}}$

Znana struktura zadań

Reprezentacje struktury zadań

Istnieją trzy w dużej mierze równoważne sposoby reprezentowania struktury zadań: za pomocą regulatora; przez metrykę wyjściową i przez mapowanie danych wyjściowych.

Przykłady struktury zadań

Za pomocą formuły regularyzatora można łatwo reprezentować różne struktury zadań.

• Pozwalanie (gdzie jest macierzą jednostkową T x T , a jest macierzą jedności T x T ) jest równoznaczne z pozwoleniem Γ na kontrolowanie wariancji zadań od ich średniej . Na przykład, poziomy niektórych biomarkerów we krwi mogą być mierzone u pacjentów T w punktach czasowych w ciągu dnia, a zainteresowanie może leżeć w uregulowaniu wariancji przewidywań u pacjentów.${\textstyle A^{\dagger }=\gamma I_{T}+(\gamma -\lambda ){\frac {1}{T}}\mathbf {1} \mathbf {1} ^{\top }}$${\ Displaystyle I_ {T}}$${\textstyle \mathbf {1} \mathbf {1} ^{\top }}$${\textstyle \sum _{t}||f_{t}-{\bar {f}}||_{{\mathcal {H}}_{k}}}$${\textstyle {\frac {1}{T}}\sum _{t}f_{t}}$${\displaystyle n_{t}}$
• Pozwalanie , gdzie jest równoznaczne z pozwoleniem na kontrolowanie wariancji mierzonej względem średniej grupy: . (Tutaj liczność grupy r, i jest funkcją wskaźnika). Na przykład ludzie z różnych partii (grup) politycznych mogą być uregulowani razem w odniesieniu do przewidywania oceny przychylności polityka. Zauważ, że ta kara zmniejsza się do pierwszej, gdy wszystkie zadania znajdują się w tej samej grupie.${\ Displaystyle A ^ {\ sztylet} = \ alfa I_ {T} + (\ alfa - \ lambda) M}$${\ Displaystyle M_ {t, s} = {\ Frac {1} {| G_ {R} |}} \ mathbb {I} (t, s \ w G_ {R})}$${\ Displaystyle \ alfa}$${\ Displaystyle \ suma _ {R} \ suma _ {t \ w G_ {R}} | | F_ {t} - {\ Frac {1} {| G_ {R} |}} \ suma _ {s \ w G_{r})}f_{s}||}$${\displaystyle |G_{r}|}$${\displaystyle \mathbb {ja}}$
• Letting , gdzie jest Laplace'em dla grafu z macierzą sąsiedztwa M podającą parami podobieństwa zadań. Jest to równoznaczne z nałożeniem większej kary za odległość dzielącą zadania t i s, gdy są one bardziej do siebie podobne (według wagi ,), czyli regularyzuje .${\ Displaystyle A ^ {\ sztylet} = \ delta I_ {T} + (\ delta - \ lambda) L}$${\ Displaystyle L = DM}$ ${\displaystyle M_{t,s}}$${\ Displaystyle \ delta}$${\ Displaystyle \ suma _ {t, s} | | | f_ {t}-f_ {s} | | _ {{\ matematyczne {H}} _ {k}} ^ {2} M_ {t, s}}$
• Wszystkie powyższe wybory A wywołują również dodatkowy termin regularyzacyjny, który szerzej karze złożoność w f.${\textstyle \lambda \sum _{t}||f||_{{\mathcal {H}}_{k}}^{2}}$

Zadania uczenia się wraz z ich strukturą

Problem uczenia się P można uogólnić, aby przyjąć macierz zadań uczenia się A w następujący sposób:

$${\ Displaystyle \ min _ {C \ w \ mathbb {R} ^ {n \ razy T} A \ w S_ {+} ^ {T}} V (Y, KCA) + \ lambda tr (KCAC ^ {\ góra })+F(A)}$$

( P )

Wybór musi mieć na celu poznanie macierzy A danego typu. Zobacz „Przypadki specjalne” poniżej. ${\ Displaystyle F: S_ {+} ^ {T} \ rightarrow \ mathbb {R} _ {+}}$

Optymalizacja Q

Ograniczając się do przypadku ubytków wypukłych i kar przymusowych Ciliberto et al. wykazali, że chociaż Q nie jest wspólnie wypukłe w C i A, powiązany problem jest wspólnie wypukły.

W szczególności na wypukłym zestawie , równoważny problem ${\ Displaystyle {\ mathcal {C}} = \ {(C, A) \ w \ mathbb {R} ^ {n \ razy T} \ razy S_ {+} ^ {T} | Zakres (C ^ {\ Top }KC)\subseteq Zakres(A)\}}$

$${\ Displaystyle \ min _ {C, A \ w {\ mathcal {C}}} V (Y, KC) + \ lambda tr (A ^ {\ sztylet} C ^ {\ top} KC) + F (A) }$$

( R )

jest wypukły o tej samej wartości minimalnej. A jeśli jest minimalizatorem dla R, to jest minimalizatorem dla Q . ${\ Displaystyle (C_ {R}, A_ {R})}$${\ Displaystyle (C_ {R} A_ {R} ^ {\ sztylet}, A_ {R})}$

R można rozwiązać metodą barierową na zbiorze domkniętym, wprowadzając następujące zaburzenie:

$${\ Displaystyle \ min _ {C \ w \ mathbb {R} ^ {n \ razy T} A \ w S_ {+} ^ {T}} V (Y, KC) + \ lambda tr (A ^ {\ sztylet }(C^{\top }KC+\delta ^{2}I_{T}))+F(A)}$$

( S )

Zaburzenie przez barierę wymusza, aby funkcje celu były równe na granicy . ${\ Displaystyle \ delta ^ {2} tr (A ^ {\ sztylet})}$${\displaystyle +\infty}$${\ Displaystyle R ^ {n \ razy T} \ razy S_ {+} ^ {T}}$

S można rozwiązać za pomocą metody opadania współrzędnych blokowych, naprzemiennie w C i A. Powoduje to sekwencję minimalizatoróww S, która zbiega się do rozwiązania w R jako, a zatem daje rozwiązanie Q . ${\ Displaystyle (C_ {m}, A_ {m})}$${\ Displaystyle \ delta _ {m} \ rightarrow 0}$

Przypadki specjalne

Kary spektralne - Dinnuzo i wsp. zasugerowali ustalenie F jako normy Frobeniusa. Zoptymalizowali Q bezpośrednio za pomocą opadania współrzędnych bloku, nie biorąc pod uwagę trudności na granicy. ${\ Displaystyle {\ sqrt {tr (A ^ {\ Top} A)}}}$${\ Displaystyle \ mathbb {R} ^ {n \ razy T} \ razy S_ {+} ^ {T}}$

Nauka zadań skupionych – Jacob i wsp. zasugerowali, aby uczyć się A w sytuacji, w której zadania T są zorganizowane w klastry R rozłączne. W tym przypadku niech będzie macierz z . Ustawienie , i , macierz zadań może być sparametryzowana jako funkcja : , z terminami, które karzą średnią, odpowiednio wariancji między skupieniami i wariancji wewnątrz skupień, odpowiednio od przewidywań zadania. M nie jest wypukły, ale występuje wypukła relaksacja . W tym sformułowaniu . ${\ Displaystyle E \ w \ {0,1 \} ^ {T \ razy R}}$${\ Displaystyle E_ {t, r} = \ mathbb {ja} ({\ tekst {zadanie}} t \ w {\ tekst {grupa}} r)}$${\ Displaystyle M = IE ^ {\ sztylet} E ^ {T}}$${\ Displaystyle U = {\ Frac {1} {T}} \ mathbf {11} ^ {\ Top}}$${\ Displaystyle A ^ {\ sztylet}}$${\ Displaystyle M}$${\ Displaystyle A ^ {\ sztylet} (M) = \ epsilon _ {M} U + \ epsilon _ {B} (MU) + \ epsilon (IM)}$${\ Displaystyle {\ mathcal {S}} _ {c} = \ {M \ w S_ {+} ^ {T}: IM \ w S_ {+} ^ {T} \ ziemi tr (M) = r \} }$${\ Displaystyle F (A) = \ mathbb {I} (A (M) \ w \ {A: M \ w {\ mathcal {S}} _ {C} \})}$

Uogólnienia

Kary niewypukłe — kary mogą być skonstruowane w taki sposób, że A jest ograniczone do grafu Laplace'a lub że A ma niską faktoryzację rang. Jednak kary te nie są wypukłe, a analiza metody barierowej zaproponowana przez Ciliberto i in. nie przechodzi w takich przypadkach.

Jądra nierozłączne - Jądra rozłączne są ograniczone, w szczególności nie uwzględniają struktur w przestrzeni interakcji między domenami wejściowymi i wyjściowymi łącznie. Potrzebne są dalsze prace, aby opracować modele dla tych jąder.

Aplikacje

Filtrowanie spamu

Korzystając z zasad MTL, zaproponowano techniki wspólnego filtrowania spamu, które ułatwiają personalizację. W wielkoskalowych systemach e-mail z otwartym członkostwem większość użytkowników nie nadaje etykietom wystarczającej liczby wiadomości, aby pojedynczy lokalny klasyfikator był skuteczny, a dane są zbyt zaszumione, aby można je było wykorzystać do globalnego filtrowania wśród wszystkich użytkowników. Hybrydowy globalny/indywidualny klasyfikator może skutecznie absorbować wpływ użytkowników, którzy bardzo pilnie oznaczają wiadomości e-mail od ogółu społeczeństwa. Można to osiągnąć, zapewniając jednocześnie wystarczającą jakość użytkownikom z niewielką liczbą oznaczonych wystąpień.

wyszukiwarka internetowa

Używając wzmocnionych drzew decyzyjnych , można umożliwić niejawne udostępnianie i regulowanie danych. Ta metoda uczenia się może być używana w zestawach danych rankingu wyszukiwania w sieci. Jednym z przykładów jest wykorzystanie zestawów danych rankingowych z kilku krajów. W tym przypadku nauka wielozadaniowa jest szczególnie pomocna, ponieważ zbiory danych z różnych krajów różnią się znacznie pod względem wielkości ze względu na koszt ocen redakcyjnych. Wykazano, że wspólne uczenie się różnych zadań może prowadzić do znacznej poprawy wydajności przy zaskakującej niezawodności.

Pakiet oprogramowania

Pakiet Matlab Multi-Task Learning via StructurAl Regularization (MALSAR) implementuje następujące wielozadaniowe algorytmy uczenia:

• Uczenie wielozadaniowe uregulowane na podstawie średniej
• Nauka wielozadaniowa z wyborem funkcji wspólnych
• Solidna nauka funkcji wielozadaniowych
• Usystematyzowana wielozadaniowa nauka według Trace-Norm
• Naprzemienna optymalizacja strukturalna
• Niespójna nauka niskiej rangi i rzadka
• Solidna nauka wielozadaniowa niskiej rangi
• Klastrowa nauka wielozadaniowa
• Nauka wielozadaniowa ze strukturami grafowymi

Zobacz też

Bibliografia

Linki zewnętrzne

• Biosignals Intelligence Group w UIUC
• Uniwersytet Waszyngtoński w St. Louis Depart. Informatyki

Oprogramowanie

• Wielozadaniowe uczenie się poprzez pakiet regularyzacji strukturalnej
• Online Multi-Task Learning Toolkit (OMT) Uniwersalny zestaw narzędzi do uczenia wielozadaniowego online oparty na warunkowych modelach pól losowych i uczeniu stochastycznego gradientu ( C# , .NET )