Seppo Linnainmaa - Seppo Linnainmaa
Seppo Ilmari Linnainmaa (ur. 28 września 1945) to fiński matematyk i informatyk . Urodził się w Pori . W 1974 r. Uzyskał pierwszy w historii doktorat z informatyki na Uniwersytecie Helsińskim . W 1976 roku został adiunktem. W latach 1984-1985 był profesorem wizytującym na University of Maryland w USA. W latach 1986-1989 był prezesem Fińskiego Towarzystwa Sztucznej Inteligencji. W latach 1989–2007 był profesorem naukowym w Centrum Badań Technicznych VTT w Finlandii . Na emeryturę przeszedł w 2007 roku.
Wyraźna, wydajna propagacja wsteczna błędów w dowolnych, dyskretnych, prawdopodobnie słabo połączonych sieciach neuronowych, podobnych do sieci, została po raz pierwszy opisana w pracy magisterskiej z 1970 roku (Linnainmaa, 1970, 1976), aczkolwiek bez odniesienia do NN, kiedy Linnainmaa wprowadziła odwrotny tryb automatycznego różnicowania (AD), w celu skutecznego obliczyć pochodną o różniczkowej funkcji kompozytowego , który może być przedstawiony w postaci wykresu , przez zastosowanie rekurencyjnie reguły łańcuch do budynku bloków funkcji. Linnainmaa opublikował go jako pierwszy, a następnie Gerardi Ostrowski, który użył go w kontekście pewnych modeli procesów w inżynierii chemicznej około pięć lat wcześniej, ale wcześniej go nie opublikował.
Wraz z pojawianiem się szybszych komputerów metoda ta stała się intensywnie stosowana w wielu zastosowaniach. Na przykład wsteczna propagacja błędów w wielowarstwowych perceptronach , technika stosowana w uczeniu maszynowym , jest szczególnym przypadkiem AD w trybie odwrotnym.