Švédská královská akademie věd udělila Nobelovu cenu za fyziku za rok 2024 Johnu J. Hopfieldovi z Princeton University a Geoffreymu E. Hintonovi z University of Toronto „za zásadní objevy a vynálezy, které umožňují strojové učení pomocí umělých neuronových sítí“.
Hopfield a Hinton významně přispěli k rozvoji umělých neuronových sítí tím, že položili základy metod pro jejich učení. Hopfield vytvořil model sítě, která je schopná ukládat a obnovovat vzory, což umožňuje efektivní zpracování informací, i když jsou neúplné nebo zkreslené. Hinton na tuto práci navázal a představil Boltzmannův stroj, který umožňuje rozpoznávání charakteristických prvků v datech.
Umělé neuronové sítě
Neuronové sítě byly inspirovány strukturou lidského mozku již ve 40. letech minulého století, kdy vědci začali zkoumat, jak při přenosu signálů a učení fungují neurony a synapse. První teoretické základy těchto sítí byly postaveny na poznatcích o tom, jak se posilují vazby mezi neurony při opakované aktivaci, což položilo základy pro pozdější modely umělých neuronových sítí.
Tyto rané myšlenky se staly klíčovými pro další výzkum, včetně práce Johna Hopfielda a Geoffreyho Hintona, kteří tyto teorie rozvinuli do funkčních systémů umožňujících strojové učení. V osmdesátých letech minulého století oba laureáti přinesli klíčové metody pro zpracování informací inspirované fungováním mozku.
Neuronové sítě jsou ve své podstatě matematický model inspirovaný způsobem, jakým pracuje lidský mozek. V našich mozcích jsou miliardy neuronů, které si mezi sebou předávají signály prostřednictvím synapsí. Podobně v umělé neuronové síti představují neurony takzvané uzly (nody), které mezi sebou komunikují prostřednictvím spojů. Tyto spoje mohou být posilovány, nebo oslabovány, což umožňuje síti „učit se“ na základě vzorů.
Objev Johna Hopfielda
John Hopfield se v roce 1982 zapsal do historie tím, že vytvořil systém, který dokáže ukládat a obnovovat vzory informací. Jeho model, známý jako Hopfieldova síť, funguje podobně jako náš mozek při vybavování různých informací.
Představte si, že si chcete vzpomenout na určité slovo, ale pamatujete si ho jen velmi nejasně. Vaše mysl postupně prochází různá podobná slova, dokud nenajde to správné. Stejně tak Hopfieldova síť dokáže obnovit celý vzor na základě částečných nebo zkreslených informací.
Hopfield se inspiroval fyzikou a konkrétně systémem, který popisuje vlastnost atomů chovat se jako malinkaté magnety. Když síti předáme zkreslený obraz, „učí“ se tak, že upravuje hodnoty svých uzlů, dokud nedosáhne nejnižší možné energetické úrovně. Uzly (neurony) v síti spolu interagují podobně, jako atomy ve spinu ovlivňují své sousedy.
Objev Geoffreyho Hintona
Geoffrey Hinton se inspiroval Hopfieldovou prací a přišel s dalším typem sítě – Boltzmannovým strojem. Tento model dokáže na základě určitých vzorů v datech rozpoznávat charakteristické prvky, což mu umožňuje například klasifikovat obrázky.
Hinton využil poznatky z fyziky, konkrétně z oblasti statistické fyziky, která popisuje chování velkých skupin částic, jako jsou molekuly v plynu. To umožňuje Boltzmannovým strojům nalézat v datech skryté vlastnosti a generovat nové příklady, které jsou podobné těm, na nichž byly stroje trénovány.
Hopfieldova síť je ideální pro ukládání a vybavování informací, ale rozpoznávání nových vzorů vyžadovalo jiný přístup. Právě zde vstoupila na scénu Hintonova práce. Boltzmannův stroj dokáže na základě statistického modelu odlišovat vzory, které patří do již známých kategorií, a tím umožňuje klasifikaci dat. Například po tréninku na obrázcích koček dokáže síť rozpoznat nový obrázek kočky, ačkoli ho nikdy předtím neviděla.
Důležité objevy s dopadem na současnost
V roce 2006 Hinton a jeho kolegové přišli s dalším průlomem v podobě pretréninku hlubokých sítí. To vedlo doslova k explozi nových výzkumů v oblasti strojového učení. Tento zásadní přínos rozhodně stojí za zmínku, protože vysvětluje, proč se neuronové sítě po období útlumu v devadesátých letech staly opět populárními.
To, co začalo jako čistě teoretická práce, se během posledních dvou dekád proměnilo v revoluci v oblasti strojového učení. Dnes vidíme výsledky této práce například v aplikacích, které dokážou rozpoznávat obličeje, překládat mezi různými jazyky nebo doporučovat filmy a seriály podle preferencí uživatelů.
John Hopfield a Geoffrey Hinton zásadně přispěli k rozvoji strojového učení a umělých neuronových sítí. Díky jejich průlomovým objevům můžeme dnes být svědky technologického pokroku, který mění nejen svět vědy, ale i každodenní život nás všech. A jak technologie pokračuje v dalším rozvoji, můžeme očekávat, že neuronové sítě budou hrát stále významnější roli.
Zdroje: nobelprize.org, nobelprize.org.