Grafowe sieci neuronowe. Teoria i praktyka - Filip Wójcik Rychwał

Cicha rewolucja, która nadeszła Grafowe sieci neuronowe (ang. graph neural networks, GNN) to klasa modeli uczenia głębokiego przeznaczona do analizy danych o strukturze grafowej. W początkowym okresie ich rozwój ograniczał brak efektywnych metod projektowania i optymalizacji; w ostatnich latach bariery te w dużej mierze zostały pokonane, co przełożyło się na dynamiczny postęp teorii i praktyki. Modele GNN znajdują zastosowanie między innymi w analizie sieci społecznościowych, optymalizacji procesów logistycznych, marketingu i pracy z bazami wiedzy. Ta książka zawiera kompleksowe opracowanie tematyki sieci grafowych w kontekście uczenia maszynowego. Tym samym wypełnia istotną lukę na polskim rynku wydawniczym, oferując połączenie solidnych podstaw teoretycznych z praktycznym zastosowaniem GNN. To przewodnik, który systematycznie przeprowadza przez kolejne zagadnienia związane z sieciami grafowymi: od narzędzi klasycznej analizy grafów w środowisku Pythona i wybranych zagadnień teorii grafów przez wprowadzenie do grafowych sieci neuronowych, a także przegląd wybranych warstw splotu grafowego i dobrych praktyk ich projektowania po zagadnienia związane ze szkoleniem sieci GNN i praktyczne przykłady ich zastosowań Spis treści: Wstęp Notacja i oznaczenia Rozdział 1. Narzędzia analizy grafów w środowisku Pythona 1.1. Biblioteki do klasycznej analizy grafów 1.2. Grafowe bazy danych 1.3. Biblioteki do budowania grafowych sieci neuronowych 1.3.1. PyTorch Geometric 1.3.2. Deep Graph Library 1.3.3. Porównanie bibliotek Rozdział 2. Wybrane zagadnienia teorii grafów 2.1. Podstawowe definicje i oznaczenia 2.2. Reprezentacja grafów i sąsiedztwa 2.2.1. Macierze sąsiedztwa 2.2.2. Listy sąsiedztwa 2.3. Liczbowe własności wierzchołków i grafów 2.3.1. Miary centralności wierzchołków 2.3.2. Numeryczna reprezentacja grafu 2.3.3. Problem izomorfizmu grafów i test Weisfeilera-Lehmana 2.4. Grafy heterogeniczne 2.4.1. Podstawowe pojęcia 2.4.2. Reprezentacja grafów heterogenicznych Rozdział 3. Grafowe sieci neuronowe GNN - wprowadzenie 3.1. Zadania realizowane przez sieci GNN 3.2. Podstawowe zasady działania sieci GNN 3.3. Model przekazywania wiadomości - MPNN 3.4. Implementacja modelu MPNN w PyG 3.5. Modele MPNN jako część większej sieci Rozdział 4. Przegląd wybranych warstw splotu grafowego 4.1. Splot GNN 4.1.1. Formalizacja i działanie 4.1.2. Implementacja 4.1.3. Podsumowanie 4.2. Splot GCN 4.2.1. Formalizacja i działanie 4.2.2. Implementacja 4.2.3. Podsumowanie 4.3. Splot SAGE 4.3.1. Formalizacja i działanie 4.3.2. Implementacja 4.3.3. Podsumowanie 4.4. Splot GAT 4.4.1. Formalizacja i działanie 4.4.2. Implementacja 4.4.3. Podsumowanie 4.5. Splot GIN 4.5.1. Formalizacja i działanie 4.5.2. Implementacja 4.5.3. Podsumowanie 4.6. Warstwy splotu dla grafów heterogenicznych 4.7. Podsumowanie omówionych warstw splotu Rozdział 5. Wybrane zagadnienia procesu szkolenia sieci grafowych 5.1. Podział danych grafowych na treningowe, walidacyjne i testowe 5.1.1. Indukcja i transdukcja 5.1.2. Podziały wierzchołków 5.1.3. Podziały krawędzi 5.1.4. Podziały grafów 5.2. Proces szkolenia na dużych zbiorach danych 5.2.1. Próbkowanie w oparciu o sąsiedztwo 5.2.2. Próbkowanie w oparciu o społeczności 5.2.3. Podsumowanie procesu szkolenia 5.3. Trudności i wyzwania w uczeniu warstw splotu grafowego 5.3.1. Problem nadmiernego wygładzania 5.3.2. Ograniczenie testem Weisfeilera-Lehmana 5.4. Dodatkowe modyfikacje warstw splotu usprawniające proces predykcji 5.4.1. Network in graph neural network 5.4.2. Agregacje wielokrotne 5.4.3. Mechanizm połączeń skokowych 5.4.4. Porównanie wyników przy zastosowaniu rozszerzeń Rozdział 6. Przykłady zastosowań grafowych sieci neuronowych 6.1. Klasyfikacja wierzchołków 6.1.1. Postać formalna 6.1.2. Znaczenie problemu i zastosowania 6.1.3. Klasyfikacja tematyczna stron na Facebooku 6.2. Klasyfikacja krawędzi 6.2.1. Postać formalna 6.2.2. Znaczenie problemu i zastosowania 6.2.3. Badanie oddziaływania pomiędzy lekami - klasyfikacja krawędzi 6.3. Klasyfikacja grafów 6.3.1. Postać formalna 6.3.2. Znaczenie problemu i zastosowania 6.3.3. Badania toksyczności cząsteczek - klasyfikacja grafów 6.4. Systemy rekomendacyjne 6.4.1. Postać formalna 6.4.2. Znaczenie problemu i zastosowania 6.4.3. Rekomendacje filmów MovieLens Zakończenie Bibliografia Skorowidz O autorze: Dr inż. Filip Wójcik - analityk danych, zajmuje się systemami uczenia maszynowego i sztucznej inteligencji od 2012 roku. Projektował i wdrażał rozwiązania ML/AI dla międzynarodowych i polskich przedsiębiorstw w sektorach finansowym, telekomunikacyjnym i logistycznym, pracując jako analityk danych (data scientist), kierownik zespołu badawczego i lider techniczny. Łączy działalność komercyjną z pracą akademicką; od 2017 roku związany z Uniwersytetem Ekonomicznym we Wrocławiu, gdzie specjalizuje się w optymalizacji procesów decyzyjnych z wykorzystaniem modeli uczenia maszynowego, w szczególności głębokich sieci neuronowych. Chętnie dzieli się wiedzą i doświadczeniem ze słuchaczami w ramach studiów podyplomowych, kursów, a także Biznesowego Indywidualnego Programu Studiów (BIPS). Autor licznych recenzowanych publikacji naukowych, prelegent międzynarodowych konferencji poświęconych najnowszym trendom w dziedzinie uczenia maszynowego.