Aplikacje oparte na agentach AI. Projektowanie i wdrażanie systemów wieloagentowych Płoty

Najlepsze jednotomowe wprowadzenie do budowania agentowych systemów AI możesz przeczytać setki prac naukowych albo tę jedną książkę! Arun Rao, były pracownik działu GenAI w firmie Meta, profesor nadzwyczajny UCLA Systemy oparte na agentach AI rewolucjonizują sposób, w jaki organizacje rozwiązują złożone problemy biznesowe. Generatywna sztuczna inteligencja przyspiesza drogę od koncepcji przez prototyp aż do gotowego rozwiązania, a agenty AI łączące narzędzia, wiedzę, pamięć i uczenie się z zaawansowanymi modelami podstawowymi umożliwiają sekwencyjne wywoływanie modeli do realizacji niejednoznacznych zadań. Od agentów-koderów, przez agentów-badaczy, po agentów-analityków wszędzie widać, że mogą one znacząco przyspieszyć pracę zespołów. Jednak ich wdrożenie pozostaje wyzwaniem wymagającym intensywnego planowania. Książka stanowi praktyczny przewodnik po projektowaniu i wdrażaniu systemów jedno- i wieloagentowych. Autor wyjaśnia szczegółowo komponenty agentów AI od wyboru modelu, przez narzędzia i pamięć, po orkiestrację i planowanie. Przedstawia kompromisy projektowe, wzorce architektoniczne, a także najlepsze praktyki w zakresie skalowalności, współpracy między agentami i projektowania interfejsów użytkownika. Omawia również kluczowe aspekty pomiarów, walidacji, monitorowania produkcyjnego i bezpieczeństwa systemów agentowych. W książce: Szczególne cechy agentów AI opartych na modelach podstawowych Kluczowe komponenty i zasady projektowe agentów AI Kompromisy projektowe i wdrażanie efektywnych systemów wieloagentowych Projektowanie i wdrażanie dostosowanych rozwiązań AI, zwiększających efektywność i innowacyjność Hasło: Projektuj agenty AI, które analizują, uczą się i działają dla biznesu Spis treści: Przedmowa 1. Wprowadzenie do agentów Definicja agenta AI Rewolucja treningu wstępnego Rodzaje agentów Wybór modelu Od operacji synchronicznych do asynchronicznych Zastosowania praktyczne i przypadki użycia Przepływy pracy i agenty Zasady tworzenia skutecznych systemów agentowych Organizacja pracy pod kątem efektywnego budowania systemów agentowych Platformy agentowe LangGraph AutoGen CrewAI OpenAI Agents Software Development Kit (SDK) Podsumowanie 2. Projektowanie systemów agentowych Nasz pierwszy system agentowy Główne komponenty systemów agentowych Wybór modelu Narzędzia Projektowanie funkcji pod kątem konkretnych zadań Integracja narzędzi i modularność Pamięć Pamięć krótkotrwała Pamięć długotrwała Zarządzanie pamięcią i wyszukiwanie danych Orkiestracja Kompromisy projektowe Efektywność - kompromis między szybkością a dokładnością Skalowalność - projektowanie skalowalnych systemów agentowych Niezawodność - zapewnianie stabilnego i spójnego działania agentów Koszty - równowaga między wydajnością a wydatkami Architekturalne wzorce projektowe Architektury jednoagentowe Architektury wieloagentowe - współpraca, przetwarzanie równoległe i koordynacja Najlepsze praktyki Projektowanie iteracyjne Strategia ewaluacji Testowanie w warunkach rzeczywistych Podsumowanie 3. Projektowanie wrażeń użytkowników systemów agentowych Modalności interakcji Interfejsy tekstowe Interfejsy graficzne Interfejsy głosowe Interfejsy wideo Łączenie modalności w celu zapewnienia spójnych wrażeń Suwak autonomii Synchroniczne i asynchroniczne rozwiązania agentowe Zasady projektowania rozwiązań synchronicznych Zasady projektowania rozwiązań asynchronicznych Równowaga między aktywnym a natrętnym zachowaniem agenta Podtrzymywanie kontekstu i ciągłość Utrzymywanie stanu między interakcjami Personalizacja i dostosowywanie Komunikowanie możliwości agentów Przekazywanie pewności i niepewności Proszenie użytkowników o wskazówki i informacje Eleganckie radzenie sobie z błędami Zaufanie w projektowaniu interakcji Podsumowanie 4. Używanie narzędzi Podstawy LangChain Narzędzia lokalne Narzędzia oparte na API Wtyczki Model Context Protocol Narzędzia stanowe Zautomatyzowane tworzenie narzędzi Modele podstawowe jako twórcy narzędzi Generowanie kodu w czasie rzeczywistym Konfiguracja użycia narzędzi Podsumowanie 5. Orkiestracja Typy agentów Agenty odruchowe Agenty ReAct Agenty planistyczno-wykonawcze Agenty dekompozycyjne Agenty refleksyjne Agenty do badań pogłębionych Wybór narzędzi Standardowy wybór narzędzi Semantyczny wybór narzędzi Hierarchiczny wybór narzędzi Wykonywanie narzędzi Topologie narzędzi Wykonywanie pojedynczych narzędzi Równoległe wykonywanie narzędzi Łańcuchy Grafy Inżynieria kontekstu Podsumowanie 6. Wiedza i pamięć Podstawowe podejścia do zarządzania pamięcią Zarządzanie oknami kontekstowymi Tradycyjne wyszukiwanie pełnotekstowe Pamięć semantyczna i magazyny wektorowe Wprowadzenie do wyszukiwania semantycznego Budowanie pamięci semantycznej z wykorzystaniem magazynów wektorowych Generowanie wspomagane wyszukiwaniem Semantyczna pamięć doświadczeniowa GraphRAG Używanie grafów wiedzy Tworzenie grafów wiedzy Zalety i wady dynamicznych grafów wiedzy Robienie notatek Podsumowanie 7. Uczenie się w systemach agentowych Uczenie nieparametryczne Uczenie nieparametryczne na przykładach Refleksja Uczenie doświadczeniowe Uczenie parametryczne - dostrajanie Dostrajanie dużych modeli podstawowych Potencjał małych modeli Dostrajanie nadzorowane Bezpośrednia optymalizacja preferencyjna Uczenie ze wzmacnianiem z weryfikowalnymi nagrodami Podsumowanie 8. Od jednego agenta do wielu Ile agentów potrzebuję? Scenariusze jednoagentowe Scenariusze wieloagentowe Roje Zasady dodawania agentów Koordynacja między agentami Koordynacja demokratyczna Koordynacja menedżerska Koordynacja hierarchiczna Metody aktor-krytyk Automatyczne projektowanie systemów agentowych Techniki komunikacyjne Komunikacja lokalna a rozproszona Protokół Agent-to-Agent Brokery komunikatów i magistrale zdarzeń Platformy aktorowe - Ray, Orleans i Akka Mechanizmy orkiestracji i przepływu pracy Zarządzanie stanem i trwałością danych Podsumowanie 9. Walidacja i pomiary Pomiary systemów agentowych Pomiar to podstawa wszystkiego Włączanie ewaluacji w cykl wytwarzania oprogramowania Tworzenie i skalowanie zbiorów ewaluacyjnych Ewaluacja komponentów Ewaluacja narzędzi Ewaluacja planowania Ewaluacja pamięci Ewaluacja uczenia Ewaluacja holistyczna Skuteczność w scenariuszach kompleksowych Konsekwencja Spójność Halucynacje Obsługa nieoczekiwanych danych wejściowych Przygotowanie do wdrożenia Podsumowanie 10. Monitorowanie w środowisku produkcyjnym Monitorowanie jako źródło wiedzy Stosy monitorowania Grafana z OpenTelemetry, Loki i Tempo Stos ELK (Elasticsearch, Logstash/Fluentd, Kibana) Arize Phoenix SigNoz Langfuse Wybór odpowiedniego stosu technologii Instrumentacja OTel Wizualizacja i alarmowanie Wzorce monitorowania Wdrożenie równoległe Wdrożenia kanarkowe Gromadzenie śladów regresji Samonaprawiające się agenty Opinie użytkowników jako sygnał obserwowalności Przesunięcia rozkładów Odpowiedzialność za miary i nadzór międzyfunkcyjny Podsumowanie 11. Pętle doskonalenia Potoki informacji zwrotnej Automatyczne wykrywanie problemów i analiza przyczyn źródłowych Przegląd z udziałem człowieka Dopracowywanie promptów i narzędzi Agregowanie ulepszeń i określanie ich priorytetów Eksperymentowanie Wdrożenia równoległe Testy A/B Bayesowski bandyta Ciągłe uczenie Uczenie w kontekście Ponowny trening w trybie offline Podsumowanie 12. Zabezpieczanie systemów agentowych Unikatowe zagrożenia związane z systemami agentowymi Nowe wektory zagrożeń Zabezpieczanie modeli podstawowych Techniki defensywne Red teaming Modelowanie zagrożeń z użyciem MAESTRO Ochrona danych w systemach agentowych Prywatność danych i szyfrowanie Pochodzenie i integralność danych Zarządzanie danymi wrażliwymi Zabezpieczanie agentów Środki bezpieczeństwa Ochrona przed zagrożeniami zewnętrznymi Ochrona przed awariami wewnętrznymi Podsumowanie 13. Współpraca ludzi i agentów Role i autonomia Zmieniająca się rola człowieka w systemach agentowych Uzgadnianie oczekiwań interesariuszy i zachęcanie do korzystania z agentów Skalowanie współpracy Zakres działania agentów a role organizacyjne Współdzielona pamięć i granice kontekstu Zaufanie, nadzór i zgodność z przepisami Cykl zaufania Modele rozliczalności Projektowanie i nadzorowanie eskalacji Prywatność i zgodność z przepisami Podsumowanie: przyszłość zespołów złożonych z ludzi i agentów Słowniczek O autorze: Michael Albada jest inżynierem uczenia maszynowego z dziewięcioletnim doświadczeniem we wdrażaniu rozwiązań ML w dużych firmach technologicznych: Uber, ServiceNow i Microsoft. Specjalizuje się w dużych modelach językowych, systemach wieloagentowych i cyberbezpieczeństwie. Uzyskał tytuły naukowe związane z uczeniem maszynowym na uniwersytetach Stanforda i Cambridge, a także w Georgia Tech.