Najpierw dane
Sprawdzamy ich jakość, strukturę, wrażliwość i sposób aktualizacji.
TECHNOLOGY LAYER
Technologia jest częścią systemu, nie jego celem.
Dobór technologii zależy od procesu, danych, wymagań jakościowych, prywatności, integracji i kosztu operacyjnego. Pojedynczy model nie zastępuje architektury.
Główne warstwy technologiczne
LLM
Modele językowe do interpretacji i generowania tekstu. W produkcyjnym systemie wymagają kontekstu, reguł, walidacji i kontroli.
RAG
Retrieval-Augmented Generation łączy wyszukiwanie wiedzy z generowaniem odpowiedzi, aby model pracował na kontrolowanym kontekście.
Embeddings
Reprezentacje wektorowe wykorzystywane do wyszukiwania semantycznego, podobieństwa i retrieval.
Reranking
Drugi etap oceny wyników retrieval, który pomaga poprawić trafność kontekstu przed odpowiedzią modelu.
Local AI
Uruchamianie wybranych komponentów AI w środowisku lokalnym lub kontrolowanym, gdy wymaga tego prywatność, integracja lub ekonomika.
Integracje API
Warstwa łącząca modele i automatyzację z aplikacjami, bazami danych, rejestrami i systemami biznesowymi.
Infrastruktura AI
CPU, GPU, pamięć, storage, sieć, deployment i monitoring dobierane do rzeczywistego obciążenia i wymagań.
Jak dobieramy warstwy
Potem zadanie
Określamy, czy problem jest deterministyczny, wyszukiwawczy, generatywny czy hybrydowy.
Następnie kontrola
Walidacja, uprawnienia, human-in-the-loop, observability i obsługa błędów są częścią projektu.
Dopiero na końcu model i środowisko
Wybór komponentów następuje po określeniu wymagań, a nie przed nimi.
Kiedy AI nie jest potrzebne
Jeżeli zadanie ma stałe reguły, dobrze zdefiniowane wejście i jednoznaczny wynik, zwykły kod, reguły biznesowe lub API często będą prostsze, szybsze i łatwiejsze do audytu.