Proces

Wdrażanie i utrzymanie AI

Od modelu do kontrolowanej usługi AI

Model przestaje być materiałem eksperymentalnym i staje się usługą: przygotowaną, wdrożoną, monitorowaną i osadzoną w zasobach, których wykorzystanie jest widoczne i planowane.

Infrastruktura obliczeniowa uruchomionej usługi
Punkt wejścia
Model ma zostać udostępniony jako usługa albo działająca usługa wymaga nadzoru i planowania zasobów.
Jednostka pracy
model udostępniany jako usługa wraz z jego środowiskiem uruchomieniowym
Stan końcowy
Działająca usługa z monitoringiem, powtarzalną konfiguracją i znanym kosztem zasobów.
Praktyczne zastosowania

Gdzie pomaga?

  • udostępnienie modelu jako usługi w środowisku obliczeniowym
  • monitorowanie wydajności usług i wykorzystania zasobów
  • standaryzowanie konfiguracji kolejnych wdrożeń
  • przygotowanie oznaczonych zbiorów danych do uczenia modeli
  • ocena przebiegu i jakości treningu
  • planowanie pojemności środowiska na podstawie historycznego zużycia

Wejście i rezultat

Od materiału wejściowego do rezultatu.

Proces ma jeden punkt wejścia i jeden stan końcowy — pomiędzy nimi widać, co jest kontrolowane i co powstaje.

Dane wejściowe

  • model wraz z danymi potrzebnymi do jego przygotowania
  • środowisko obliczeniowe i dostępne zasoby
  • polityki dostępu i zasady wykorzystania zasobów

Kontrolowane przetwarzanie

  • zakres odbiorców uprawnionych do korzystania z usługi
  • limity zasobów przypisane zespołom i projektom
  • zasady postępowania z danymi wykorzystywanymi podczas treningu
  • tryb wycofania usługi i powrotu do poprzedniej wersji

Rezultat

  • usługa dostępna dla uprawnionych odbiorców
  • metryki działania usługi i wykorzystania zasobów
  • powtarzalna konfiguracja kolejnych wdrożeń

Przebieg procesu

Każdy etap kończy się sprawdzalnym efektem.

Etapy opisują drogę od zgłoszenia do rezultatu. Zakres można ustawić na jednym z nich i rozszerzać go dopiero wtedy, gdy poprzedni działa.

Porozmawiaj o zastosowaniu

Przygotowanie danych i modelu

Dane zostają opisane według ustalonych kryteriów, a przebieg treningu jest konfigurowany i kontrolowany.

Rezultat etapu: Model przygotowany na podstawie znanego i opisanego materiału.

Wdrożenie jako usługi

Model zostaje uruchomiony w środowisku obliczeniowym i udostępniony odbiorcom wraz z podglądem uruchomień.

Rezultat etapu: Usługa dostępna zamiast modelu działającego lokalnie.

Monitorowanie działania

Zbierane są metryki działania usługi i obciążenia zasobów, wraz z historią pomiarów.

Rezultat etapu: Spadek wydajności widoczny, zanim zgłoszą go użytkownicy.

Powtarzalna konfiguracja

Parametry i ustawienia uruchomienia zapisujemy i wersjonujemy, aby kolejne wdrożenia były odtwarzalne.

Rezultat etapu: Mniejsze ryzyko błędów konfiguracyjnych między środowiskami.

Planowanie zasobów

Przydziały i wykorzystanie zasobów są widoczne dla zespołów, a trendy pozwalają przewidzieć zapotrzebowanie.

Rezultat etapu: Zwiększenie zasobów planowane wcześniej niż wystąpienie ograniczeń.

Następny krok

Sprawdź, jak ten proces może działać w Twojej organizacji.

Porozmawiamy o zakresie, danych, integracjach i wymaganiach bezpieczeństwa.

Porozmawiaj o procesie