Wprowadzenie
Inżynieria integracji AI obejmuje połączenia wokół modelu: żądania aplikacji, tożsamość użytkownika, dane, dozwolone narzędzia i monitoring. Pozwala udostępnić funkcję AI w produkcie lub systemie wewnętrznym, zachowując reguły biznesowe po stronie aplikacji.
Prototyp może korzystać z jednego dokumentu i konta programisty. Funkcja produkcyjna musi obsłużyć różnych użytkowników, zmienne rekordy, niedostępne zależności i niespójne odpowiedzi. Skupiamy się na tych granicach, aby zespół wiedział, jak płyną informacje, który system jest źródłem prawdy i gdzie obsługiwana jest awaria.
Przykładowe zastosowania
Przykładowe zastosowania, a nie opis zrealizowanych projektów klientów.
Wiedza w aplikacji
Odpowiedzi z zatwierdzonych instrukcji, zasad i dokumentacji produktu pojawiają się w istniejącym interfejsie. Użytkownik otrzymuje odwołania do źródeł, a produkt sprawdza dostęp przed użyciem treści.
Kontekst biznesowy na żądanie
Wybrane operacje CRM, ERP lub systemu zgłoszeń stają się udokumentowanymi narzędziami. Integracja pobiera aktualne fakty z właściwego systemu zamiast prosić model o odgadnięcie statusu.
Funkcje AI w SaaS
Rozwijamy istniejącą aplikację o pomoc AI z walidacją żądań, separacją klientów i pomiarem wykorzystania funkcji. Zespół produktowy zachowuje kontrolę nad interfejsem i polityką wydań.
Zakres dostawy
- Specyfikacja interfejsów
- Kontrakty wejścia i wyjścia, odpowiedzialność źródeł danych i znaczenie błędów.
- Konektory i wyszukiwanie
- Adaptery do uzgodnionych systemów oraz, jeśli potrzeba, przygotowanie przeszukiwalnej wiedzy firmowej.
- Uprawnienia i walidacja
- Autoryzacja uwzględniająca użytkownika, sprawdzanie wyniku i ścieżka obsługi nieakceptowalnej odpowiedzi.
- Widoczność działania
- Ślady i pomiary łączące problem użytkownika z modelem, narzędziem lub źródłem informacji.
Zagadnienia inżynieryjne
Oddzielamy wyszukiwanie od wykonania operacji. Wyszukiwanie dostarcza informacji, a narzędzie biznesowe odczytuje bieżący stan lub go zmienia. Oba wymagają kontroli dostępu. RAG, czyli generowanie odpowiedzi z użyciem wyszukanych materiałów, wymaga też aktualizacji i usuwania treści po zmianie źródła. Kod aplikacji sprawdza odpowiedź strukturalną przed dalszym użyciem. Limity, czas oczekiwania i zasady ponowień ustalamy dla każdej zależności.
Współpraca z zespołami z UE i USA
W projekcie międzynarodowym potrzebna jest jawna ścieżka danych. Dokumentujemy proponowaną usługę modelu, pamięć masową, indeks wyszukiwania i miejsca zapisu logów. Zainteresowane zespoły mogą wtedy ocenić warunki dostawców, lokalizację i dozwolone kategorie informacji. W SaaS obsługującym różne rynki trzeba rozważyć separację klientów oraz konfigurację regionalną. Są to wymagania do sprawdzenia, a nie automatyczna deklaracja zgodności z przepisami.
Pierwszy etap współpracy
Wybieramy jedną funkcję z właścicielem produktu i określonym miejscem w interfejsie. Uzgadniamy wejście, scenariusze wzorcowe i zachowanie zastępcze. Sprawdzamy materiały bez uprawnień, brak danych i awarie dostawcy, nie tylko poprawne żądania. Dla wyszukiwania wiedzy oceniamy znalezione dowody oddzielnie od odpowiedzi. Ułatwia to rozpoznanie, czy problem dotyczy źródeł, wyszukiwania czy modelu.
Podstawa kolejnej decyzji
- Przydatność funkcji
- Czy odpowiedź pomaga właściwemu użytkownikowi wykonać zadanie w produkcie?
- Poprawność granic
- Czy respektowane są uprawnienia, separacja klientów i odwołania do źródeł?
- Działanie usługi
- Jakie są opóźnienia, częstość błędów i koszt kompletnej funkcji?
Pytania o usługę
Czy integracja wymaga wymiany aplikacji?
Często celem jest właśnie zachowanie aplikacji. Wskazujemy odpowiednią granicę i oceniamy, czy integracja powinna działać wewnątrz niej, czy w osobnej usłudze.
Czy baza wektorowa jest konieczna?
Nie zawsze. Potrzeby może spełnić wyszukiwanie tekstowe, wektorowe, połączenie metod lub istniejąca usługa wiedzy. Wybór wynika z charakteru treści i wyników oceny.
Czy model będzie trenowany na danych firmy?
Udostępnienie dokumentów do wyszukiwania różni się od trenowania modelu. Przed użyciem informacji firmowych należy sprawdzić warunki wykorzystania danych, retencję i konfigurację wybranej usługi.
Czy integracja może działać w naszej infrastrukturze?
Możliwości zależą od modelu, usług zewnętrznych i standardów infrastruktury. Możemy zaplanować wdrożenie pod kontrolą klienta, gdy pozwalają na to komponenty; nie oznacza to automatycznie lokalnego działania wszystkich zależności.
Kto utrzymuje integrację po wdrożeniu?
Zakres powinien określać odpowiedzialność za zmiany API, aktualizację treści, ocenę jakości i incydenty. Dokumentujemy te zadania i osobno uzgadniamy dalsze wsparcie inżynieryjne.
Zanim powstanie zakres prac
Przewodnik dla zamawiających: odpowiedzialność, dane, odbiór i utrzymanie, które wpływają na przebieg wdrożenia AI.
Przeczytaj przewodnik →