Wdrażanie aplikacji AI w firmie: etapy od pomysłu do produkcji

Wdrażanie aplikacji AI w firmie to przede wszystkim praca wokół modelu: wybór procesu, przygotowanie danych, integracja z systemami, które już działają, i utrzymanie po starcie. Sam model językowy kupuje się dziś przez API w kilka minut. Poniżej opisuję etapy, przez które przechodzi każde sensowne wdrożenie, i pytania, które warto zadać na każdym z nich.

Piszę z perspektywy wykonawcy, który takie aplikacje buduje i potem je utrzymuje. Najczęstszy błąd nie jest techniczny. Firma zaczyna od pytania, jakiej technologii użyć, zamiast od pytania, który proces ma działać lepiej i jak to zmierzymy.

Od czego zacząć wdrażanie aplikacji AI

Zacznij od jednego procesu, który jest powtarzalny, ma dużo ręcznej pracy i da się zmierzyć. Dobry kandydat ma dziś właściciela, wiadomo, ile trwa i ile w nim błędów, a pomyłka modelu nie kończy się szkodą, której nie da się odwrócić.

Typowe obszary, od których firmy zaczynają:

• obsługa klienta: odpowiedzi na powtarzalne pytania, wstępna klasyfikacja zgłoszeń,
• dokumenty: odczyt faktur, zamówień i umów, wyciąganie danych do ERP,
• wiedza wewnętrzna: asystent, który odpowiada na podstawie firmowych procedur i dokumentacji,
• sprzedaż: szkice ofert, notatki z rozmów, porządkowanie zapytań,
• e-commerce: rekomendacje produktów i lepsze wyszukiwanie w sklepie.

Przed decyzją ustal miernik sukcesu, na przykład czas obsługi zgłoszenia albo odsetek dokumentów, które przechodzą bez poprawek. Bez tego po pilotażu zostaje tylko wrażenie, że działa. Sposób liczenia efektów opisałem we wpisie o tym, jak mierzyć efekty wdrożenia AI.

Dane: najwięcej pracy i najwięcej niespodzianek

Jakość aplikacji AI zależy głównie od danych, na których pracuje, a nie od wyboru modelu. Asystent odpowiadający na pytania klientów będzie tak dobry, jak dokumenty, które dostanie, i tak aktualny, jak ich ostatnia wersja.

Na tym etapie sprawdzamy, gdzie leżą dane, w jakim są stanie i kto może je udostępnić. Zwykle okazuje się, że instrukcje mają kilka sprzecznych wersji, cenniki są w trzech plikach, a część wiedzy istnieje tylko w głowie jednego handlowca. Porządek w danych bywa największą pozycją w budżecie, co dokładniej rozpisałem w tekście o tym, z czego składa się koszt wdrożenia AI w firmie.

Druga sprawa to prawo do użycia danych. Dane osobowe klientów i pracowników mogą trafić do modelu tylko wtedy, gdy masz do tego podstawę i umowę z dostawcą usługi, która określa, gdzie dane są przetwarzane i czy służą do trenowania modeli.

Pilotaż na prawdziwych przypadkach

Pilotaż ma odpowiedzieć na jedno pytanie: czy na Twoich danych i w Twoim procesie aplikacja daje wynik lepszy niż obecny sposób pracy. Prezentacja na przykładach dobranych przez dostawcę tego nie pokaże.

1. Zbierz zestaw prawdziwych przypadków z ostatnich miesięcy, także tych trudnych.
2. Ustal z góry, jaki wynik uznajecie za sukces, a jaki za powód do zatrzymania prac.
3. Daj aplikację kilku osobom, które na co dzień wykonują ten proces, i zbieraj ich uwagi.
4. Sprawdź koszt jednego przypadku: wywołania modelu, infrastruktura, czas ludzi na poprawki.

Przy asystentach opartych na firmowych dokumentach warto od początku ustalić, czego taki system nie zrobi. Tłumaczę to we wpisie o tym, dlaczego wdrożenie asystenta RAG to nie to samo co ogólny czat.

Integracja z systemami, które firma już ma

Aplikacja AI daje efekt dopiero wtedy, gdy jest wpięta w istniejące systemy: ERP, CRM, sklep, pocztę, system zgłoszeń. Osobne okno, do którego pracownik kopiuje dane i z którego przepisuje wynik, zwykle zostaje porzucone po kilku tygodniach.

Integracja oznacza decyzje, które trzeba podjąć świadomie. Czy model tylko proponuje, a człowiek zatwierdza, czy może sam zapisać dane w ERP? Co się dzieje, gdy API dostawcy modelu nie odpowiada? Kto widzi historię zapytań i odpowiedzi? W pierwszej wersji prawie zawsze zalecam tryb propozycji z akceptacją człowieka. Automatyczny zapis przychodzi później, gdy wiadomo, w jakich przypadkach model się myli.

Bezpieczeństwo i odpowiedzialne użycie AI

Aplikacje AI przetwarzają dużo danych, więc wymagają tych samych zabezpieczeń co inne systemy, plus kilku nowych. Podstawy się nie zmieniają: szyfrowanie, aktualizacje, kontrola dostępu, logi.

Nowe ryzyka dotyczą samego modelu. Użytkownik może próbować wyciągnąć z asystenta dane, do których nie powinien mieć dostępu, albo przemycić w dokumencie polecenia, które zmienią zachowanie systemu. Dlatego asystent powinien widzieć tylko te dokumenty, do których uprawniony jest pytający, a każde działanie, które coś zmienia w systemach firmy, wymaga osobnej kontroli.

Do tego dochodzą przepisy. Unijne rozporządzenie o sztucznej inteligencji nakłada obowiązki nie tylko na producentów modeli, ale też na firmy, które używają systemów AI, na przykład obowiązek poinformowania klienta, że rozmawia z chatbotem. Co z tego wynika w praktyce, opisałem w tekście o tym, jakie są obowiązki firmy według AI Act.

Utrzymanie po starcie

Aplikacja AI wymaga stałej opieki, bo zmieniają się dane, procesy i same modele. Dostawcy wycofują starsze wersje modeli, a nowa wersja potrafi odpowiadać inaczej na te same pytania.

W planie utrzymania powinny być:

• zestaw testowych pytań i przypadków, uruchamiany po każdej zmianie modelu lub promptu,
• monitorowanie kosztów wywołań, bo rosną razem z liczbą użytkowników,
• przegląd odpowiedzi ocenionych przez użytkowników jako złe,
• aktualizacja bazy wiedzy, gdy zmieniają się cenniki, procedury i oferta,
• właściciel po stronie firmy, który decyduje o zmianach.

Gotowe narzędzie czy aplikacja na zamówienie

Gotowe narzędzie wybierz wtedy, gdy proces jest typowy i nie wymaga głębokiej integracji, na przykład transkrypcja spotkań albo pomoc w pisaniu tekstów. Aplikacja budowana na zamówienie ma sens, gdy AI ma pracować na Twoich danych, w Twoich systemach i według Twoich reguł.

Między tymi skrajnościami jest dużo miejsca. Często najlepszy wynik daje gotowy model językowy przez API, do którego wykonawca dokłada warstwę z firmowymi danymi, uprawnieniami i integracjami. Płacisz wtedy za model według zużycia, a za resztę jak za zwykły system. Przy porównywaniu ofert pytaj o trzy rzeczy: kto jest właścicielem promptów, konfiguracji i danych, czy da się zmienić dostawcę modelu bez przepisywania aplikacji oraz ile kosztuje miesiąc utrzymania po starcie.

Kiedy lepiej nie wdrażać aplikacji AI

Nie każdy problem wymaga modelu językowego. Jeśli proces da się opisać prostymi regułami, zwykła automatyzacja będzie tańsza, szybsza i przewidywalna.

Wstrzymałbym się także wtedy, gdy nie ma danych do pilotażu, gdy błąd modelu oznacza poważną szkodę dla klienta bez możliwości kontroli przez człowieka, albo gdy nikt w firmie nie ma czasu, żeby być właścicielem projektu. W takiej sytuacji lepiej zacząć od uporządkowania procesu i danych, a do AI wrócić za kilka miesięcy.

Jeśli masz upatrzony proces, następny krok to spisanie go na jednej stronie: wejście, wyjście, kto go wykonuje, ile to trwa i jak wygląda błąd. Z takim opisem wdrażanie aplikacji AI zaczyna się od konkretu, a rozmowa z wykonawcą od razu dotyczy kosztu i ryzyka, nie ogólnych możliwości technologii. Jeśli chcesz przejść przez ten opis z kimś, kto potem może zbudować pilotaż, zobacz, jak wygląda współpraca ze mną przy projektach.