Agenci AI w firmie: co potrafią i gdzie potrzebują nadzoru

Agenci AI w firmie to systemy, które nie tylko odpowiadają na pytania, ale same wykonują kolejne kroki w innych programach: czytają maila, sprawdzają dane w ERP, przygotowują dokument, zakładają zgłoszenie. Sprawdzają się w procesach powtarzalnych, z jasnymi regułami i wynikiem, który da się zweryfikować. Warunek jest jeden: wąskie uprawnienia, pełne logi i człowiek tam, gdzie błąd kosztuje. Poniżej wyjaśniam, czym agent różni się od chatbota, co realnie potrafi, gdzie musi mieć nadzór i jak wybrać pierwszy proces.

Czym agent AI różni się od chatbota

Chatbot odpowiada, agent działa. Chatbot daje człowiekowi informację, a decyzję i kliknięcie zostawia jemu. Agent dostaje cel i dostęp do narzędzi, a model językowy sam decyduje, które narzędzie wywołać i co zrobić z wynikiem.

Cecha	Chatbot	Asystent z dostępem do dokumentów	Agent AI
Co robi	odpowiada na pytania	odpowiada na podstawie firmowych dokumentów	wykonuje kroki w innych systemach
Dostęp	baza wiedzy	dokumenty z uprawnieniami	API systemów, poczta, pliki, bazy danych
Skutek błędu	zła odpowiedź	zła odpowiedź z pozorem źródła	zła operacja w systemie
Kto klika	człowiek	człowiek	agent albo człowiek po akceptacji

Ta ostatnia różnica zmienia całą rozmowę o ryzyku. Przy chatbocie w obsłudze klienta najgorszy scenariusz to błędna odpowiedź. Przy agencie to wysłany mail, zmieniona cena albo zamówienie złożone u złego dostawcy. Agent często korzysta też z wyszukiwania w dokumentach, takiego jak RAG w firmie, ale dokłada do niego możliwość działania.

Co agenci AI realnie potrafią

Dobrze zaprojektowany agent radzi sobie z zadaniami, które człowiek wykonuje według instrukcji, przełączając się między kilkoma programami. Gorzej mu idzie tam, gdzie trzeba znać nieopisane zwyczaje firmy albo wziąć odpowiedzialność za ocenę.

Przykłady zadań, które dobrze pasują do agenta:

• przepisanie zamówienia z maila klienta do ERP jako szkicu, z dopasowaniem indeksów i cennika,
• uzupełnienie zgłoszenia serwisowego o dane z historii klienta i umowy,
• zebranie danych z kilku systemów do cotygodniowego zestawienia,
• dopasowanie wpłat z wyciągu do otwartych faktur i wskazanie rozbieżności,
• wstępne przygotowanie odpowiedzi na zapytanie ofertowe na podstawie poprzednich ofert.

Agent ma też ograniczenia, które trzeba znać przed startem. Model językowy potrafi się pomylić z dużą pewnością siebie, ten sam przypadek może za drugim razem potraktować inaczej, a instrukcja ukryta w treści maila albo dokumentu może zmienić jego zachowanie. Fundacja OWASP w zestawieniu Top 10 dla aplikacji z modelami językowymi nazywa to ryzyko nadmierną swobodą działania, po angielsku Excessive Agency, i wskazuje trzy przyczyny: za dużo funkcji, za dużo uprawnień, za dużo samodzielności.

Gdzie agenci AI w firmie potrzebują nadzoru człowieka

Nadzór człowieka jest potrzebny przy każdej operacji, której nie da się łatwo cofnąć, która dotyczy pieniędzy albo wychodzi do klienta. Reszta zależy od kosztu błędu i od tego, jak szybko zostanie zauważony.

W praktyce stosuję trzy poziomy samodzielności:

1. Agent proponuje, człowiek zatwierdza. Agent przygotowuje szkic zamówienia, maila czy księgowania, a człowiek klika zatwierdź. Od tego poziomu zaczyna się każde wdrożenie.
2. Agent wykonuje, człowiek przegląda próbkę. Dla operacji odwracalnych i tanich w poprawce, na przykład uzupełniania pól w zgłoszeniach, gdy pierwszy poziom pokazał dobrą jakość.
3. Agent działa sam w granicach limitów. Tylko dla operacji o niskim ryzyku, z twardymi limitami w systemie, a nie tylko w instrukcji dla modelu.

Przejście na wyższy poziom powinno wynikać z danych z poprzedniego, a nie z wrażenia, że działa dobrze. Jeśli przez kilka tygodni człowiek zatwierdza szkice bez poprawek, to argument. Jeśli poprawia co któryś, agent zostaje na poziomie pierwszym.

Druga zasada: limity egzekwuje system, a nie model. Zdanie w instrukcji, że agent nie wysyła przelewów, nie jest zabezpieczeniem. Zabezpieczeniem jest brak takiego uprawnienia na koncie, którym agent się łączy.

Uprawnienia i logi: jak ograniczyć ryzyko

Każdy z agentów AI w firmie powinien mieć własne konto techniczne z najmniejszym zakresem uprawnień, które wystarcza do jego zadania. Agent nigdy nie powinien działać na koncie administratora ani na koncie konkretnego pracownika.

Lista kontrolna, którą przechodzę przed uruchomieniem agenta:

• osobne konto dla każdego agenta, z prawem odczytu tam, gdzie zapis nie jest potrzebny,
• lista dozwolonych narzędzi i operacji, bez funkcji dodanych na zapas,
• limity: liczba operacji na godzinę, kwoty, zakres rekordów, które agent może zmienić,
• klucze i hasła w sejfie na sekrety, nie w konfiguracji ani w treści instrukcji,
• wyłącznik, który zatrzymuje agenta bez wyłączania całego systemu.

Logi muszą pozwolić odtworzyć każdą decyzję: co agent dostał na wejściu, jakie narzędzie wywołał, z jakimi parametrami, co otrzymał i kto zatwierdził wynik. Bez tego przy pierwszym błędzie nie da się ustalić, czy zawinił model, dane czy integracja. Logi zawierają zwykle dane klientów, więc obowiązują je te same zasady co resztę danych. Szerzej piszę o tym w tekście o tym, jak chronić dane firmowe w narzędziach AI.

Jak wybrać pierwszy proces dla agenta

Pierwszy proces powinien być wąski, częsty, opisany i odwracalny. Wtedy agent szybko zbierze wystarczająco dużo przypadków, żeby ocenić jakość, a błąd nie zaszkodzi klientowi.

Kryteria, według których porównuję kandydatów:

• Częstotliwość: proces powtarza się codziennie, a nie raz w miesiącu.
• Opis: istnieje instrukcja albo da się ją spisać w godzinę rozmowy z osobą, która robi to dziś.
• Dane: potrzebne informacje są w systemach z dostępem przez API, a nie w głowie jednej osoby.
• Weryfikacja: łatwo sprawdzić, czy wynik jest dobry.
• Odwracalność: błąd da się cofnąć, zanim dotrze do klienta.
• Właściciel: jest osoba, która odpowiada za proces i będzie oceniać wyniki.

Weźmy jako przykład dystrybutora, do którego część zamówień przychodzi mailem jako tekst albo załącznik. Handlowiec przepisuje je do ERP. Agent może odczytać maila, dopasować pozycje do indeksów, sprawdzić stany i ceny, a potem zapisać szkic zamówienia. Handlowiec tylko sprawdza i zatwierdza. Proces jest częsty, wynik łatwo zweryfikować, a szkic niczego nie uruchamia bez akceptacji.

Złym kandydatem na start jest proces rzadki, z wieloma wyjątkami albo taki, w którym ocena wymaga doświadczenia, na przykład negocjacje warunków albo decyzje kadrowe. Tam lepiej sprawdzi się asystent, który przygotowuje materiały, a nie agent, który działa.

Kiedy agent AI nie jest potrzebny

Jeśli proces da się opisać stałymi regułami, zwykła automatyzacja będzie tańsza, szybsza i przewidywalna. Agenci AI w firmie mają sens tam, gdzie dane wejściowe są nieuporządkowane: mail pisany każdym stylem, załącznik w różnych formatach, zgłoszenie opisane własnymi słowami klienta.

Dobrym testem jest pytanie, czy człowiek wykonujący zadanie musi coś zinterpretować. Przeniesienie faktury z jednego systemu do drugiego według stałego klucza nie wymaga interpretacji, więc wystarczy integracja albo przepływ w narzędziu do automatyzacji. Zrozumienie, o który produkt pyta klient, gdy pisze potoczną nazwą, wymaga, i tu model językowy wnosi wartość. Często najlepszy układ to połączenie: stałe reguły robią większość pracy, a agent zajmuje się tylko krokiem, w którym trzeba coś zrozumieć. Taki system łatwiej testować, a koszt wywołań modelu jest niższy, bo model pracuje tylko tam, gdzie jest potrzebny.

Pilot, koszty i moment decyzji

Pierwszych agentów AI w firmie warto uruchomić jako pilota z ustalonym czasem, miernikami i progiem, po którym rozwijasz albo wyłączasz projekt. Mierniki ustalasz przed startem: czas obsługi sprawy, odsetek szkiców zatwierdzonych bez poprawek, liczba błędów, które dotarły dalej.

Koszt agenta to nie tylko opłaty za model. Dochodzą integracje z systemami, budowa zabezpieczeń i logów, testy na prawdziwych przypadkach oraz czas ludzi, którzy zatwierdzają wyniki w pierwszych tygodniach. Jak te składniki oszacować przed startem, opisałem w tekście o tym, ile wynosi koszt wdrożenia AI w firmie.

Najczęstszy błąd, który widzę w rozmowach o agentach, to start od najbardziej efektownego procesu zamiast od najbezpieczniejszego. Lepiej, żeby pierwszy agent robił rzecz nudną i działał dobrze, niż rzecz imponującą, której nikt nie odważy się włączyć na stałe.

Jeśli rozważasz, gdzie agenci AI w firmie mogą odciążyć Twój zespół, zacznij od spisania trzech kandydatów i sprawdzenia ich według kryteriów z tego tekstu. Z taką listą łatwiej rozmawiać o pilocie, a jeśli chcesz to zrobić razem, sprawdź, jak wygląda współpraca ze mną.