Przejdź do treści
AI w praktyce · AI i sztuczna inteligencja

Odpowiedzialność za błędy AI w firmie: kto płaci za pomyłkę

Odpowiedzialność za błędy AI w firmie: łańcuch od dostawcy modelu do pracownika, AI Act, dyrektywa o produktach wadliwych i klauzula AI w umowie.

Spis treści
  1. Odpowiedzialność za błędy AI: łańcuch, nie jedna osoba
  2. AI Act: obowiązki firmy, która stosuje system AI
  3. Dyrektywa o odpowiedzialności za produkty: oprogramowanie jako produkt
  4. Co robię w architekturze, żeby błąd modelu nie był niczyj
  5. Klauzula AI w umowie z wykonawcą: co zapisuję
  6. FAQ

Odpowiedzialność za błędy AI w firmie nie znika dlatego, że błąd popełnił model. Wobec klienta odpowiada zwykle firma, która użyła systemu AI w swoim procesie. Potem może dochodzić zwrotu od wykonawcy integracji albo dostawcy, ale tylko wtedy, gdy umowa i dokumentacja pozwalają ustalić, kto za co odpowiadał. Z perspektywy CTO, który takie systemy wdraża, najwięcej da się zrobić przed pierwszym błędem: w umowie, w architekturze i w tym, kto zatwierdza decyzje. Poniżej opisuję łańcuch odpowiedzialności, co zmieniają AI Act i nowa dyrektywa o produktach wadliwych oraz co zapisuję w umowach.

Odpowiedzialność za błędy AI: łańcuch, nie jedna osoba

Za błąd AI odpowiada ten, kto w danym ogniwie nie dopełnił swoich obowiązków. W typowym wdrożeniu są cztery ogniwa i każde ma inną rolę.

  • Dostawca modelu: odpowiada za to, co obiecał w umowie i dokumentacji. Warunki korzystania z API zwykle mocno ograniczają jego odpowiedzialność za treść odpowiedzi.
  • Wykonawca integracji: odpowiada za system, który zbudował: prompty, przetwarzanie danych, walidację odpowiedzi, testy. Zakres zależy od umowy.
  • Firma, która używa systemu: odpowiada wobec swoich klientów i pracowników. To ona decyduje, czy odpowiedź AI trafia do klienta bez kontroli.
  • Pracownik: odpowiada za to, jak używa narzędzia w ramach swoich obowiązków, ale to firma ustala zasady i daje mu narzędzie.

Kto odpowiada za błąd sztucznej inteligencji w praktyce? Klient, który dostał błędną ofertę wygenerowaną przez AI, nie będzie szukał dostawcy modelu. Zgłosi się do firmy, z którą zawarł umowę. Pytanie brzmi więc nie „kto jest winny”, tylko „czy firma będzie miała od kogo odzyskać koszt i czym to udowodni”.

AI Act: obowiązki firmy, która stosuje system AI

AI Act nazywa firmę używającą systemu AI podmiotem stosującym i nakłada na nią obowiązki zależne od ryzyka systemu. Najwięcej wymagań dotyczy systemów wysokiego ryzyka, ale jeden obowiązek obejmuje wszystkich.

Według wyjaśnień Komisji o kompetencjach AI art. 4 obowiązuje od 2 lutego 2025 r., a nadzór i egzekwowanie tych zasad przez krajowe organy zaczynają się 2 sierpnia 2026 r. Komisja wprost podaje przykład pracownika, który używa ChatGPT do tekstów reklamowych albo tłumaczeń: taka osoba powinna znać ryzyka, np. zmyślanie faktów przez model. Certyfikat nie jest wymagany, a samo odesłanie do instrukcji obsługi zwykle nie wystarcza.

Rozporządzenie o sztucznej inteligencji w art. 26 opisuje obowiązki podmiotów stosujących systemy wysokiego ryzyka: używanie zgodnie z instrukcją, nadzór człowieka powierzony osobom z odpowiednimi kompetencjami, monitorowanie działania i przechowywanie rejestrów zdarzeń. Większość firmowych wdrożeń, jak asystent do ofert czy podsumowania dokumentów, nie jest wysokiego ryzyka. Mimo to te cztery zasady traktuję jako rozsądne minimum dla każdego systemu, który wpływa na klientów albo pieniądze. Szerzej o obowiązkach z AI Act pisałem w tekście o tym, co AI Act oznacza dla firmy.

Dyrektywa o odpowiedzialności za produkty: oprogramowanie jako produkt

Nowa dyrektywa o odpowiedzialności za produkty wadliwe obejmuje oprogramowanie, w tym systemy AI. Producent wadliwego produktu odpowiada za szkodę bez potrzeby dowodzenia mu winy, a od teraz dotyczy to także producenta oprogramowania.

Komisja Europejska na stronie o dyrektywie 2024/2853 podaje, że państwa członkowskie mają ją wdrożyć do 9 grudnia 2026 r. i od tego dnia nowe zasady obejmą produkty wprowadzane na rynek. Ta sama strona mówi wprost, że dyrektywa obejmuje oprogramowanie, w tym aplikacje, systemy operacyjne i systemy AI. W Polsce projekt wdrożenia zakłada zmiany w Kodeksie cywilnym i w Kodeksie postępowania cywilnego.

Dla firmy, która zamawia system, wniosek jest praktyczny. Dyrektywa chroni przede wszystkim osoby fizyczne, którym wadliwy produkt wyrządził szkodę. Spór między firmą a wykonawcą o błędną fakturę, złą wycenę czy utracony kontrakt nadal rozstrzyga umowa. Jeśli umowa milczy o AI, ten spór będzie długi.

Co robię w architekturze, żeby błąd modelu nie był niczyj

Najskuteczniejsza ochrona przed sporem o odpowiedzialność to system, który pozwala odtworzyć, co się stało. Bez tego każda strona ma swoją wersję.

  • Człowiek zatwierdza decyzje, które wychodzą do klienta albo zmieniają pieniądze: oferty, odmowy, wypłaty, zmiany w umowach. AI przygotowuje, człowiek podpisuje.
  • Logi odpowiedzi: zapytanie, odpowiedź, wersja modelu, wersja promptu, kto zatwierdził. Przechowywane tak długo, jak długo ktoś może zgłosić roszczenie.
  • Wersjonowanie promptów w repozytorium, jak kod. Zmiana promptu to zmiana systemu i przechodzi przez przegląd.
  • Zestaw testów odpowiedzi, uruchamiany przy każdej zmianie promptu albo modelu. Więcej o tym w tekście o tym, jak zmienić model AI bez uzależnienia firmy.
  • Granice systemu zapisane w dokumentacji: do czego służy, do czego nie, na jakich danych działa.

Klauzula AI w umowie z wykonawcą: co zapisuję

W umowie z wykonawcą systemu AI zapisuję, za co wykonawca odpowiada, jak to sprawdzamy i kto płaci za poprawki. Bez tego każda pomyłka modelu staje się sporem o interpretację.

  1. Zakres: które procesy system obsługuje i gdzie wymaga zatwierdzenia przez człowieka.
  2. Kryteria jakości: zestaw przypadków testowych z oczekiwanymi odpowiedziami, uzgodniony przy odbiorze. Tak samo jak przy testach oprogramowania tworzonego z pomocą AI.
  3. Zmiany modelu: kto monitoruje wycofania modeli i kto płaci za przejście na nowy.
  4. Logi i dostęp: kto przechowuje logi, jak długo i czy zamawiający ma do nich dostęp.
  5. Błąd a zmiana: odpowiedź niezgodna z uzgodnionymi kryteriami to błąd do naprawy w ramach utrzymania. Nowe oczekiwanie to zmiana, wyceniana osobno. Te zasady najlepiej spiąć z umową SLA na utrzymanie systemu.

Treść takiej klauzuli zawsze konsultuję z prawnikiem. Moja rola jako CTO polega na tym, żeby każdy zapis dało się sprawdzić technicznie.

Odpowiedzialność za błędy AI rozkłada się na cały łańcuch, ale wobec klienta zwykle zostaje przy firmie, która użyła systemu. Przed grudniem 2026 r. sprawdź trzy rzeczy: czy człowiek zatwierdza decyzje AI wychodzące do klientów, czy system zapisuje logi z wersją modelu i promptu oraz czy umowa z wykonawcą mówi, kto płaci za błędną odpowiedź.

FAQ

Czy dostawca modelu, np. OpenAI, odpowiada za błędną odpowiedź w moim systemie?

Zwykle w bardzo ograniczonym zakresie. Warunki korzystania z API ograniczają jego odpowiedzialność za treść odpowiedzi, więc wobec klienta odpowiada firma, która użyła systemu, a spór z wykonawcą rozstrzyga umowa.

Czy pracownik odpowiada za błąd, który popełnił ChatGPT?

Pracownik odpowiada za sposób korzystania z narzędzia w ramach obowiązków, ale to firma daje mu narzędzie i ustala zasady. Dlatego zasady korzystania z AI i szkolenie są obowiązkiem firmy, a nie pracownika.

Czy mój firmowy asystent AI to system wysokiego ryzyka?

Większość firmowych asystentów do ofert, podsumowań czy obsługi zapytań nie jest systemem wysokiego ryzyka w rozumieniu AI Act. Inaczej jest m.in. przy rekrutacji czy ocenie zdolności kredytowej, wtedy warto przejść z prawnikiem przez załącznik III rozporządzenia.

Krzysztof Balicki
CEO & CTO Web Systems

Buduję oprogramowanie od 1999 r. Z zespołem Web Systems projektuję i wdrażam systemy dla firm, coraz częściej z agentami AI.

Chcesz sprawdzić, czy umowa i architektura Twojego systemu AI pozwolą ustalić, kto odpowiada za błąd? Umów rozmowę

Powiązane wpisy