AI Act: obowiązki firmy, która korzysta z narzędzi AI

Jeśli Twoja firma tylko korzysta z gotowych narzędzi AI, od 2 lutego 2025 r. AI Act nakłada na firmy dwa obowiązki: nie stosować praktyk zakazanych w art. 5 i zadbać o kompetencje w zakresie AI ludzi, którzy z tych narzędzi korzystają (art. 4). Tak wynika z art. 113 rozporządzenia (UE) 2024/1689 o sztucznej inteligencji, które weszło w życie 1 sierpnia 2024 r., a stosuje się etapami. Poniżej wyjaśniam, co to znaczy w praktyce, jak sprawdzić narzędzia, z których korzysta zespół, i co trzeba zaplanować na kolejne terminy.

Piszę z perspektywy kogoś, kto wdraża systemy z elementami AI i rozmawia o nich z zarządami firm. To nie jest porada prawna. Przy decyzjach o konkretnym systemie, szczególnie w HR albo finansach, warto dołożyć opinię prawnika.

Kogo dotyczy AI Act i jaką rolę ma Twoja firma

AI Act dzieli obowiązki firmy według roli, a nie według wielkości firmy. Najważniejsze są dwie role: dostawca, czyli podmiot, który rozwija system AI albo zleca jego rozwój i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą, oraz podmiot stosujący, czyli firma, która używa systemu AI w swojej działalności.

Większość firm, które korzystają z asystentów do pisania, narzędzi do transkrypcji czy chatbotów dostępnych jako usługa, jest podmiotem stosującym. Sytuacja zmienia się, gdy firma zamawia system dedykowany z modułem AI i uruchamia go pod własną marką. Wtedy może zostać uznana za dostawcę i przejąć znacznie szerszy zakres obowiązków. Dlatego pytanie o rolę warto zadać już na etapie zamówienia, razem z pytaniem o to, ile kosztuje system dedykowany i kto odpowiada za jego dokumentację.

AI Act: obowiązki firmy od 2 lutego 2025 r.

Od 2 lutego 2025 r. stosuje się rozdziały I i II rozporządzenia: przepisy ogólne, w tym art. 4 o kompetencjach w zakresie AI, oraz art. 5 z listą zakazanych praktyk. Pozostałe części wchodzą później, w kolejnych terminach opisanych niżej.

Kompetencje w zakresie AI (art. 4)

Art. 4 wymaga, żeby dostawcy i podmioty stosujące podjęli środki, które w możliwie największym stopniu zapewnią odpowiedni poziom kompetencji w zakresie AI wśród personelu i innych osób, które obsługują systemy AI w ich imieniu. Przepis każe przy tym brać pod uwagę wiedzę techniczną, doświadczenie i wykształcenie tych osób oraz kontekst, w którym system jest używany.

Przepis nie wymaga certyfikatu ani konkretnej liczby godzin szkolenia. Wymaga działania dopasowanego do ryzyka. Inaczej przygotujesz zespół marketingu, który generuje szkice tekstów, a inaczej dział kadr, który używa narzędzia do wstępnej selekcji CV. W praktyce oznacza to kilka rzeczy:

• wiedzę, czym jest system AI, jak może się mylić i dlaczego jego wynik trzeba sprawdzić,
• zasady: które narzędzia są dopuszczone, jakich danych nie wolno w nie wpisywać, kto zatwierdza nowe narzędzie,
• szkolenie dopasowane do roli, a nie jedno wspólne dla całej firmy,
• ślad w dokumentach: kto, kiedy i z czego został przeszkolony.

Ten ostatni punkt łatwo pominąć, a to on pokaże w razie kontroli, że firma potraktowała obowiązek poważnie.

Zakazane praktyki (art. 5)

Art. 5 zakazuje wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI w kilku ściśle opisanych celach. Z punktu widzenia zwykłej firmy najważniejsze są te zakazy:

• techniki podprogowe i celowa manipulacja, które istotnie zmieniają zachowanie człowieka i mogą wyrządzić mu poważną szkodę,
• wykorzystywanie słabości osób ze względu na wiek, niepełnosprawność albo trudną sytuację społeczną lub ekonomiczną,
• scoring społeczny, czyli ocenianie ludzi na podstawie ich zachowań i cech, prowadzące do krzywdzącego traktowania,
• wyciąganie wniosków o emocjach osób w miejscu pracy i w instytucjach edukacyjnych, poza względami medycznymi lub bezpieczeństwa,
• kategoryzacja biometryczna, która wnioskuje o rasie, poglądach politycznych, przynależności związkowej, wyznaniu czy orientacji seksualnej,
• tworzenie baz do rozpoznawania twarzy przez nieukierunkowane pobieranie wizerunków z internetu lub nagrań z monitoringu.

Rozporządzenie zawiera też zakazy, które dotyczą głównie organów ścigania, na przykład zdalną identyfikację biometryczną w czasie rzeczywistym w przestrzeni publicznej. Firmy prywatne rzadko się o nie otrą, ale dostawca systemów monitoringu powinien je znać.

Jak sprawdzić, czy firma nie stosuje zakazanej praktyki

Najprościej zrobić spis wszystkich narzędzi AI w firmie i przy każdym zapytać, co dokładnie robi z danymi o ludziach. Zakazy z art. 5 rzadko dotyczą asystentów do tekstu. Częściej dotyczą funkcji dodanych po cichu do narzędzi HR, monitoringu, call center albo marketingu.

Weźmy jako przykład firmę z działem obsługi klienta, która kupuje system do analizy rozmów. Jeśli system tylko transkrybuje rozmowy i wskazuje tematy zgłoszeń, nie ma problemu z art. 5. Jeśli jednak ocenia emocje konsultantów na podstawie głosu i na tej podstawie przygotowuje oceny pracownicze, wchodzi w zakaz rozpoznawania emocji w miejscu pracy. Ta sama licencja, inna funkcja, zupełnie inna sytuacja prawna.

Przy przeglądzie pytam o cztery rzeczy:

1. Jakie dane wejściowe przetwarza narzędzie: tekst, głos, obraz twarzy, dane biometryczne?
2. Czy wynik dotyczy konkretnych osób i czy na jego podstawie ktoś podejmuje decyzje o tych osobach?
3. Czy narzędzie ma funkcje, których firma nie używa, ale które są włączone domyślnie?
4. Co dostawca pisze o zgodności z AI Act w umowie i dokumentacji?

Odpowiedzi warto zapisać przy każdym narzędziu. Ten sam spis przyda się przy kolejnych terminach, gdy dojdą obowiązki dla systemów wysokiego ryzyka.

Jakie kary przewiduje rozporządzenie

Za naruszenie zakazów z art. 5 rozporządzenie przewiduje administracyjną karę do 35 000 000 EUR albo do 7 % całkowitego rocznego światowego obrotu przedsiębiorstwa, w zależności od tego, która kwota jest wyższa. Wynika to z art. 99 tekstu AI Act w Dzienniku Urzędowym UE. Dla MŚP stosuje się kwotę lub procent, zależnie od tego, która wartość jest niższa.

Przepisy o karach (rozdział XII) stosuje się od 2 sierpnia 2025 r., a szczegółowe zasady ich nakładania ustalają państwa członkowskie. W Polsce trwają prace nad krajową ustawą, która ma wskazać organ nadzoru. Brak organu nie znaczy jednak, że AI Act nie nakłada dziś na firmy obowiązków. Obowiązują od 2 lutego 2025 r., a praktyka stosowana dziś może zostać oceniona później.

Harmonogram AI Act: co dalej po lutym 2025

AI Act rozkłada obowiązki firmy na etapy, więc będzie ich przybywać w kolejnych latach. Terminy z art. 113 wyglądają tak:

Data	Co zaczyna obowiązywać	Znaczenie dla firmy stosującej AI
1 sierpnia 2024 r.	wejście w życie rozporządzenia	start okresów przejściowych
2 lutego 2025 r.	przepisy ogólne, kompetencje (art. 4), zakazane praktyki (art. 5)	szkolenia i przegląd narzędzi
2 sierpnia 2025 r.	modele AI ogólnego przeznaczenia, organy nadzoru, kary	dotyczy głównie dostawców modeli, firma pyta dostawcę o zgodność
2 sierpnia 2026 r.	większość przepisów, w tym systemy wysokiego ryzyka z załącznika III i przejrzystość (art. 50)	obowiązki podmiotu stosującego systemy wysokiego ryzyka, informowanie o AI
2 sierpnia 2027 r.	art. 6 ust. 1, czyli AI jako element produktów objętych unijnymi przepisami	głównie producenci maszyn, urządzeń, wyrobów medycznych

Dla typowej firmy najważniejszy jest termin 2 sierpnia 2026 r. Wtedy zaczną obowiązywać przepisy o systemach wysokiego ryzyka z załącznika III. Są wśród nich systemy używane w rekrutacji i do podejmowania decyzji o pracownikach oraz systemy oceny zdolności kredytowej osób fizycznych. Podmiot stosujący taki system ma między innymi używać go zgodnie z instrukcją, powierzyć nadzór ludziom z odpowiednimi kompetencjami i monitorować jego działanie (art. 26).

W tym samym terminie wchodzi art. 50 o przejrzystości. Ludzie mają wiedzieć, że rozmawiają z systemem AI, jeśli nie jest to oczywiste. Treści deepfake, czyli wygenerowane albo zmanipulowane obrazy, nagrania audio i wideo, trzeba oznaczać jako sztucznie wygenerowane.

Plan dla firmy na najbliższe miesiące

Najrozsądniej potraktować obowiązki firmy z AI Act jako początek porządkowania AI w organizacji, a nie jednorazowe szkolenie. Proponuję taką kolejność:

1. Spis narzędzi AI: oficjalnych i tych, z których ludzie korzystają na prywatnych kontach.
2. Ustalenie roli: przy każdym narzędziu i każdym systemie zamawianym u wykonawcy, czy firma jest podmiotem stosującym, czy dostawcą.
3. Przegląd pod kątem art. 5: szczególnie HR, monitoring, analiza rozmów i marketing kierowany do osób szczególnie podatnych.
4. Program kompetencji: krótkie zasady korzystania z AI, szkolenia według ról, rejestr przeszkolonych osób.
5. Lista kandydatów do wysokiego ryzyka: systemy, które dotykają rekrutacji, ocen pracowników, kredytu.
6. Umowy z dostawcami: kto jest dostawcą w rozumieniu AI Act, jaka dokumentacja i instrukcja trafi do firmy, kto informuje o zmianach w systemie.

Jeśli firma dopiero planuje projekty z AI, warto zaplanować je od razu z tą listą w ręku. Więcej o samym procesie piszę w tekście o tym, jak przebiega wdrażanie aplikacji AI w firmie.

Czego AI Act nie zmienia

AI Act nie zastępuje RODO ani tajemnicy przedsiębiorstwa. Jeśli pracownik wkleja do publicznego narzędzia dane klientów albo fragmenty umów, problem jest taki sam jak przed 2 lutego 2025 r.: podstawa przetwarzania, umowa powierzenia, miejsce przechowywania danych, ryzyko wycieku.

Dlatego zasady korzystania z AI dobrze połączyć z istniejącą polityką bezpieczeństwa. Jak ją uporządkować, opisuję w tekście o tym, jak przebiega zabezpieczanie danych firmowych w praktyce. Jedno szkolenie może objąć oba tematy, bo pracownik i tak zadaje sobie jedno pytanie: czy mogę to wkleić do narzędzia i czy mogę ufać temu, co odpowie.

Na dziś najważniejsze są dwa kroki: spis narzędzi z przeglądem pod kątem zakazów i udokumentowany program kompetencji. Od nich AI Act zaczyna listę obowiązków każdej firmy, a reszta harmonogramu będzie na nich budować. Jeśli chcesz przejrzeć z kimś swoje systemy pod tym kątem albo zaplanować nowy projekt z AI, napisz do mnie przez formularz.