Celem niniejszej publikacji jest przedstawienie najważniejszych zasad i obowiązków związanych ze stosowaniem systemów sztucznej inteligencji, wynikających z Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (AI Act). Publikacja koncentruje się w szczególności na regulacjach dotyczących systemów AI wysokiego ryzyka oraz ich znaczeniu dla przedsiębiorstw działających w sektorze wodociągowo-kanalizacyjnym.
Materiał ma służyć uporządkowaniu najistotniejszych wymogów wynikających z AI Act oraz zwróceniu uwagi na obowiązki, które mogą mieć znaczenie w przypadku wykorzystywania przez przedsiębiorstwa rozwiązań opartych na sztucznej inteligencji. Jego celem jest również wskazanie obszarów, które powinny zostać uwzględnione przez przedsiębiorstwa przy identyfikowaniu, wdrażaniu i stosowaniu systemów AI.
Rozporządzenie (UE) 2024/1689 jest bezpośrednio stosowane we wszystkich państwach członkowskich. Weszło ono w życie 1 sierpnia 2024 r., jednak jego przepisy są stosowane etapowo. Od 2 lutego 2025 r. zaczęły obowiązywać przepisy dotyczące m.in. zakazanych praktyk w zakresie sztucznej inteligencji oraz kompetencji w zakresie AI, z wyjątkiem przepisów wskazanych w art. 113 lit. a, które stosuje się od 2 grudnia 2026 r. Z kolei od 2 sierpnia 2025 r. zastosowanie znalazły kolejne regulacje, obejmujące m.in. obowiązki dotyczące modeli AI ogólnego przeznaczenia oraz zasady zarządzania i nadzoru nad stosowaniem rozporządzenia. Co do zasady przepisy AI Act stosuje się od 2 sierpnia 2026 r. Jednocześnie, w wyniku zmian wprowadzonych rozporządzeniem Parlamentu Europejskiego i Rady (UE) 2026/1744 z dnia 8 lipca 2026 r. w sprawie zmiany rozporządzeń (UE) 2024/1689, (UE) 2018/1139 i (UE) 2023/1230 w odniesieniu do uproszczenia wdrażania zharmonizowanych przepisów dotyczących sztucznej inteligencji (Digital Omnibus on AI), zmienione zostały terminy stosowania przepisów dotyczących systemów AI wysokiego ryzyka. W odniesieniu do systemów AI wysokiego ryzyka klasyfikowanych na podstawie art. 6 ust. 2 i załącznika III do AI Act przepisy rozdziału III sekcje 1–3 stosuje się od 2 grudnia 2027 r. Dotyczy to również systemów AI wykorzystywanych jako związane z bezpieczeństwem elementy procesów zarządzania i działania w zakresie zaopatrzenia w wodę, o których mowa w pkt 2 załącznika III. Natomiast w odniesieniu do systemów AI wysokiego ryzyka klasyfikowanych na podstawie art. 6 ust. 1 i załącznika I przepisy te będą stosowane od 2 sierpnia 2028 r.
Celem rozporządzenia jest poprawa funkcjonowania rynku wewnętrznego poprzez ustanowienie jednolitych ram prawnych w państwach członkowskich, obejmujących w szczególności obszary związane z rozwojem, wprowadzaniem do obrotu, oddawaniem do użytku oraz wykorzystywaniem systemów sztucznej inteligencji.
Na poziomie krajowym przyjęta została ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. z 2026 r. poz. 1003), która weszła w życie 11 sierpnia 2026 r. Ustawa określa przede wszystkim organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia w zakresie objętym AI Act. Reguluje również postępowanie w sprawie naruszenia przepisów rozporządzenia i ustawy, warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność, a także działania wspierające rozwój systemów sztucznej inteligencji i zasady nakładania administracyjnych kar pieniężnych za naruszenie przepisów rozporządzenia i ustawy. Należy przy tym wskazać, że część przepisów ustawy, w tym art. 8–18 oraz rozdziały 3–5, 8 i 9, wchodzi w życie 28 października 2026 r. Szczegółowe omówienie przepisów ustawy o systemach sztucznej inteligencji będzie przedmiotem odrębnej publikacji.
Ustawa przewiduje również określone wyłączenia z jej zakresu stosowania, w szczególności w odniesieniu do kwestii związanych z obronnością i bezpieczeństwem państwa.
Systemy AI wysokiego ryzyka
W przypadku korzystania z rozwiązań opartych na systemach sztucznej inteligencji przedsiębiorstwa wodociągowo-kanalizacyjne, jako podmioty stosujące systemy AI, są zobowiązane do realizacji określonych obowiązków wynikających z AI Act. Kluczowe znaczenie ma w tym zakresie art. 6 ust. 2 Rozporządzenia, który wskazuje systemy AI wymienione w załączniku III jako systemy wysokiego ryzyka, w tym systemy wykorzystywane jako związane z bezpieczeństwem elementy procesów zarządzania i działania w zakresie zaopatrzenia w wodę.
W przypadku korzystania z rozwiązań opartych na systemach sztucznej inteligencji przedsiębiorstwa wodociągowo-kanalizacyjne, jako podmiot stosujący system AI, jest zobowiązane do realizacji określonych obowiązków wynikających z AI Act. Kluczowe znaczenie ma w tym zakresie art. 6 ust. 2 Rozporządzenia, który wskazuje systemy AI wymienione w załączniku III jako systemy wysokiego ryzyka, w tym systemy wykorzystywane jako związane z bezpieczeństwem elementy procesów zarządzania i działania w zakresie zaopatrzenia w wodę.
- Zapewnienie odpowiedniego poziomu kompetencji w zakresie AI — art. 4
Obowiązek opisany w art. 4 Rozporządzenia odnosi się do dostawców i podmiotów stosujących systemy AI oraz dotyczy podejmowania przez nich środków w celu jak najlepszego zapewnienia odpowiednich poziomów kompetencji swoich pracowników i podwykonawców w zakresie AI, mając na względzie m.in. ich wiedzę techniczną, doświadczenie, wykształcenie oraz kontekst, w którym systemy sztucznej inteligencji mają być wykorzystywane, a także osoby i grupy, wobec których te systemy mają być wykorzystywane.
- Zakaz stosowania określonych praktyk w zakresie AI — art. 5 ust. 1
Zapis rozporządzenia odnosi się m.in. do ochrony dóbr osobistych, w tym wizerunku, poprzez zakaz wprowadzania do obrotu, oddawania do użytku w konkretnym celu czy wykorzystywania systemu AI do tworzenia czy rozbudowywania baz danych służących do rozpoznawania twarzy poprzez pozyskiwanie wizerunków z mediów. Wprowadzono również zakaz stosowania technik podprogowych, które są poza świadomością danej osoby, oraz celowych technik manipulacyjnych czy wprowadzających w błąd, których celem jest zmiana zachowania człowieka.
Wprowadzono także zakaz stosowania systemów AI do oceny emocji osoby fizycznej w miejscu pracy czy instytucjach edukacyjnych, poza przypadkami, gdy AI ma zostać zastosowane ze względów bezpieczeństwa czy medycznych.
- Prawidłowe stosowanie systemów AI wysokiego ryzyka — art. 26 ust. 1
Norma dotyczy dobrych praktyk stosowania systemów AI wysokiego ryzyka poprzez stosowanie odpowiednich środków technicznych i organizacyjnych, w tym nakaz stosowania systemów zgodnie z instrukcją obsługi.
Istotny jest również zapis, który stwierdza, że podmioty stosujące systemy AI wysokiego ryzyka powierzają sprawowanie nadzoru osobom fizycznym, które posiadają odpowiednie kompetencje, przeszkolenie, uprawnienia oraz niezbędne wsparcie.
W tym artykule odnajdziemy również obowiązki związane z wymianą informacji między podmiotem stosującym a dostawcą usług, obowiązek rejestrowania zdarzeń oraz informowania pracowników o stosowaniu systemu AI wysokiego ryzyka.
- Współpraca z właściwymi organami — art. 26 ust. 12
Podmioty stosujące współpracują z właściwymi organami w związku z wszelkimi działaniami podejmowanymi przez te organy wobec systemu AI wysokiego ryzyka w celu wykonywania niniejszego rozporządzenia.
- Przeprowadzenie oceny skutków dla praw podstawowych — art. 27
Jeden z kluczowych zapisów Rozporządzenia nakazuje przeprowadzanie oceny skutków w zakresie praw podstawowych, jakie może wywołać wykorzystanie systemu AI wysokiego ryzyka przez podmioty stosujące będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne, a także przez podmioty wskazane w załączniku III pkt 5 lit. b i c.
Ocena obejmuje:
- opis procesów, w których wykorzystywany będzie system AI wysokiego ryzyka;
- określenie okresu i częstotliwości jego wykorzystywania;
- wskazanie osób i grup, na które system może mieć wpływ, oraz ryzyka szkody;
- opis środków nadzoru człowieka nad systemem;
- określenie działań podejmowanych w przypadku wystąpienia ryzyka, w tym mechanizmów rozpatrywania skarg;
- aktualizowanie oceny w przypadku zmiany okoliczności oraz powiadomienie organu nadzoru rynku o jej wynikach.
- Informowanie osób fizycznych o stosowaniu określonych systemów AI i ujawnianie treści wygenerowanych przez AI — art. 50
Podmioty stosujące systemy AI, które rozpoznają emocje lub dokonują kategoryzacji biometrycznej osób fizycznych, są zobowiązane do poinformowania ich o tym fakcie, chyba że jest to dozwolone na mocy prawa, w szczególności w celu zapobiegania przestępczości i jej wykrywania.
Podmioty stosujące systemy AI generujące obrazy, treści audio lub wideo stanowiące treści typu deepfake lub manipulujące takimi treściami są zobowiązane do ujawnienia, że zostały one sztucznie wygenerowane lub zmanipulowane.
Podmioty stosujące systemy AI generujące lub manipulujące tekstem publikowanym w celu informowania społeczeństwa o sprawach leżących w interesie publicznym są zobowiązane do ujawnienia, że tekst został sztucznie wygenerowany lub zmanipulowany, z wyjątkiem przypadków, gdy treści zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej, a za ich publikację odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna.
Informacje te należy przekazywać zainteresowanym osobom fizycznym w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego zastosowania systemu.
Podsumowanie
Stosowanie systemów sztucznej inteligencji w przedsiębiorstwach wodociągowo-kanalizacyjnych wiąże się z koniecznością uwzględnienia wymogów wynikających z AI Act. Szczególne znaczenie ma prawidłowe rozpoznanie, czy wykorzystywany system AI może zostać zakwalifikowany jako system wysokiego ryzyka, w szczególności na podstawie art. 6 ust. 2 w związku z załącznikiem III do Rozporządzenia.
Przedsiębiorstwa wodociągowo-kanalizacyjne powinny zwrócić uwagę na obowiązki związane m.in. z zapewnieniem odpowiedniego poziomu kompetencji w zakresie AI, prawidłowym stosowaniem systemów AI wysokiego ryzyka, zapewnieniem odpowiedniego nadzoru człowieka, współpracą z właściwymi organami oraz, w określonych przypadkach, przeprowadzeniem oceny skutków dla praw podstawowych. Znaczenie mogą mieć również obowiązki dotyczące informowania osób fizycznych o stosowaniu określonych systemów AI oraz ujawniania treści wygenerowanych lub zmanipulowanych przez AI.
Istotne jest przy tym, że zakres obowiązków przedsiębiorstwa zależy od rodzaju wykorzystywanego systemu AI, jego przeznaczenia oraz sposobu jego stosowania. Samo wykorzystywanie rozwiązań opartych na sztucznej inteligencji nie oznacza automatycznie, że dany system należy do kategorii systemów wysokiego ryzyka.
W praktyce przedsiębiorstwa powinny zatem w pierwszej kolejności zidentyfikować wykorzystywane systemy AI, określić ich przeznaczenie oraz zweryfikować, jakie przepisy AI Act znajdują do nich zastosowanie. Pozwoli to na właściwe określenie obowiązków przedsiębiorstwa oraz przygotowanie odpowiednich działań organizacyjnych i technicznych związanych ze stosowaniem systemów sztucznej inteligencji.
Maciej Dadok
Specjalista ds. Prawnych IGWP
