Tech in the Know 3/2024

Projekt ustawy o systemach sztucznej inteligencji – najważniejsze wnioski

Ministerstwo Cyfryzacji przedstawiło projekt ustawy o systemach sztucznej inteligencji („Projekt”), który 16 października 2024 r. trafił do konsultacji społecznych.

Polska staje się tym samym jednym z pierwszych krajów UE, które pochyliły się nad proceduralnymi kwestiami związanymi z wykonaniem przepisów unijnego rozporządzenia z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji („Rozporządzenie” lub „AI Act”). Rozporządzenia unijne stosowane są bezpośrednio i nie wymagają implementacji w krajowych systemach prawa. Stąd, Projekt skupia się na organizacji i sposobie sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji („AI”). W przeciwieństwie do literalnego brzmienia tytułu Projektu, nie reguluje on natomiast samych wymogów dla systemów AI, w tym dopuszczalności ich tworzenia i wykorzystywania. O samym AI Act pisaliśmy w naszym pierwszym wydaniu Tech in the Know (1/2024).

Zakres projektowanych regulacji

Projektowane regulacje nadzoru nad systemami AI są niezbędne dla zapewnienia prawidłowego stosowania AI Act. Projekt dotyczy takich kwestii jak postępowanie w sprawach o naruszenie przepisów Rozporządzenia, zasad kontroli i przestrzegania tych przepisów oraz kar administracyjnych za ich naruszenie. Wprowadza między innymi:

• nowy organ nadzorczy ds. rozwoju i bezpieczeństwa systemów AI, tj. Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji („Komisja”);
• uprawnienia Komisji do:
   
  
  • dokonywania interpretacji generalnych oraz indywidualnych przepisów AI Act oraz projektowanej ustawy;
  • wydawania wyjaśnień, opinii i interpretacji mających istotne znaczenie dla stosowania przepisów w sprawach objętych zakresem działania Komisji; oraz
• obowiązek dla ministra właściwego ds. cyfryzacji do przedkładania Radzie Ministrów i Komisji informacji o zasobach obliczeniowych do dalszego rozwoju systemów AI oraz prognoz zużycia energii dla tych celów.
   

Komisja jako nowy kolegialny organ nadzoru rynku systemów AI

Komisja będzie wzorowana na Komisji Nadzoru Finansowego, co oznacza, że będzie posiadała szerokie uprawnienia nadzorcze i kontrolne. To w jej kompetencji będzie wydawanie postanowień i decyzji administracyjnych, w tym nakładanie administracyjnych kar pieniężnych przewidzianych Rozporządzeniem (w zależności od naruszenia, nawet do 35 mln euro lub do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego). Co istotne, odwołania od decyzji Komisji ma rozpatrywać Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów.

Obok przewodniczącego Komisji i dwóch jego zastępców, w skład Komisji ma wchodzić dziewięciu członków Komisji, będących reprezentantami m.in.:

• Prezesa Urzędu Ochrony Danych Osobowych;
• Prezesa Urzędu Ochrony Konkurencji i Konsumentów; oraz
• Prezesa Komisji Nadzoru Finansowego.

Projekt przewiduje możliwość zaproszenia do udziału w posiedzeniach Komisji innych podmiotów, z tym zastrzeżeniem, że ich działalność powinna korespondować z tematem danego posiedzenia Komisji. Ponadto, w celu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów AI, przy Komisji powołana zostanie Społeczna Rada ds. Sztucznej Inteligencji, której członkami mieliby zostać przedstawiciele wskazani przez organy państwowe, organizacje pozarządowe oraz inne zainteresowane strony.

Zakres zastosowania projektowanej ustawy

Rozporządzenie, a w ślad za nim Projekt, odnoszą się do szerokiego kręgu podmiotów, obecnych zasadniczo na każdym etapie łańcucha tworzenia, wdrażania i wykorzystywania systemów AI (tj. dostawców, dystrybutorów, importerów i użytkowników systemów AI). Z tego względu, każdy korzystający z systemów AI musi ustalić, czy produkty, z których korzysta lub które dostarcza, obejmują systemy AI w rozumieniu przepisów Rozporządzenia.

Warto w tym miejscu wspomnieć o projektowanej możliwości wnioskowania do Komisji o wydanie interpretacji indywidualnej, rozstrzygającej czy dany system maszynowy kwalifikuje się jako system AI w rozumieniu Rozporządzenia i jaki jest jego poziom ryzyka.

Przewidywany termin uchwalenia projektowanej ustawy

Rozporządzenie weszło w życie już 1 sierpnia 2024 r., przy czym konieczność zapewnienia zgodności z poszczególnymi obowiązkami wynikającymi z AI Act jest rozłożona w czasie na okres najbliższych trzech lat. Przepisy dotyczące zakazanych praktyk w zakresie systemów AI rozpoczynają obowiązywanie już 2 lutego 2025 r. Jest to zatem dobry moment na sprawdzenie czy Państwa organizacja nie korzysta z zakazanych systemów AI.

Rozporządzenie wymaga de facto wyznaczenia przez państwa członkowskie krajowych organów nadzorczych do dnia 2 sierpnia 2025 r. Jest to jednocześnie termin, od którego wchodzą w życie przepisy o karach administracyjnych za nieprzestrzeganie Rozporządzenia.

Wątpliwości co do rozwiązań zaproponowanych przez Ministerstwo Cyfryzacji

Zaprezentowanie przez Polskę krajowych przepisów proceduralnych dot. stosowania AI Act jako jedno z pierwszych państw członkowskich UE należy oceniać pozytywnie. Jednakże, niektóre z zaproponowanych rozwiązań budzą wątpliwości, które powinny zostać rozwiane w trakcie trwającego procesu legislacyjnego.

Podstawowym zadaniem Komisji ma być przeprowadzanie kontroli w podmiotach zobowiązanych do przestrzegania przepisów AI Act. Kontrola lub poszczególne czynności kontrolne mają zostać przeprowadzone co do zasady zdalnie. Wątpliwości budzi w szczególności:

• brak kryteriów inicjowania kontroli przez Komisję, jak też warunków dla przeprowadzania jej stacjonarnie; oraz
• szerokie uprawnienia Komisji podczas wykonywania kontroli, które obwarowane są dotkliwymi karami za ich utrudnianie lub uniemożliwianie (poza karą pieniężną w wysokości do 500 tys. złotych, kary obejmują również karę ograniczenia, a nawet pozbawienia wolności).

Brak jasnych wytycznych rodzi obawy o możliwość przekroczenia przez Komisję rozsądnego zakresu wykonywanej kontroli w przyszłości, bez zagwarantowania odpowiedniego stopnia ochrony dla podmiotów kontrolowanych.

Podsumowanie

Celem Projektu jest uzupełnienie i dopełnienie AI Act poprzez stworzenie spójnego zestawu regulacji, umożliwiających rzeczywiste stosowanie Rozporządzenia w oparciu o proceduralne przepisy polskiego prawa. Uchwalenie projektowanej ustawy jest kluczowe zarówno dla firm obecnie wdrażających systemy AI, jak i dla przyszłych innowatorów w tej dziedzinie.

W ramach trwających konsultacji społecznych Ministerstwo Cyfryzacji zbiera opinie i uwagi od obywateli, organizacji pozarządowych, podmiotów prywatnych czy instytucji publicznych. Jest to dobry moment dla wyrażenia swojej opinii na temat Projektu.

Będziemy informować o postępach legislacyjnych w kolejnych wydaniach Tech in the Know. Zachęcamy serdecznie do ich śledzenia.