Tech in the Know 2/2025

Już w niedzielę 2 lutego 2025 r. rozpocznie się stosowanie części przepisów unijnego aktu ws. sztucznej inteligencji (AI Act). Dotyczy to przepisów rozdziału I (przepisy ogólne) oraz rozdziału II (zakazane praktyki). Warto bliżej przyjrzeć się nowym obowiązkom dla przedsiębiorców. 

Zakazane praktyki w zakresie AI

Artykuł 5 AI Act wprowadza zakaz wykorzystywania, wprowadzania do obrotu lub oddawania do użytku systemów AI w następujących sytuacjach: 

• Manipulacja zachowaniem: manipulacja użytkowników w sposób prowadzący do poważnych szkód, np. poprzez zastosowanie technik podprogowych, manipulacyjnych lub wprowadzających w błąd;
• Wykorzystywanie słabości: wykorzystanie słabości osoby fizycznej ze względu na wiek, niepełnosprawność lub szczególną sytuację społeczną lub ekonomiczną, aby wpłynąć na jej decyzję, co może prowadzić do poważnych szkód;
• Scoring społeczny: ocena lub klasyfikacja ludzi na podstawie ich zachowań lub cech osobistych, jeśli prowadzi to do dyskryminacji;
• Ocena ryzyka popełnienia przestępstwa: przeprowadzanie oceny ryzyka popełnienia przestępstwa, jeżeli takie działanie odbędzie się wyłącznie na podstawie profilowania lub oceny cech osobowości i cech charakterystycznych;
• Untargeted scraping: tworzenie lub rozbudowywanie baz danych służących rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej;
• Rozpoznawanie emocji: wyciąganie wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych;
• Kategoryzacja biometryczna: kategoryzowanie osób fizycznych na podstawie ich danych biometrycznych;
• Zdalna identyfikacja biometryczna: zdalna identyfikacja biometryczna ludzi w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw.

Oznacza to w praktyce, że na przedsiębiorców stosujących zakazane praktyki AI mogą zostać nałożone dotkliwe administracyjne kary pieniężne. Ich maksymalna wysokość na gruncie AI Act to 35 mln euro lub 7% całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego. Warto zwrócić przy tym uwagę, że stosowanie wielu praktyk wskazanych w art. 5 AI Act jako zakazane już dzisiaj mogłoby budzić poważne wątpliwości co do ich zgodności z prawem na gruncie powszechnie obowiązujących przepisów prawa. Dotyczy to m.in. przepisów o ochronie konsumentów, ochronie danych osobowych czy prawa pracy. Warto zatem jak najszybciej rozpocząć proces mapowania wykorzystywania w firmie systemów AI, by być w stanie odpowiednio je przeanalizować i zidentyfikować potencjalnie problematyczne zastosowania. 

Biorąc pod uwagę toczące się prace legislacyjne nad polską ustawą o systemach sztucznej inteligencji, wciąż czekamy na wyznaczenie organu nadzorczego, który będzie odpowiedzialny w Polsce za egzekwowanie przepisów AI Act.  

AI literacy, czyli obowiązek przeszkolenia pracowników

Zgodnie z artykułem 4 AI Act, dostawcy i podmioty stosujące systemy AI są również zobowiązane do zapewnienia odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu. Oznacza to, że pracodawcy mają obowiązek wyposażenia swoich pracowników w odpowiednią wiedzę i umiejętności w zakresie sztucznej inteligencji. Pod uwagę powinny zostać wzięte takie aspekty jak wiedza techniczna, doświadczenie, wykształcenie i wyszkolenie, z uwzględnieniem kontekstu wykorzystania systemów AI oraz osób, wobec których będą wykorzystywane. 

Mimo, że rozporządzenie nie przewiduje kar za niewywiązanie się z obowiązku wynikającego z artykułu 4 AI Act, może on mieć jednak praktyczne znaczenie, np. w przypadku składania zapewnień o zgodności przestrzegania obowiązujących przepisów prawa lub w kontekście dochodzenia odszkodowania za szkody spowodowane przez systemy AI.

Podsumowanie

Warto już teraz zwrócić uwagę na obowiązki wynikające z przepisów ogólnych AI Act oraz przepisów ustanawiających zakazane praktyki AI, które wejdą w życie już od najbliższej niedzieli. 

Jeśli mają Państwo jakiekolwiek pytania dotyczące AI Act, serdecznie zapraszamy do kontaktu.