Weszły w życie przepisy dotyczące zakazanych praktyk AI. Co należy wiedzieć?

Już 2 lutego 2025 r. zaczną obowiązywać przepisy Rozporządzenia Parlamentu Europejskiego i Rady (UE) w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany innych rozporządzeń (AI Act), które dotyczą zakazanych praktyk w zakresie AI!

Zakazane praktyki AI

• Zabrania się wprowadzania do obrotu, wykorzystywania lub stosowania systemów AI, które wykorzystują techniki podprogowe, manipulacyjne lub wprowadzające w błąd, ograniczając zdolność podejmowania świadomych decyzji, co prowadzi do decyzji, które mogą wyrządzić poważną szkodę;
• Nie wolno stosować AI do wykorzystywania słabości osób lub grup, takich jak wiek, niepełnosprawność czy sytuacja społeczno-ekonomiczna, w celu dokonania zmiany ich zachowań, co może wyrządzić poważną szkodę;
• Zakazuje się używania systemów AI do oceny zachowań społecznych osób, które prowadziłyby do krzywdzącego traktowania lub nieuzasadnionych decyzji, niezwiązanych z pierwotnymi danymi;
• Zabrania się stosowania AI do przewidywania ryzyka popełnienia przestępstwa na podstawie cech osobowości lub profilowania, chyba że oparte na obiektywnych faktach;
• Nie wolno wykorzystywać AI do zbierania danych twarzy z internetu lub monitoringu bez zgody, celem tworzenia baz danych do rozpoznawania osób;
• Zakazuje się używania AI do oceny emocji osób w miejscach pracy lub instytucjach edukacyjnych, chyba że dotyczy to celów medycznych lub związanych z bezpieczeństwem;
• Zabrania się stosowania AI do kategoryzowania osób na podstawie danych biometrycznych, takich jak rasa, orientacja seksualna czy poglądy, w sposób naruszający prywatność;
• Nie wolno stosować AI do zdalnej identyfikacji osób w przestrzeni publicznej, chyba że jest to absolutnie konieczne w wyjątkowych przypadkach, takich jak zapobieganie zagrożeniu życia lub ściganie przestępstw.

Kogo dotyczą przepisy?

Przepisy mają zastosowanie nie tylko do dostawców, importerów i dystrybutorów systemów AI, ale też każdego podmiotu, który wykorzystuje system AI, z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach osobistej działalności pozazawodowej;

Kary pieniężne

Nieprzestrzeganie powyższych zakazów praktyk w zakresie AI podlega administracyjnej karze pieniężnej w wysokości do 35 000 000 EUR lub – jeżeli sprawcą naruszenia jest przedsiębiorstwo – w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.

W przypadku pytań zachęcamy do kontaktu z Elżbietą Delert-Wiącek – Managing Associate i Adwokatem w Dziale Prawa Własności Intelektualnej Kancelarii Sadkowski i Wspólnicy.