Publication
Ministerstwo Cyfryzacji przedstawiło projekt ustawy o systemach sztucznej inteligencji („Projekt”), który 16 października 2024 r. trafił do konsultacji społecznych.
Polska staje się tym samym jednym z pierwszych krajów UE, które pochyliły się nad proceduralnymi kwestiami związanymi z wykonaniem przepisów unijnego rozporządzenia z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji („Rozporządzenie” lub „AI Act”). Rozporządzenia unijne stosowane są bezpośrednio i nie wymagają implementacji w krajowych systemach prawa. Stąd, Projekt skupia się na organizacji i sposobie sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji („AI”). W przeciwieństwie do literalnego brzmienia tytułu Projektu, nie reguluje on natomiast samych wymogów dla systemów AI, w tym dopuszczalności ich tworzenia i wykorzystywania. O samym AI Act pisaliśmy w naszym pierwszym wydaniu Tech in the Know (1/2024).
Projektowane regulacje nadzoru nad systemami AI są niezbędne dla zapewnienia prawidłowego stosowania AI Act. Projekt dotyczy takich kwestii jak postępowanie w sprawach o naruszenie przepisów Rozporządzenia, zasad kontroli i przestrzegania tych przepisów oraz kar administracyjnych za ich naruszenie. Wprowadza między innymi:
Komisja będzie wzorowana na Komisji Nadzoru Finansowego, co oznacza, że będzie posiadała szerokie uprawnienia nadzorcze i kontrolne. To w jej kompetencji będzie wydawanie postanowień i decyzji administracyjnych, w tym nakładanie administracyjnych kar pieniężnych przewidzianych Rozporządzeniem (w zależności od naruszenia, nawet do 35 mln euro lub do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego). Co istotne, odwołania od decyzji Komisji ma rozpatrywać Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów.
Obok przewodniczącego Komisji i dwóch jego zastępców, w skład Komisji ma wchodzić dziewięciu członków Komisji, będących reprezentantami m.in.:
Projekt przewiduje możliwość zaproszenia do udziału w posiedzeniach Komisji innych podmiotów, z tym zastrzeżeniem, że ich działalność powinna korespondować z tematem danego posiedzenia Komisji. Ponadto, w celu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów AI, przy Komisji powołana zostanie Społeczna Rada ds. Sztucznej Inteligencji, której członkami mieliby zostać przedstawiciele wskazani przez organy państwowe, organizacje pozarządowe oraz inne zainteresowane strony.
Rozporządzenie, a w ślad za nim Projekt, odnoszą się do szerokiego kręgu podmiotów, obecnych zasadniczo na każdym etapie łańcucha tworzenia, wdrażania i wykorzystywania systemów AI (tj. dostawców, dystrybutorów, importerów i użytkowników systemów AI). Z tego względu, każdy korzystający z systemów AI musi ustalić, czy produkty, z których korzysta lub które dostarcza, obejmują systemy AI w rozumieniu przepisów Rozporządzenia.
Warto w tym miejscu wspomnieć o projektowanej możliwości wnioskowania do Komisji o wydanie interpretacji indywidualnej, rozstrzygającej czy dany system maszynowy kwalifikuje się jako system AI w rozumieniu Rozporządzenia i jaki jest jego poziom ryzyka.
Rozporządzenie weszło w życie już 1 sierpnia 2024 r., przy czym konieczność zapewnienia zgodności z poszczególnymi obowiązkami wynikającymi z AI Act jest rozłożona w czasie na okres najbliższych trzech lat. Przepisy dotyczące zakazanych praktyk w zakresie systemów AI rozpoczynają obowiązywanie już 2 lutego 2025 r. Jest to zatem dobry moment na sprawdzenie czy Państwa organizacja nie korzysta z zakazanych systemów AI.
Rozporządzenie wymaga de facto wyznaczenia przez państwa członkowskie krajowych organów nadzorczych do dnia 2 sierpnia 2025 r. Jest to jednocześnie termin, od którego wchodzą w życie przepisy o karach administracyjnych za nieprzestrzeganie Rozporządzenia.
Zaprezentowanie przez Polskę krajowych przepisów proceduralnych dot. stosowania AI Act jako jedno z pierwszych państw członkowskich UE należy oceniać pozytywnie. Jednakże, niektóre z zaproponowanych rozwiązań budzą wątpliwości, które powinny zostać rozwiane w trakcie trwającego procesu legislacyjnego.
Podstawowym zadaniem Komisji ma być przeprowadzanie kontroli w podmiotach zobowiązanych do przestrzegania przepisów AI Act. Kontrola lub poszczególne czynności kontrolne mają zostać przeprowadzone co do zasady zdalnie. Wątpliwości budzi w szczególności:
Brak jasnych wytycznych rodzi obawy o możliwość przekroczenia przez Komisję rozsądnego zakresu wykonywanej kontroli w przyszłości, bez zagwarantowania odpowiedniego stopnia ochrony dla podmiotów kontrolowanych.
Celem Projektu jest uzupełnienie i dopełnienie AI Act poprzez stworzenie spójnego zestawu regulacji, umożliwiających rzeczywiste stosowanie Rozporządzenia w oparciu o proceduralne przepisy polskiego prawa. Uchwalenie projektowanej ustawy jest kluczowe zarówno dla firm obecnie wdrażających systemy AI, jak i dla przyszłych innowatorów w tej dziedzinie.
W ramach trwających konsultacji społecznych Ministerstwo Cyfryzacji zbiera opinie i uwagi od obywateli, organizacji pozarządowych, podmiotów prywatnych czy instytucji publicznych. Jest to dobry moment dla wyrażenia swojej opinii na temat Projektu.
Będziemy informować o postępach legislacyjnych w kolejnych wydaniach Tech in the Know. Zachęcamy serdecznie do ich śledzenia.
Ministerstwo Cyfryzacji przedstawiło projekt ustawy o systemach sztucznej inteligencji („Projekt”), który 16 października 2024 r. trafił do konsultacji społecznych.
Polska staje się tym samym jednym z pierwszych krajów UE, które pochyliły się nad proceduralnymi kwestiami związanymi z wykonaniem przepisów unijnego rozporządzenia z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji („Rozporządzenie” lub „AI Act”). Rozporządzenia unijne stosowane są bezpośrednio i nie wymagają implementacji w krajowych systemach prawa. Stąd, Projekt skupia się na organizacji i sposobie sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji („AI”). W przeciwieństwie do literalnego brzmienia tytułu Projektu, nie reguluje on natomiast samych wymogów dla systemów AI, w tym dopuszczalności ich tworzenia i wykorzystywania. O samym AI Act pisaliśmy w naszym pierwszym wydaniu Tech in the Know (1/2024).
Projektowane regulacje nadzoru nad systemami AI są niezbędne dla zapewnienia prawidłowego stosowania AI Act. Projekt dotyczy takich kwestii jak postępowanie w sprawach o naruszenie przepisów Rozporządzenia, zasad kontroli i przestrzegania tych przepisów oraz kar administracyjnych za ich naruszenie. Wprowadza między innymi:
Komisja będzie wzorowana na Komisji Nadzoru Finansowego, co oznacza, że będzie posiadała szerokie uprawnienia nadzorcze i kontrolne. To w jej kompetencji będzie wydawanie postanowień i decyzji administracyjnych, w tym nakładanie administracyjnych kar pieniężnych przewidzianych Rozporządzeniem (w zależności od naruszenia, nawet do 35 mln euro lub do 7% całkowitego rocznego światowego obrotu przedsiębiorstwa z poprzedniego roku obrotowego). Co istotne, odwołania od decyzji Komisji ma rozpatrywać Sąd Okręgowy w Warszawie – sąd ochrony konkurencji i konsumentów.
Obok przewodniczącego Komisji i dwóch jego zastępców, w skład Komisji ma wchodzić dziewięciu członków Komisji, będących reprezentantami m.in.:
Projekt przewiduje możliwość zaproszenia do udziału w posiedzeniach Komisji innych podmiotów, z tym zastrzeżeniem, że ich działalność powinna korespondować z tematem danego posiedzenia Komisji. Ponadto, w celu wspierania konkurencyjności oraz rozwoju badań i zastosowań systemów AI, przy Komisji powołana zostanie Społeczna Rada ds. Sztucznej Inteligencji, której członkami mieliby zostać przedstawiciele wskazani przez organy państwowe, organizacje pozarządowe oraz inne zainteresowane strony.
Rozporządzenie, a w ślad za nim Projekt, odnoszą się do szerokiego kręgu podmiotów, obecnych zasadniczo na każdym etapie łańcucha tworzenia, wdrażania i wykorzystywania systemów AI (tj. dostawców, dystrybutorów, importerów i użytkowników systemów AI). Z tego względu, każdy korzystający z systemów AI musi ustalić, czy produkty, z których korzysta lub które dostarcza, obejmują systemy AI w rozumieniu przepisów Rozporządzenia.
Warto w tym miejscu wspomnieć o projektowanej możliwości wnioskowania do Komisji o wydanie interpretacji indywidualnej, rozstrzygającej czy dany system maszynowy kwalifikuje się jako system AI w rozumieniu Rozporządzenia i jaki jest jego poziom ryzyka.
Rozporządzenie weszło w życie już 1 sierpnia 2024 r., przy czym konieczność zapewnienia zgodności z poszczególnymi obowiązkami wynikającymi z AI Act jest rozłożona w czasie na okres najbliższych trzech lat. Przepisy dotyczące zakazanych praktyk w zakresie systemów AI rozpoczynają obowiązywanie już 2 lutego 2025 r. Jest to zatem dobry moment na sprawdzenie czy Państwa organizacja nie korzysta z zakazanych systemów AI.
Rozporządzenie wymaga de facto wyznaczenia przez państwa członkowskie krajowych organów nadzorczych do dnia 2 sierpnia 2025 r. Jest to jednocześnie termin, od którego wchodzą w życie przepisy o karach administracyjnych za nieprzestrzeganie Rozporządzenia.
Zaprezentowanie przez Polskę krajowych przepisów proceduralnych dot. stosowania AI Act jako jedno z pierwszych państw członkowskich UE należy oceniać pozytywnie. Jednakże, niektóre z zaproponowanych rozwiązań budzą wątpliwości, które powinny zostać rozwiane w trakcie trwającego procesu legislacyjnego.
Podstawowym zadaniem Komisji ma być przeprowadzanie kontroli w podmiotach zobowiązanych do przestrzegania przepisów AI Act. Kontrola lub poszczególne czynności kontrolne mają zostać przeprowadzone co do zasady zdalnie. Wątpliwości budzi w szczególności:
Brak jasnych wytycznych rodzi obawy o możliwość przekroczenia przez Komisję rozsądnego zakresu wykonywanej kontroli w przyszłości, bez zagwarantowania odpowiedniego stopnia ochrony dla podmiotów kontrolowanych.
Celem Projektu jest uzupełnienie i dopełnienie AI Act poprzez stworzenie spójnego zestawu regulacji, umożliwiających rzeczywiste stosowanie Rozporządzenia w oparciu o proceduralne przepisy polskiego prawa. Uchwalenie projektowanej ustawy jest kluczowe zarówno dla firm obecnie wdrażających systemy AI, jak i dla przyszłych innowatorów w tej dziedzinie.
W ramach trwających konsultacji społecznych Ministerstwo Cyfryzacji zbiera opinie i uwagi od obywateli, organizacji pozarządowych, podmiotów prywatnych czy instytucji publicznych. Jest to dobry moment dla wyrażenia swojej opinii na temat Projektu.
Będziemy informować o postępach legislacyjnych w kolejnych wydaniach Tech in the Know. Zachęcamy serdecznie do ich śledzenia.
Contents