Wdrażanie i stosowanie systemów sztucznej inteligencji (AI). Prawa i obowiązki podmiotów. Komentarz praktyczny

Wstęp

Wykaz skrótów

Wykaz literatury

Część I. Akt w sprawie sztucznej inteligencji

Rozdział 1. Przepisy ogólne

• 1.1. Znaczenie art. 1 AI Act
• 1.2. Tekst przepisu i jego analiza językowa
• 1.3. Cele rynku wewnętrznego
• 1.4. Ochrona praw podstawowych i wartości Unii
• 1.5. Wspieranie innowacyjności
• 1.6. Przedmiot regulacji
• 1.7. Uwagi podsumowujące

• 2.1. Uwagi ogólne
• 2.2. Zakres przedmiotowy
• 2.3. Zakres podmiotowy
• 2.4. Zakres terytorialny
• 2.5. Wyłączenia
• 2.6. Przykłady zastosowania art. 2 AI Act

• 3.1. Uwagi ogólne
• 3.2. System AI
• 3.3. Ryzyko
• 3.4. Dostawca
• 3.5. Podmiot stosujący
• 3.6. Upoważniony przedstawiciel
• 3.7. Importer
• 3.8. Dystrybutor
• 3.9. Operator
• 3.10. Wprowadzenie do obrotu
• 3.11. Udostępnianie na rynku
• 3.12. Oddanie do użytku
• 3.13. Przeznaczenie
• 3.14. Dające się racjonalnie przewidzieć niewłaściwe wykorzystanie
• 3.15. Związany z bezpieczeństwem element
• 3.16. Mikro-, małe i średnie przedsiębiorstwo (MŚP) i small mid-cap enterprise (SMC)
• 3.17. Instrukcja obsługi
• 3.18. Wycofanie systemu AI z użytku
• 3.19. Wycofanie systemu AI z rynku
• 3.20. Skuteczność działania systemu AI
• 3.21. Organ notyfikujący
• 3.22. Ocena zgodności
• 3.23. Jednostka oceniająca zgodność
• 3.24. Jednostka notyfikowana
• 3.25. Istotna zmiana
• 3.26. Oznakowanie CE
• 3.27. System monitorowania po wprowadzeniu do obrotu
• 3.28. Organ nadzoru rynku
• 3.29. Norma zharmonizowana
• 3.30. Wspólna specyfikacja
• 3.31. Dane treningowe
• 3.32. Dane walidacyjne
• 3.33. Zbiór danych walidacyjnych
• 3.34. Dane testowe
• 3.35. Dane wejściowe
• 3.36. Dane biometryczne
• 3.37. Identyfikacja biometryczna
• 3.38. Weryfikacja biometryczna
• 3.39. Szczególne kategorie danych osobowych
• 3.40. Wrażliwe dane operacyjne
• 3.41. System rozpoznawania emocji
• 3.42. System kategoryzacji biometrycznej
• 3.43. System zdalnej identyfikacji biometrycznej
• 3.44. System zdalnej identyfikacji biometrycznej w czasie rzeczywistym
• 3.45. System zdalnej identyfikacji biometrycznej post factum
• 3.46. Przestrzeń publiczna
• 3.47. Organ ścigania
• 3.48. Ściganie przestępstw
• 3.49. Urząd ds. AI (AI Office)
• 3.50. Właściwy organ krajowy
• 3.51. Poważny incydent
• 3.52. Dane osobowe
• 3.53. Dane nieosobowe
• 3.54. Profilowanie
• 3.55. Plan testów w warunkach rzeczywistych
• 3.56. Plan działania piaskownicy
• 3.57. Piaskownica regulacyjna w zakresie AI
• 3.58. Kompetencje w zakresie AI
• 3.59. Testy w warunkach rzeczywistych
• 3.60. Uczestnik testów w warunkach rzeczywistych
• 3.61. Świadoma zgoda
• 3.62. Deepfake
• 3.63. Powszechne naruszenie
• 3.64. Infrastruktura krytyczna
• 3.65. Model AI ogólnego przeznaczenia
• 3.66. Zdolności dużego oddziaływania
• 3.67. Ryzyko systemowe
• 3.68. System AI ogólnego przeznaczenia
• 3.69. Operacja zmiennoprzecinkowa
• 3.70. Dostawca niższego szczebla

• 4.1. Wprowadzenie
• 4.2. Zakres podmiotowy
• 4.3. Charakter obowiązku
• 4.4. Zakres i zawartość kompetencji AI
• 4.5. Wyzwania praktyczne
• 4.6. Znaczenie dla prawa unijnego

Rozdział 2. Praktyki zakazane

• 1.1. Wprowadzenie
• 1.2. Zakaz stosowania technik podprogowych i zwodniczych
• 1.3. Wykorzystywanie słabości osób fizycznych
• 1.4. Systemy oceny lub klasyfikacji społecznej (social scoring)
• 1.5. Systemy predykcyjne odnoszące się do możliwości popełnienia przestępstwa
• 1.6. Nieukierunkowane pozyskiwanie danych biometrycznych do tworzenia baz danych rozpoznawania twarzy
• 1.7. Systemy rozpoznawania emocji w pracy i edukacji (art. 5 ust. 1 lit. f AI Act)
• 1.8. Kategoryzacja biometryczna
• 1.9. Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw

• 2.1. Wprowadzenie
• 2.2. Obowiązki dostawców
• 2.3. Obowiązki podmiotów stosujących
• 2.4. Rola organów nadzoru rynku

• 3.1. Wprowadzenie
• 3.2. Treść i charakter ochrony
• 3.3. Prawo do usunięcia skutków
• 3.4. Prawo do złożenia skargi
• 3.5. Relacja do innych środków ochrony
• 3.6. Znaczenie praktyczne

Rozdział 3. Systemy wysokiego ryzyka – klasyfikacja i zakres

• 1.1. Wprowadzenie
• 1.2. Sprzężenie z prawem harmonizacyjnym UE
• 1.3. Załącznik III AI Act
• 1.4. Klauzula wyłączeniowa
• 1.5. Relacje z innymi aktami prawnymi
• 1.6. Kategorie systemów wysokiego ryzyka określone w załączniku III AI Act
• 1.7. Procedura aktualizacji katalogu systemów wysokiego ryzyka

• 2.1. System zarządzania ryzykiem
• 2.2. Zarządzanie danymi
• 2.3. Dokumentacja techniczna (art. 11 AI Act)
• 2.4. Rejestrowanie zdarzeń
• 2.5. Przejrzystość i przekazywanie informacji podmiotom stosującym
• 2.6. Nadzór ze strony człowieka
• 2.7. Dokładność, solidność i cyberbezpieczeństwo

• 3.1. Obowiązki dostawców systemów wysokiego ryzyka
• 3.2. System zarządzania jakością (QMS)
• 3.3. Dokumentacja techniczna
• 3.4. Automatycznie generowane rejestry zdarzeń
• 3.5. Działania naprawcze i obowiązki informacyjne
• 3.6. Współpraca z właściwymi organami
• 3.7. Obowiązki upoważnionych przedstawicieli (art. 22 AI Act)
• 3.8. Obowiązki importerów
• 3.9. Obowiązki dystrybutorów (art. 24 AI Act)
• 3.10. Odpowiedzialność wzdłuż łańcucha wartości. Rekwalifikacja do roli dostawcy
• 3.11. Obowiązki podmiotów stosujących (art. 26 AI Act)
• 3.12. Ocena skutków systemów AI wysokiego ryzyka dla praw podstawowych (FRIA)

• 4.1. Organy notyfikujące i jednostki notyfikowane

• 5.1. Rola norm zharmonizowanych i specyfikacji wspólnych
• 5.2. Procedury oceny zgodności
• 5.3. Odstępstwa i certyfikaty
• 5.4. Deklaracja, CE i rejestracja

• 6.1. Prawa do informacji, wyjaśnienia i odwołania
• 6.2. Prawo do skargi do organu nadzoru rynku
• 6.3. Prawo do wyjaśnienia decyzji indywidualnej
• 6.4. Rola Panelu Naukowego
• 6.5. Wnioski

Rozdział 4. Systemy AI ograniczonego ryzyka

• 1.1. Wprowadzenie
• 1.2. Systemy objęte obowiązkiem przejrzystości
• 1.3. Relacja z innymi kategoriami ryzyka i charakter „siatki bezpieczeństwa”

• 2.1. Podstawy i cel regulacji
• 2.2. Obowiązek informowania o charakterze interakcji
• 2.3. Obowiązek znakowania treści syntetycznych
• 2.4. Informowanie o systemach rozpoznawania emocji i biometrii
• 2.5. Ujawnianie deepfakes i tekstów o interesie publicznym
• 2.6. Możliwość opracowywania kodeksów praktyk
• 2.7. Relacje z innymi podmiotami i system sankcji
• 2.8. Wnioski

• 3.1. Rola podmiotu stosującego w ekosystemie przejrzystości
• 3.2. Interakcja z systemami konwersacyjnymi
• 3.3. Informowanie o systemach rozpoznawania emocji i biometrii
• 3.4. Ujawnianie treści deepfakes i tekstów publicznych
• 3.5. Wnioski

• 4.1. Charakter prawny
• 4.2. Standard realizacji prawa
• 4.3. Ochrona grup wrażliwych i dostępność
• 4.4. Relacja z innymi reżimami i egzekwowalność
• 4.5. Wnioski

Rozdział 5. Modele AI ogólnego przeznaczenia (GPAI)

• 1.1. Klasyfikacja modeli GPAI
• 1.2. Procedura klasyfikacji i odwołania
• 1.3. Relacja Model–System–Treść
• 1.4. Problemy praktyczne i interpretacyjne
• 1.5. Rola Kodeksów praktyk
• 1.6. Wnioski

• 2.1. Treść przepisu i ratio legis
• 2.2. Zakres obowiązków dokumentacyjnych i prawnoautorskich
• 2.3. Wyjątek dla modeli open source
• 2.4. Problemy praktyczne i interpretacyjne
• 2.5. Wnioski

• 3.1. Cel regulacji i kontekst ustrojowy
• 3.2. Obowiązek ustanowienia i mandat
• 3.3. Zakres zadań
• 3.4. Odpowiedzialność i pozycja prawna
• 3.5. Wypowiedzenie mandatu
• 3.6. Wyjątek dla open source
• 3.7. Wnioski

• 4.1. Treść przepisu i ratio legis
• 4.2. Geneza i inspiracje regulacyjne
• 4.3. Kryteria identyfikacji modeli systemowych
• 4.4. Zakres dodatkowych obowiązków
• 4.5. Problemy praktyczne i rola AI Office
• 4.6. Wnioski

• 5.1. Treść przepisu i ratio legis
• 5.2. Struktura Kodeksu
• 5.3. Skutki prawne: Domniemanie zgodności i mechanizm „bezpiecznej przystani”
• 5.4. Alternatywna ścieżka wykazania zgodności
• 5.5. Problemy praktyczne
• 5.6. Wnioski

• 6.1. Konstrukcja ochrony
• 6.2. Prawa twórców i mechanizm opt-out
• 6.3. Prawo do prawdy i ochrony przed dezinformacją
• 6.4. Proceduralne prawo do skargi na modele GPAI
• 6.5. Wnioski

Rozdział 6. Systemy AI minimalnego ryzyka

• 1.1. Definicja i miejsce w systematyce AI Act
• 1.2. Przykłady i zakres zastosowań
• 1.3. Zasada swobodnego przepływu
• 1.4. Samoregulacja i dobrowolne kodeksy

• 2.1. Zasada braku wymogów administracyjnych ex ante
• 2.2. Dobrowolne stosowanie standardów
• 2.3. Powszechny obowiązek budowania kompetencji
• 2.4. Zgodność z innymi reżimami prawnymi
• 2.5. Obowiązek dokumentowania klasyfikacji

• 3.1. Specyfika ochrony
• 3.2. Prawa wynikające z RODO
• 3.3. Uprawnienia wynikające z Kodeksów postępowania
• 3.4. Wnioski

Rozdział 7. Środki wspierające innowacyjność

• 1.1. Koncepcja i cel piaskownic regulacyjnych
• 1.2. Funkcjonowanie piaskownicy i korzyści dla uczestników
• 1.3. Przetwarzanie danych osobowych w interesie publicznym
• 1.4. Testy w warunkach rzeczywistych
• 1.5. Piaskownica regulacyjna na gruncie projektu polskiej ustawy
• 1.6. Wnioski dla MŚP i start-upów

• 2.1. Zakres wsparcia
• 2.2. Redukcja opłat za ocenę zgodności
• 2.3. Rola Urzędu ds. AI
• 2.4. Wnioski

Rozdział 8. Zarządzanie

• 1.1. Architektura instytucjonalna
• 1.2. Urząd ds. AI (AI Office)
• 1.3. Europejska Rada ds. AI (AI Board)
• 1.4. Forum Doradcze (Advisory Forum)
• 1.5. Panel Naukowy Niezależnych Ekspertów (Scientific Panel)
• 1.6. Wnioski

• 2.1. Struktura nadzoru
• 2.2. Rodzaje organów właściwych
• 2.3. Pojedynczy punkt kontaktowy (SPOC)
• 2.4. Zasoby i kompetencje
• 2.5. Wsparcie dla innowatorów
• 2.6. Specyfika polskiego modelu nadzoru
• 2.7. Status ustrojowy i skład KRBSI
• 2.8. Funkcje i zadania KRBSI
• 2.9. Instrumenty prawne i opinie indywidualne
• 2.10. Społeczna Rada ds. Sztucznej Inteligencji
• 2.11. Niezależność i konflikt interesów
• 2.12. Wnioski

Rozdział 9. Post-market monitoring i kontrola zgodności

• 1.1. Istota obowiązku
• 1.2. Plan monitorowania
• 1.3. Synergia z reżimami sektorowymi
• 1.4. Wyłączenia dla organów ścigania
• 1.5. Wnioski

• 2.1. Wprowadzenie
• 2.2. Mechanizm wczesnego ostrzegania

Część II. Kontrola i postępowania przed organem nadzoru na gruncie projektu polskiej ustawy o systemach sztucznej inteligencji

Rozdział 1. Kontrola przestrzegania przepisów o sztucznej inteligencji

• 1.1. Reżim prawny
• 1.2. Zdalny charakter kontroli

Rozdział 2. Postępowania przed organem nadzoru

Rozdział 3. Układ w sprawie warunków nadzwyczajnego złagodzenia sankcji

Część III. Narzędzia praktyczne

• Załącznik 1. Karta kwalifikacji systemu
• Załącznik 2. Karta oceny „istotnej zmiany”

• Załącznik 3. Przykład spisu treści dokumentacji technicznej (zgodnej z załącznikiem IV AI Act)
• Załącznik 4. Szablon polityki zarządzania danymi (art. 10 AI Act)
• Załącznik 5. Protokół rejestrowania zdarzeń (art. 12 AI Act)

• Załącznik 6. Wzór oceny skutków dla praw podstawowych (art. 27 AI Act)
• Załącznik 7. Instrukcja stanowiska dla operatora (art. 26 ust. 2 AI Act)
• Załącznik 8. Wzór klauzuli informacyjnej dla pracowników (art. 26 ust. 7 AI Act)

• Załącznik 9. Checklista weryfikacyjna dla importera/dystrybutora (art. 23/24 AI Act)

• Załącznik 10. Wzór karty modelu (art. 53 AI Act)
• Załącznik 11. Wytyczne UI dla oznaczenia treści (art. 50 AI Act)