Czy algorytmiczne wyroki sądowe są zgodne z prawem?

Od scoringu kredytowego do „algorytmicznego sędziego” – o czym w ogóle mowa?

Czym się różni decyzja wspierana algorytmem od decyzji podejmowanej przez algorytm

Algorytmy od lat podejmują decyzje, które realnie wpływają na życie ludzi: przyznają kredyty, filtrują kandydatów do pracy, oceniają wiarygodność klientów sklepów internetowych. Gdy podobne mechanizmy zaczynają być stosowane w sądach, pojawia się pytanie: czy algorytmiczne wyroki sądowe są zgodne z prawem? Kluczowe jest zrozumienie różnicy między kilkoma typami zastosowań.

Najprostszy poziom to systemy wspierania orzekania. To narzędzia, które dostarczają sędziemu informacji, ale formalnie niczego nie rozstrzygają. Przykładowo: wyszukiwarka orzecznictwa, która pokazuje podobne sprawy i sugerowane linie argumentacji; kalkulator odsetek; narzędzie do anonimizacji wyroków. Sędzia korzysta, ale zachowuje pełną swobodę – może dane wskazówki zignorować bez konsekwencji.

Kolejny poziom to systemy rekomendacyjne. Tu algorytm podsuwa rozwiązania: proponowaną wysokość kary, szacowane ryzyko powrotu do przestępstwa, prawdopodobieństwo niewypłacalności pozwanego. Formalnie to nadal tylko „podpowiedź”, ale wpływ jest realny. Gdy system pokazuje, że ryzyko recydywy jest „bardzo wysokie”, mało który sędzia będzie całkowicie to ignorował – zwłaszcza, jeśli system został „oficjalnie” wdrożony przez ministerstwo.

Najbardziej kontrowersyjny poziom to pełna automatyzacja decyzji. W tym modelu to algorytm wylicza wynik, który bezpośrednio przekłada się na rozstrzygnięcie: określa wysokość kary, automatycznie wymierza grzywnę, wyznacza długość zakazu prowadzenia działalności. Rola człowieka ogranicza się do zatwierdzenia wyników albo wręcz do ich biernego wykonania – klasyczny „człowiek z gumową pieczątką”. Tu wchodzimy w obszar, gdzie prawo zaczyna stawiać twarde bariery.

Mit, który często się powtarza, brzmi: „albo decyzję podejmuje algorytm, albo człowiek”. Rzeczywistość jest bardziej złożona: człowiek może formalnie decydować, ale faktycznie być mocno uzależniony od algorytmu. Jeśli rekomendacja jest domyślnie ustawiona, a jej zmiana wymaga dodatkowych uzasadnień, czasem nawet zgód przełożonych, to autonomia sędziego staje się fikcją. Z punktu widzenia prawa liczy się nie tylko formalny zapis, ale rzeczywisty wpływ narzędzia na wyrok.

Przykłady zastosowań algorytmów w wymiarze sprawiedliwości

Żeby ocenić zgodność algorytmicznych decyzji sądowych z prawem, trzeba konkretnie nazwać, o jakich zastosowaniach mowa. W praktyce pojawiają się m.in. takie scenariusze:

• Rekomendacje wysokości kary – system analizuje historię podobnych spraw (rodzaj czynu, szkoda, okoliczności łagodzące i obciążające) i proponuje widełki kary lub konkretną wartość. Sędzia może to przyjąć, zmodyfikować lub odrzucić.
• Szacowanie ryzyka recydywy – algorytm, wzorowany często na amerykańskich narzędziach typu COMPAS, wylicza prawdopodobieństwo powrotu do przestępstwa i sugeruje np. środek zapobiegawczy albo intensywność nadzoru kuratorskiego.
• Wsparcie przy warunkowym zwolnieniu – system ocenia, czy skazany spełnia przesłanki do zwolnienia, wskazując czynniki ryzyka, wyniki wcześniejszych oddziaływań resocjalizacyjnych, zachowanie w zakładzie karnym.
• Automatyczne mandaty/wykroczenia – narzędzia, które przeliczają dane z fotoradarów czy systemów miejskiego monitoringu i generują propozycję kary grzywny, pozostawiając organowi rolę formalnego zatwierdzenia.
• Wyszukiwanie i klasteryzacja orzecznictwa – algorytmy NLP porządkują bazę wyroków, grupują podobne sprawy, podpowiadają fragmenty uzasadnień i wzorce argumentacyjne.

Granica między „wyszukiwarką” a „algorytmicznym sędzią” bywa cienka. System, który „tylko” sortuje podobne wyroki po wysokości kary, praktycznie sugeruje przedział, w którym mieści się „typowa” kara. Im bardziej sędzia ufa takiemu rozkładowi, tym bardziej decyzja staje się de facto algorytmiczna, choć de iure wciąż ludzką.

Dlaczego prawo inaczej traktuje narzędzie analityczne i algorytm determinujący wynik

Prawo od lat zna zjawisko korzystania z narzędzi technicznych: kalkulatorów, baz danych, ekspertyz biegłych. Nie ma niczego podejrzanego w tym, że sędzia używa nowoczesnych technologii. Problem zaczyna się tam, gdzie narzędzie zaczyna determinować rozstrzygnięcie, a człowiek zostaje jedynie fasadą.

Kluczowa jest tu zasada niezawisłości i swobody sędziowskiej. Sędzia musi mieć realną możliwość:

• samodzielnego zebrania i oceny materiału dowodowego,
• wyboru norm prawnych, które stosuje,
• samodzielnego zadecydowania o wymiarze kary czy rodzaju środka.

Jeżeli system algorytmiczny jest obowiązkowy, a jego rekomendacje można zmienić tylko w wyjątkowych sytuacjach, pod groźbą np. kontroli dyscyplinarnej, to z punktu widzenia Konstytucji dochodzi do faktycznego przekazania części władzy sądowniczej podmiotowi tworzącemu i utrzymującemu system. To już nie neutralne narzędzie, tylko element struktury decyzyjnej.

Mit: „algorytm to tylko narzędzie, więc odpowiedzialność zawsze spoczywa na sędzim”. Rzeczywistość jest mniej wygodna dla twórców systemów: jeżeli algorytm determinująco wpływa na wynik, to pojawia się pytanie o odpowiedzialność projektantów, dostawców i organów, które dopuściły jego użycie. Z perspektywy prawa UE (RODO, AI Act) nie da się dłużej schować algorytmu za plecami sędziego.

Konstytucyjne fundamenty: rzetelny proces, niezawisłość sędziego i prawo do sądu

Jakie prawa jednostki mogą być naruszone przez algorytmiczne orzekanie

W polskim porządku prawnym podstawową kotwicą dla oceny, czy algorytmiczne wyroki sądowe są zgodne z prawem, jest Konstytucja RP. Choć nie zawiera słowa „algorytm” ani „sztuczna inteligencja”, to wprost wyznacza standardy, których musi przestrzegać każdy model użyty w wymiarze sprawiedliwości.

Punktem wyjścia jest art. 45 Konstytucji, który gwarantuje każdemu prawo do sprawiedliwego i jawnego rozpatrzenia sprawy przez niezawisły, bezstronny i niezależny sąd. Z tego przepisu i orzecznictwa Trybunału Konstytucyjnego wynikają m.in.:

• prawo do rzetelnego procesu (w tym do wysłuchania, przedstawienia dowodów, odniesienia się do materiału),
• prawo do znania motywów rozstrzygnięcia – czyli uzasadnienia wyroku,
• prawo do skutecznego środka zaskarżenia (odwołania).

Jeśli algorytm staje się kluczowym elementem decyzji, może naruszać te prawa w kilku miejscach. Po pierwsze, strony mogą nie mieć wglądu w zasady działania modelu, w tym w użyte dane i kryteria, które przesądziły o wyniku. Po drugie, mogą być pozbawione realnej możliwości zakwestionowania rozumowania algorytmu, skoro bywa ono nieprzejrzyste nawet dla twórców (modele „czarnej skrzynki”). Po trzecie, odwołanie od rozstrzygnięcia staje się iluzoryczne, gdy sąd wyższej instancji również opiera się na tym samym lub podobnym systemie.

Art. 2 Konstytucji – zasada demokratycznego państwa prawnego – wprowadza dodatkowo wymóg zaufania obywateli do państwa i prawa. Wyrok oparty na algorytmie, którego działania nie da się zrozumieć ani skontrolować, podważa to zaufanie. Jeżeli obywatel słyszy: „taka jest wartość ryzyka wg systemu, więc sąd nie mógł orzec inaczej”, trudno mówić o poczuciu sprawiedliwości.

Niezawisłość sędziowska a „obowiązkowe” rekomendacje algorytmu

Niezawisłość sędziowska to nie tylko ochrona przed naciskami politycznymi. To także ochrona przed presją systemową, w tym przed nadmiernym uzależnieniem od narzędzi informatycznych. Sędzia ma podejmować decyzję na podstawie prawa i własnego przekonania, a nie dlatego, że „system tak wyliczył”.

Jeżeli ministerstwo lub inny organ wprowadza system, który:

• obowiązkowo generuje rekomendację kary w każdej sprawie,
• wymaga szczegółowego raportowania i uzasadniania wszelkich odchyleń od tej rekomendacji,
• jest powiązany z oceną pracy sędziego (np. „zbyt częste” odchylenia mogą rodzić zarzut „niekonsekwencji”),

to w praktyce autonomia orzekania zostaje ograniczona. Sędzia może formalnie orzec inaczej, ale wie, że będzie się z tego tłumaczył – często przed organami władzy wykonawczej. Ryzyko naruszenia art. 178 ust. 1 Konstytucji (sędziowie w sprawowaniu swojego urzędu są niezawiśli i podlegają Konstytucji oraz ustawom) jest w takim modelu bardzo wysokie.

Typową pułapką jest założenie, że „nadzór człowieka” polega na tym, że sędzia ma wgląd w ekran z wynikami algorytmu. Prawdziwy nadzór oznacza możliwość:

• swobodnego odejścia od rekomendacji bez sankcji,
• weryfikacji, na jakiej podstawie algorytm osiągnął dany wynik,
• zakwestionowania działania systemu (np. przez wyłączenie go w konkretnej sprawie).

Jeśli tych elementów brakuje, człowiek staje się elementem łańcucha automatycznego, a nie autonomicznym decydentem.

Prawo do uzasadnienia wyroku i skutecznego środka odwoławczego wobec „czarnej skrzynki”

Polskie kodeksy postępowania (karny, cywilny, administracyjny) wymagają, aby wyrok był uzasadniony w sposób umożliwiający zrozumienie jego podstaw przez strony i sąd odwoławczy. Sąd musi wskazać:

• ustalenia faktyczne,
• dowody, na których się oparł, oraz przyczyny odmowy wiary innym dowodom,
• podstawę prawną rozstrzygnięcia,
• tok rozumowania prowadzący do zastosowania określonych przepisów.

Model typu „czarna skrzynka” (np. złożona sieć neuronowa) jest z definicji nieprzejrzysty. Nawet jego twórcy potrafią wskazać co najwyżej statystyczne korelacje, ale nie konkretne, zrozumiałe dla laika reguły. Jeśli taka „czarna skrzynka” przesądza o kluczowym elemencie wyroku, np. o ocenie ryzyka recydywy, to sąd ma problem: nie jest w stanie w pełni wyjaśnić, dlaczego system wskazał konkretny wynik.

Mit: „nie trzeba rozumieć działania algorytmu, wystarczy, że spełnia wskaźniki jakości”. Z punktu widzenia prawa do odwołania to podejście jest nie do obrony. Strona musi mieć możliwość zakwestionowania nie tylko wyniku, ale też metody. Jeżeli nie wie, jakie cechy (np. wiek, miejsce zamieszkania, wcześniejsze wyroki) odegrały rolę i w jakim stopniu, jej prawo do obrony zostaje istotnie ograniczone.

W praktyce oznacza to, że dla zastosowań w wymiarze sprawiedliwości preferowane muszą być modele wyjaśnialne lub przynajmniej kompensowane mechanizmami wyjaśniania (np. narzędzia typu LIME, SHAP, reguły decyzyjne nadrzędne wobec modelu statystycznego). Samo stwierdzenie „model ma wysoką dokładność” nie wystarcza, by pogodzić jego użycie z konstytucyjnym prawem do sądu.

Mit, że „Konstytucja nic nie mówi o AI, więc mamy lukę”, jest złudny. Ogólne zasady rzetelnego procesu stosują się tak samo do algorytmów, jak do każdego innego „czarnego pudełka” w sądzie – biegłego, tajnego świadka, niejawnych dokumentów. Tam, gdzie ETPCz czy TK wypracowały standardy w tych obszarach, można je w dużej mierze przenieść na grunt algorytmów.

Prawo unijne i standardy europejskie: RODO, ETPCz, AI Act

Automatyczne decyzje w prawie ochrony danych osobowych (RODO)

RODO (rozporządzenie 2016/679) wprowadziło do prawa europejskiego kluczowy przepis dla każdej dyskusji o tym, czy algorytmiczne wyroki sądowe są zgodne z prawem – art. 22. Stanowi on, że osoba, której dane dotyczą, ma prawo nie podlegać decyzji opierającej się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, jeżeli decyzja wywołuje wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływa.

Czy wyrok wydany z użyciem algorytmu to „decyzja oparta wyłącznie na zautomatyzowanym przetwarzaniu”?

Art. 22 RODO jest często przywoływany jako „zakaz algorytmicznych wyroków”. Rzeczywistość jest subtelniejsza. Przepis nie zabrania używania systemów analitycznych czy wspomagających – zakazuje pozostawienia człowieka całkowicie poza procesem decyzyjnym, gdy chodzi o decyzję o istotnych skutkach.

Kluczowe są tu trzy elementy:

• „wyłącznie” – czyli brak realnej, merytorycznej kontroli człowieka nad rekomendacją systemu,
• „zautomatyzowane przetwarzanie” – obejmuje algorytmy, modele statystyczne, systemy AI,
• „skutki prawne lub podobnie istotne” – a więc np. skazanie, wymiar kary, zakaz wykonywania zawodu.

Jeżeli sędzia ma jedynie potwierdzić wynik systemu, a jego „kontrola” ogranicza się do kliknięcia „zatwierdź”, to z perspektywy RODO de facto mamy do czynienia z decyzją opartą wyłącznie na zautomatyzowanym przetwarzaniu – niezależnie od tego, jak nazwie to ustawodawca. Mit, że wystarczy „człowiek w pętli” na ekranie, by ominąć art. 22, jest wygodny dla dostawców systemów, ale nie wytrzymuje konfrontacji z treścią przepisów i wytycznymi EROD.

Z drugiej strony, jeśli algorytm ma wyłącznie rolę pomocniczą (np. wstępne porządkowanie materiału dowodowego czy statystyczne porównanie orzecznictwa), a to sędzia rzeczywiście waży dowody i samodzielnie ustala wymiar kary, trudno mówić o „zautomatyzowanej decyzji” w rozumieniu art. 22. Granica przebiega więc nie w technologii, lecz w realnym zakresie wpływu systemu na rozstrzygnięcie.

RODO dopuszcza wyjątki od zakazu, ale wymagają one m.in. istnienia stosownych środków ochrony praw, wolności i uzasadnionych interesów osoby, w tym przynajmniej prawa do uzyskania interwencji ludzkiej, wyrażenia własnego stanowiska i zakwestionowania decyzji. Jeśli postępowanie sądowe z algorytmem w tle nie zapewnia tych elementów, trudno je pogodzić z prawem ochrony danych.

Specjalne przepisy dla wymiaru sprawiedliwości i dane „wrażliwe”

RODO przewiduje pewne wyłączenia dla działalności sądów, ale nie są to carte blanche dla dowolnego użycia AI. Państwa członkowskie mogą wprowadzać przepisy szczególne dla przetwarzania danych w wymiarze sprawiedliwości, jednak one również muszą respektować zasady ogólne: minimalizację danych, ograniczenie celu, prawidłowość, przejrzystość.

W sprawach karnych czy rodzinnych algorytmy niemal zawsze będą dotykać szczególnych kategorii danych (dane zdrowotne, pochodzenie etniczne, przekonania religijne, życie seksualne, dane o wyrokach skazujących). Dla takich danych próg dopuszczalności automatycznego przetwarzania jest jeszcze wyższy. Jeżeli system np. „nauczy się”, że określona dzielnica (ze względu na strukturę etniczną) koreluje z ryzykiem recydywy, to nawet bez użycia jawnego pola „pochodzenie etniczne” może powstać profil pośrednio dyskryminujący.

Mit, że „algorytm nie widzi rasy ani religii, więc nie dyskryminuje”, jest obalany w kolejnych badaniach. Wystarczy zestaw nieszkodliwych z pozoru cech – kod pocztowy, typ szkoły, historia zatrudnienia – by system odtworzył wnioski, których wprost nie wolno by mu wyciągać.

Standardy ETPCz: sprawiedliwy proces w erze automatyzacji

Europejski Trybunał Praw Człowieka nie wydał jeszcze wyroku o „algorytmicznym sędzim” wprost, ale jego orzecznictwo tworzy wyraźne ramy dla oceny takich rozwiązań. Kluczowy jest art. 6 EKPC – prawo do rzetelnego procesu przed niezależnym i bezstronnym sądem ustanowionym ustawą.

ETPCz wielokrotnie podkreślał, że:

• osoba musi rozumieć zarzuty i podstawy decyzji, aby móc się skutecznie bronić,
• elementy postępowania oparte na tajnych materiałach lub niejawnych metodach muszą być równoważone dodatkowymi gwarancjami procesowymi,
• sąd nie może być jedynie „stemplem” dla rozstrzygnięć zapadających gdzie indziej (np. w administracji czy służbach).

Algorytm, którego konstrukcji i danych wejściowych nie da się ujawnić stronom (np. z powodu tajemnicy przedsiębiorstwa), funkcjonuje podobnie jak tajny dowód czy niejawny świadek. Trybunał dopuszcza takie elementy tylko wyjątkowo i przy wprowadzeniu mechanizmów równoważących, np. szczególnej roli obrońcy uprawnionego do wglądu w materiał czy wzmocnionego nadzoru sądu.

Jeśli więc system AI decyduje o ryzyku recydywy, a obrona nie ma żadnego dostępu do modelu ani danych treningowych, to z punktu widzenia art. 6 EKPC jest to sytuacja skrajnie ryzykowna. Tym bardziej, gdy sąd ogranicza się do stwierdzenia: „zgodnie z oceną systemu ryzyko jest wysokie”, bez samodzielnej, krytycznej weryfikacji.

ETPCz kładzie też nacisk na realność środka odwoławczego. Apelacja czy skarga kasacyjna nie są skuteczne, jeśli sąd wyższej instancji jest równie „ślepy” wobec algorytmu jak strony. Jeżeli sąd odwoławczy nie ma narzędzi, by zbadać poprawność działania systemu, gwarancje Konwencji stają się fasadowe.

AI Act: granice dla systemów wysokiego ryzyka w sądach

Rozporządzenie o sztucznej inteligencji (AI Act) wprowadza pierwszy kompleksowy reżim dla systemów AI w UE. Dla wymiaru sprawiedliwości kluczowe jest to, że większość systemów ingerujących w proces orzekania będzie kwalifikowana jako systemy wysokiego ryzyka. Oznacza to restrykcyjne wymagania dotyczące:

• jakości i reprezentatywności danych treningowych,
• zarządzania ryzykiem,
• rejestrowania zdarzeń (logów),
• przejrzystości i wyjaśnialności,
• nadzoru człowieka nad systemem.

AI Act wprost wskazuje, że systemy używane do wspierania wymiaru sprawiedliwości muszą umożliwiać zrozumienie generowanych wyników przez użytkowników profesjonalnych (sędziów, prokuratorów). System, który wyrzuca „score 0,82” bez sensownego wytłumaczenia, skąd taka wartość się wzięła i jak ją interpretować, stoi w sprzeczności z tym standardem. Nie wystarczy, że twórca deklaruje, iż „model jest dokładny”; musi także zapewnić narzędzia do zrozumienia i kontroli działania.

AI Act wprowadza też zakaz pewnych zastosowań AI w organach publicznych, np. systemów punktacji społecznej. Jeśli algorytmiczne orzecznictwo zaczyna przypominać „socjalny scoring” (gromadzenie szerokiego spektrum danych o obywatelu i przydzielanie mu ogólnego „poziomu ryzyka” wpływającego na decyzje wielu organów), łatwo przekroczyć tę linię. System, który ocenia nie tyle czyn, ile „profil człowieka” na przyszłość, zbliża się do praktyk, przed którymi AI Act ma chronić.

Mit, że „jak system zostanie wdrożony w sądach, to nie podlega AI Act, bo to władza sądownicza”, nie ma oparcia w przepisach. Rozporządzenie wiąże producentów i użytkowników systemów AI niezależnie od podziału władz w państwie – z pewnymi wyjątkami dotyczącymi bezpieczeństwa narodowego, ale nie rutynowego wymiaru sprawiedliwości.

Jawność uzasadnienia: czy algorytm może być „tajny”?

W polskim i europejskim standardzie procesowym jawność uzasadnienia wyroku jest jednym z filarów zaufania do sądów. Uzasadnienie ma być przejrzyste i wystarczająco szczegółowe, by strona mogła ocenić, czy warto się odwoływać, a społeczeństwo – czy sądy działają racjonalnie i bezstronnie.

Wprowadzenie algorytmów stawia kilka trudnych pytań:

• czy strona ma prawo poznać model i jego parametry, czy tylko końcowy wynik,
• na ile można powoływać się na tajemnicę przedsiębiorstwa dostawcy systemu,
• kto odpowiada za to, że uzasadnienie odzwierciedla faktyczne działanie algorytmu.

Uzasadnienie nie może ograniczać się do stwierdzenia „system rekomendował karę X”. Sąd powinien wyjaśnić, jaką wagę przywiązał do rekomendacji, jakie inne okoliczności ją modyfikowały i czy widział powody, by zakwestionować ocenę modelu. Jeśli algorytm dostarcza także ranking cech wpływających na wynik (np. poprzednie wyroki, wiek, rodzaj czynu), te informacje powinny znaleźć odzwierciedlenie w motywach rozstrzygnięcia.

Jeżeli dostawca systemu zasłania się tajemnicą i nie pozwala na audyt ani wyjaśnienie zasad działania, sąd staje przed wyborem: albo zaakceptować uzasadnienie pozorne (bez realnej kontroli), albo zrezygnować z korzystania z takiego narzędzia w decyzjach wpływających na prawa jednostki. Z punktu widzenia prawa do sądu druga opcja jest zdecydowanie bezpieczniejsza.

Często pojawia się argument, że „przeciętny obywatel i tak nie zrozumie modelu matematycznego, więc nie ma sensu go ujawniać”. Rzeczywistość jest inna: nie chodzi o to, by każdy umiał samodzielnie przeprowadzić obliczenia, lecz by istniała możliwość eksperckiej kontroli – przez biegłych, organizacje społeczne, naukowców – oraz by strona mogła zlecić taką ocenę. Bez tego kontrola społeczna nad wymiarem sprawiedliwości degeneruje się do sprawdzania, czy numer wersji systemu zgadza się z rejestrem wdrożeń.

Prawo do wyjaśnienia w prawie unijnym: mit czy realne uprawnienie?

Od lat trwa dyskusja, czy RODO przyznaje „prawo do wyjaśnienia decyzji algorytmicznej”. Art. 22 wprost go nie nazywa, ale w połączeniu z art. 15 (prawo dostępu do danych) oraz art. 13–14 (obowiązki informacyjne) tworzy realny wymóg przedstawienia sensownych informacji o logice zaangażowanej w przetwarzanie.

W praktyce oznacza to minimum kilku elementów:

• ogólny opis modelu (np. „system wykorzystuje dane o wcześniejszym orzecznictwie, kategoriach czynu, wieku sprawcy i okolicznościach obciążających/łagodzących do zbudowania szacunku ryzyka recydywy”),
• wskazanie kategorii danych używanych w danym przypadku,
• informację, jakie konsekwencje ma dla osoby wynik algorytmu,
• w miarę możliwości – wskazanie głównych czynników, które wpłynęły na konkretny wynik.

To nie jest jeszcze pełne „otwarcie kodu źródłowego”, ale już sporo utrudnia stosowanie modeli całkowicie nieprzejrzystych. Jeżeli dostawca systemu nie jest w stanie wygenerować takiej informacji, trudno uznać, że spełnia standardy RODO i AI Act, a sąd – że opiera się na materiale, który da się poddać kontradyktoryjnej ocenie.

Mit, że „prawo do wyjaśnienia wymaga wyłącznie ogólnego opisu algorytmu w polityce prywatności”, jest mylący. Taki opis jest przydatny, ale nie wystarczy z perspektywy procesu sądowego, w którym liczy się konkretny przypadek. Osoba skazana na podstawie oceny ryzyka ma prawo wiedzieć, dlaczego system uznał właśnie ją za „wysokiego ryzyka”, a nie ograniczać się do lektury abstrakcyjnych opisów w dokumentacji.

Uprzedzenia algorytmiczne: skąd się biorą i jak działają w sądzie

Algorytmy są karmione danymi historycznymi, a te odzwierciedlają dotychczasowe praktyki – w tym ludzkie uprzedzenia. Jeśli system uczy się na bazie poprzednich wyroków i decyzji organów ścigania, przejmuje nie tylko ich zalety, ale i błędy.

Typowe źródła uprzedzeń to m.in.:

• błędnie zebrane dane – nadreprezentacja określonych grup w statystykach (np. częściej kontrolowane dzielnice),
• niepełne dane – brak informacji o czynnikach łagodzących, które sędziowie uwzględniali w ustnych motywach, ale nie wpisali do systemu,
• nieadekwatne zmienne zastępcze – cechy pozornie neutralne, które w praktyce są silnie skorelowane z pochodzeniem, majątkiem czy wykształceniem.

Jeżeli model ma przewidywać „prawdopodobieństwo powrotu do przestępstwa”, a uczony jest na danych z obszarów, gdzie policja intensywnie kontroluje określone grupy, uzyska „dowód” na to, że te grupy są bardziej „ryzykowne”. System nie „dyskryminuje”, bo tak chce, ale dlatego, że został wychowany na krzywym obrazie rzeczywistości.

W sądzie taki uprzedzony algorytm może:

• rekomendować surowsze kary dla określonych grup społecznych,
• obniżać szanse na warunkowe zwolnienie,
• wspierać decyzje administracyjne, np. o odebraniu uprawnień, koncesji czy świadczeń.

Algorytm a zasada równości wobec prawa

Zasada równości wobec prawa, obecna w konstytucjach państw europejskich i orzecznictwie ETPCz, wymaga, by podobne sprawy były traktowane podobnie, a różne – adekwatnie odmiennie. Algorytmiczne systemy kuszą obietnicą „mechanicznej równości”: każdy przypadek przepuszczany jest przez te same reguły, bez ludzkich emocji czy sympatii.

To jednak równość pozorna. System może bowiem utrwalać różnice zakodowane w danych wejściowych. Jeżeli historycznie osoby z określonych dzielnic częściej otrzymywały surowsze kary, model „nauczy się”, że sam fakt pochodzenia z tych dzielnic jest predyktorem surowej reakcji karnej. Na papierze wszyscy przechodzą przez ten sam algorytm, ale wynik systematycznie obciąża jedne grupy kosztem innych.

Mit głosi, że „algorytm dyskryminować nie może, bo nie widzi rasy, pochodzenia czy majątku”. W praktyce rolę tych cech przejmują zmienne zastępcze: kod pocztowy, typ zatrudnienia, rodzaj szkoły, wcześniejsze kontakty z policją. Prawo do równego traktowania nie kończy się na formalnym wykreśleniu słowa „pochodzenie” z formularza; obejmuje też zakaz stosowania wskaźników, które w oczywisty sposób prowadzą do podobnego efektu.

Sąd, który korzysta z systemu statystycznie obciążającego określone grupy, musi liczyć się z zarzutem naruszenia zakazu dyskryminacji – zarówno w wymiarze bezpośrednim (np. w oparciu o orzecznictwo ETPCz), jak i pośrednim, gdy neutralne na pozór kryteria szczególnie dotykają jedną kategorię osób. Brak świadomej intencji nie ratuje sytuacji, jeśli skutek jest systemowo nierówny.

Dyskryminacja pośrednia: jak ją rozpoznać w systemie AI

Dyskryminacja pośrednia polega na tym, że stosuje się jednolite kryterium, które w praktyce uderza mocniej w określoną grupę. W algorytmice dzieje się to często „przy okazji”: nikt nie planuje dyskryminować, ale dobór zmiennych i danych treningowych prowadzi do trwałego zaniżania wyników jednej kategorii osób.

W kontekście sądów przykładowe sygnały ostrzegawcze to m.in.:

• stała, statystycznie istotna różnica w rekomendowanych karach dla grup różniących się tylko cechą chronioną lub jej zastępcą,
• większe prawdopodobieństwo „wysokiego ryzyka” przy podobnych aktach oskarżenia, ale innych profilach socjoekonomicznych,
• model, który w testach wewnętrznych ma gorszą trafność lub wyższy poziom „false positives” dla konkretnych grup.

Analiza takich zjawisk wymaga nie tylko audytu technicznego, ale również prawniczego spojrzenia na kategorie chronione: płeć, wiek, pochodzenie etniczne, niepełnosprawność, wyznanie, orientację seksualną. To, że algorytm formalnie nie widzi tych zmiennych, nie oznacza, że nie można ich odtworzyć z innych danych.

Rzeczywistość jest mniej komfortowa niż popularne zapewnienie „nasz system nie zna rasy ani płci, więc jest neutralny”. W praktyce z połączenia miejsca zamieszkania, historii zatrudnienia i rodzaju szkoły można odtworzyć profil z dużą dokładnością. Jeżeli na takich danych uczy się model decydujący o wymiarze kary lub dostępie do świadczeń, ryzyko dyskryminacji pośredniej jest realne, a nie teoretyczne.

Obowiązek niedyskryminacji jako kryterium legalności algorytmu

Zakaz dyskryminacji nie jest abstrakcyjnym hasłem, lecz konkretnym kryterium oceny legalności narzędzia. Organ korzystający z systemu AI musi mieć możliwość odpowiedzi na proste pytania:

• czy model był testowany pod kątem różnic między grupami,
• jakie mechanizmy korekcyjne zastosowano (np. rebalansowanie danych, ograniczenie niektórych zmiennych),
• kto i jak często weryfikuje, czy po wdrożeniu nie pojawiają się nowe, niezamierzone efekty.

Jeżeli twórca systemu ogranicza się do deklaracji „u nas nie ma dyskryminacji”, a nie potrafi przedstawić rzetelnych analiz, sąd ryzykuje korzystaniem z narzędzia, które z punktu widzenia prawa antydyskryminacyjnego jest nie do obrony. Brak możliwości zbadania modelu oznacza nie tylko problem z jawnością, ale i z samą zgodnością z prawem.

W sporach sądowych o dyskryminację wykorzystanie uprzedzonego algorytmu może stać się osobnym zarzutem. Strona podnosząca naruszenie zasady równości może domagać się dostępu do dokumentacji systemu, danych walidacyjnych i metryk błędów, argumentując, że bez tych informacji nie jest w stanie wykazać, iż została potraktowana gorzej ze względu na daną cechę. Odmowa ujawnienia takich informacji pod pozorem tajemnicy przedsiębiorstwa zderza się tu nie tylko z prawem do obrony, ale też z obowiązkiem aktywnej ochrony przed dyskryminacją.

Kontradyktoryjność a dowody algorytmiczne

Model użyty w procesie – choćby miał status „narzędzia pomocniczego” – generuje w praktyce dowód: liczbową ocenę ryzyka, ranking scenariuszy, rekomendację kary. Zasada kontradyktoryjności wymaga, by strona mogła ten dowód zakwestionować, przedstawić przeciwdowody, a nawet własne ekspertyzy.

Jeżeli system jest „czarną skrzynką”, kontradyktoryjność staje się fikcją. Obrońca może wtedy jedynie spekulować, co się stało wewnątrz modelu, bez realnej możliwości polemiki. Z punktu widzenia standardów rzetelnego procesu oznacza to nierównowagę sił: państwo dysponuje dowodem technicznym, który jest odporny na krytykę, bo nikt poza dostawcą nie zna jego działania.

Mit, że „algorytm to tylko pomoc dla sędziego, więc nie trzeba go traktować jak dowodu”, jest mylący. Jeśli system w widoczny sposób wpływa na decyzję (np. wyświetla rekomendację kary z przedziałem, który potem znajduje niemal automatyczne odzwierciedlenie w wyroku), jego rola nie jest neutralna. Strona ma prawo pytać, dlaczego w jej sprawie narzędzie wskazało akurat taki rezultat, i czy nie istnieją powody, by uznać go za wadliwy.

Konsekwencją tego podejścia powinno być co najmniej:

• możliwość powołania biegłego z zakresu systemów AI, który oceni działanie modelu w konkretnej sprawie,
• dostęp do logów i parametrów decyzyjnych dla danego przypadku,
• jawność stosowanych wersji modelu i zmian wprowadzanych w czasie (versioning).

Bez tych elementów strona pozbawiona jest realnego narzędzia do podważenia wyniku algorytmu. A decyzja, która w praktyce opiera się na niepodważalnym „głosie systemu”, trudno nazwać spełniającą standardy prawa do obrony.

Odpowiedzialność za błąd algorytmu: kto odpowiada przed obywatelem

Przy klasycznym wyroku wiadomo, kto ponosi odpowiedzialność: sędzia, a w szerszym ujęciu – państwo. Pojawienie się algorytmu wprowadza pokusę „rozmycia” odpowiedzialności między dostawcę, administratora systemu i organ orzekający. Każdy wskazuje na kogoś innego: sędzia na „narzędzie”, producent na „błędne użycie”, administracja sądów na „parametry dostarczone przez twórcę”.

Z perspektywy jednostki taka gra w „gorącego ziemniaka” jest nieakceptowalna. Obywatel nie ma relacji umownej z dostawcą systemu ani wpływu na jego wybór. Jego partnerem jest państwo i to ono odpowiada za to, jakie narzędzia stosuje oraz czy nadają się one do ochrony praw człowieka, czy raczej do ich ograniczania.

Rzeczywistość koryguje popularne przekonanie: „jeśli algorytm się pomyli, producent poniesie konsekwencje z tytułu odpowiedzialności cywilnej”. Owszem, w relacji B2B mogą istnieć takie roszczenia, ale dla skazanego kluczowe jest, czy ma skuteczny środek prawny wobec organu, który stosował wadliwe narzędzie. To przed sądem, a nie przed firmą technologiczną, dochodzi on swoich praw.

Dopiero w drugim kroku państwo może dochodzić regresu od dostawcy, jeśli model był wadliwy w sensie prawnym (np. naruszał wymogi AI Act lub wprowadzał w błąd co do swoich możliwości). Nie zmienia to faktu, że odpowiedzialność wobec obywatela nie może być przerzucona na prywatnego partnera technologicznego.

Transparentność a tajemnica przedsiębiorstwa: jak wyważyć interesy

Dostawcy systemów AI dla sądów często zasłaniają się tajemnicą przedsiębiorstwa, gdy pojawia się żądanie ujawnienia modelu, danych treningowych czy pełnej dokumentacji. Argument brzmi: jeśli konkurenci poznają szczegóły rozwiązania, innowacja straci przewagę rynkową. Z drugiej strony obywatel i sąd domagają się informacji potrzebnych do zweryfikowania legalności i rzetelności działania narzędzia.

Prawo nie daje prostego upoważnienia do całkowitego utajnienia algorytmu. Tajemnica przedsiębiorstwa nie jest tarczą absolutną – ustępuje tam, gdzie w grę wchodzą prawa podstawowe i obowiązek zapewnienia rzetelnego procesu. Możliwe są rozwiązania pośrednie, np. ujawnienie pełnej dokumentacji wyłącznie niezależnym biegłym powołanym przez sąd, przy zachowaniu określonych środków ochrony poufności.

Mit, że „ujawnienie modeli w sądach zabije innowacje”, jest mocno przesadzony. W wielu branżach (farmacja, motoryzacja, energetyka) producenci od lat ujawniają szczegółowe dane regulatorom i organom kontrolnym, zachowując mimo to przewagi konkurencyjne. Kluczowe jest rozróżnienie między pełną publikacją kodu w Internecie a kontrolowanym dostępem dla instytucji publicznych i biegłych.

W systemie sprawiedliwości granice dopuszczalnej poufności powinien wyznaczać test: czy stopień utajnienia nie uniemożliwia stronie skutecznej obrony i zakwestionowania decyzji. Jeśli odpowiedź jest negatywna, interes gospodarczy dostawcy musi ustąpić. Inaczej ryzykujemy sytuację, w której prawa podstawowe obywateli są podporządkowane modelowi biznesowemu konkretnej firmy.

Standard „human in the loop”: kontrola człowieka czy iluzja nadzoru?

AI Act i liczne wytyczne etyczne mówią o konieczności „nadzoru człowieka” nad systemami AI. W praktyce sprowadza się to często do interfejsu, w którym sędzia lub urzędnik może kliknąć „zatwierdź” albo „zmień rekomendację”. Pytanie brzmi, czy to rzeczywisty, czy jedynie formalny nadzór.

Jeżeli system jest przedstawiany jako „obiektywnie trafniejszy niż człowiek” i w praktyce 99% rekomendacji jest przyjmowanych bez zmian, trudno mówić o autonomii decyzyjnej sędziego. Zwłaszcza jeśli każda istotniejsza modyfikacja wymaga dodatkowego uzasadnienia, raportu czy ryzykuje audytem wewnętrznym („dlaczego odchyliła się pani od rekomendacji?”). Taki układ subtelnie, ale skutecznie skłania do podporządkowania się wynikowi algorytmu.

Rzeczywistość nie potwierdza uspokajającego sloganu „człowiek zawsze ma ostatnie słowo, więc nie ma się czego bać”. Ostatnie słowo jest istotne tylko wtedy, gdy jest realne: gdy osoba podejmująca decyzję rozumie działanie systemu, ma czas i kompetencje, by z nim polemizować, oraz nie jest sankcjonowana za odstępstwa od rekomendacji.

Aby standard „human in the loop” nie był pustą formułą, potrzebne są co najmniej trzy elementy:

• szkolenia dla sędziów i prokuratorów z rozumienia ograniczeń modeli statystycznych,
• organizacyjne zabezpieczenia, które nie penalizują decyzji odmiennych od wyniku algorytmu,
• możliwość wyłączenia narzędzia w konkretnej sprawie, gdy wydaje się ono nieadekwatne (np. ze względu na nietypowy stan faktyczny).

Bez tego człowiek staje się strażnikiem pieczątki, a nie źródłem autonomicznej oceny. Z punktu widzenia konstytucyjnej zasady niezawisłości sędziowskiej to poważny problem.

Kalibracja prawa do innowacji i prawa do sądu

Wdrażanie algorytmów do sądów często usprawiedliwia się potrzebą „modernizacji wymiaru sprawiedliwości” i „odciążenia sędziów”. Nikt rozsądny nie kwestionuje, że technologia może pomóc: w zarządzaniu aktami, wyszukiwaniu orzeczeń, organizacji rozpraw. Konflikt pojawia się tam, gdzie innowacja wkracza w sferę samego orzekania o prawach jednostki.

Zderzają się tu dwa porządki: prawo do efektywnej, nowoczesnej administracji publicznej oraz prawo do sądu, rzetelnego procesu i równości. Jeżeli nowe narzędzie poprawia sprawność, ale obniża poziom gwarancji procesowych, nie jest to „modernizacja” w sensie konstytucyjnym, lecz ich osłabienie. Prawo do innowacji nie ma rangi prawa podstawowego w takim znaczeniu jak prawo do sądu.

W praktyce prowadzi to do kilku prostych wniosków dotyczących projektowania systemów AI dla wymiaru sprawiedliwości: lepiej, by na początku wspierały one czynności techniczne (porządkowanie materiału dowodowego, wyszukiwanie przepisów), niż od razu ingerowały w wymiar kary czy ocenę dowodów. Z czasem, gdy pojawią się solidne standardy kontroli i orzecznictwo doprecyzowujące granice dopuszczalności, zakres ich użycia może się rozszerzać, ale nie w odwrotną stronę.

Najczęściej zadawane pytania (FAQ)

Czy algorytmiczne wyroki sądowe są w ogóle zgodne z polskim prawem?

Algorytm może wspierać sędziego, ale nie może go zastąpić. Z punktu widzenia Konstytucji decyzję w sprawie karnej czy cywilnej musi podjąć niezawisły, bezstronny sąd. Jeżeli system tylko podpowiada, a sędzia ma realną swobodę, by te wskazówki przyjąć albo odrzucić, takie rozwiązanie mieści się w granicach prawa.

Problem zaczyna się wtedy, gdy algorytm faktycznie determinuje wynik, a rola sędziego ogranicza się do „przyklepania” tego, co wyliczył system. Wówczas można mówić o naruszeniu prawa do sądu (art. 45 Konstytucji), zasady demokratycznego państwa prawnego (art. 2) oraz niezawisłości sędziowskiej. Innymi słowy: narzędzia analityczne – tak, „algorytmiczny sędzia” – nie.

Jaka jest różnica między decyzją wspieraną algorytmem a decyzją podejmowaną przez algorytm?

W decyzji wspieranej algorytmem system pełni rolę pomocnika: wyszukuje podobne orzeczenia, liczy odsetki, porządkuje materiał. Sędzia korzysta z tych danych albo nie, bez formalnych konsekwencji, i samodzielnie rozstrzyga sprawę. To zbliżone do korzystania z kalkulatora czy biegłego – narzędzie nie wiąże sądu.

W decyzji podejmowanej przez algorytm wynik systemu przesądza o rozstrzygnięciu (wysokość kary, długość zakazu, przyznanie świadczenia), a człowiek co najwyżej formalnie to akceptuje. Mit brzmi: „skoro sędzia kliknął: zatwierdź, to on zdecydował”. W rzeczywistości, jeśli odejście od wyniku algorytmu jest skrajnie utrudnione lub ryzykowne dla sędziego, to system staje się faktycznym decydentem.

Czy sąd może oprzeć wyrok na algorytmie, którego działania strony nie znają?

Wyrok oparty na „czarnej skrzynce”, której nie da się sensownie wyjaśnić stronom, wchodzi w kolizję z kilkoma prawami konstytucyjnymi. Strony mają prawo wiedzieć, jakie argumenty i kryteria zaważyły na rozstrzygnięciu, oraz mają prawo do skutecznego odwołania. Jeśli kluczowy był wynik modelu, ale nie wiadomo, jak został wyliczony, te prawa stają się iluzoryczne.

Rzeczywistość podcina tu popularny mit: „wystarczy, że sędzia uzasadni, że skorzystał z systemu, i sprawa załatwiona”. Samo powołanie się na „wynik algorytmu 0,78” nie spełnia standardu uzasadnienia wyroku. Sąd powinien być w stanie przełożyć działanie narzędzia na zrozumiałe argumenty i skonfrontować je z konkretnymi dowodami.

Czy automatyczne mandaty z fotoradaru to już algorytmiczne wyroki sądowe?

Mandaty z fotoradarów to przykład częściowej automatyzacji, ale na ogół nie są to „wyroki sądowe”. System techniczny wykrywa przekroczenie prędkości i wylicza kwotę zgodnie z taryfikatorem, lecz formalne nałożenie grzywny następuje w postępowaniu mandatowym lub sądowym. Adresat ma prawo odmówić przyjęcia mandatu i domagać się rozpoznania sprawy przez sąd.

Od strony prawnej kluczowe jest to, czy człowiek ma realną kontrolę nad decyzją i możliwość jej podważenia. Jeżeli organ publiczny bezrefleksyjnie przenosi do systemu rolę „orzekającego”, a obywatel nie ma praktycznie szans zakwestionować błędu algorytmu, zbliżamy się do niedopuszczalnej automatyzacji wymierzania kar.

Jakie prawa obywatela mogą być naruszone przez algorytmiczne orzekanie?

Najczęściej wskazuje się na trzy obszary: prawo do rzetelnego procesu (art. 45 Konstytucji), prawo do sądu oraz zasadę zaufania do państwa i prawa (art. 2). Naruszenia pojawiają się m.in. wtedy, gdy strona nie wie, że algorytm w ogóle został użyty, nie zna jego kryteriów albo nie ma jak skutecznie podważyć wyniku w odwołaniu.

Dochodzi do tego ryzyko dyskryminacji, gdy model opiera się na danych, które odwzorowują uprzedzenia z przeszłości. Mit: „maszyna jest obiektywna, więc jest bardziej sprawiedliwa niż człowiek”. W praktyce algorytm może powielać te same schematy, tylko szybciej i na większą skalę – jeśli nikt ich nie zauważy i nie skoryguje, skutki są trudniejsze do odwrócenia.

Czy sędzia może być „zmuszony” do stosowania rekomendacji algorytmu?

Formalnie nikt nie powinien zmuszać sędziego do wydawania wyroków zgodnie z „sugestią systemu”, bo byłoby to sprzeczne z zasadą niezawisłości. Jednak nacisk może mieć charakter pośredni: domyślnie ustawione rekomendacje, wymóg dodatkowych uzasadnień przy odejściu od wyniku, czy sygnały „z góry”, że system ma być stosowany „konsekwentnie”.

Z perspektywy prawa liczy się nie tylko to, co zapisano w instrukcji użytkowania, ale realny wpływ systemu na orzekanie. Jeśli rekomendacja staje się w praktyce wiążąca, mamy do czynienia z faktycznym przeniesieniem części władzy sądowniczej na podmiot, który tworzy i utrzymuje algorytm. To już coś więcej niż neutralne wsparcie techniczne.

Kto ponosi odpowiedzialność za błąd algorytmu użytego w sądzie?

Tradycyjne uproszczenie głosi: „odpowiada zawsze sędzia”. Przy systemach algorytmicznych to podejście pęka. Jeżeli narzędzie ma determinujący wpływ na wynik, odpowiedzialność rozkłada się na kilka podmiotów: sąd, który je stosuje, organ publiczny, który je wdrożył, oraz twórców i dostawców systemu. Prawo UE (RODO, AI Act) wprost zakłada, że nie da się „schować” algorytmu za plecami sędziego.

W praktyce oznacza to konieczność jasno określonych ról: kto jest administratorem danych, kto dostawcą wysokiego ryzyka systemu AI, jakie testy i audyty przeprowadzono przed wdrożeniem. Im większa automatyzacja i wpływ systemu na wyrok, tym trudniej obronić tezę, że cała odpowiedzialność spoczywa wyłącznie na pojedynczym sędzim.

Co warto zapamiętać

• Kluczowa jest różnica między wsparciem a automatyzacją: narzędzia analityczne (wyszukiwarki orzeczeń, kalkulatory, anonimizacja) tylko pomagają sędziemu, natomiast systemy rekomendacyjne i w pełni automatyczne realnie kształtują wysokość kary czy dobór środka – i to one wchodzą w kolizję z prawem.
• Mit „albo algorytm, albo człowiek” jest fałszywy – w praktyce sędzia może formalnie decydować, ale faktycznie być zdominowany przez domyślne rekomendacje, dodatkowe wymogi przy ich zmianie czy presję instytucjonalną, co prowadzi do iluzorycznej niezawisłości.
• Im bardziej algorytm determinuje wynik (np. domyślna wysokość kary, automatyczny mandat z fotoradaru), tym mniej jest on „neutralnym narzędziem”, a bardziej elementem samej struktury decyzyjnej, który współtworzy wyrok wraz z twórcą i operatorem systemu.
• Prawo konstytucyjne wymaga realnej – a nie tylko deklarowanej – swobody sędziowskiej: sędzia musi móc samodzielnie oceniać dowody, wybierać normy i wymiar kary; obowiązkowe, sztywno wdrożone algorytmy podważają niezawisłość i mogą oznaczać niekonstytucyjne przekazanie części władzy sądowniczej podmiotowi technologicznemu.
• Mit, że „algorytm to tylko narzędzie, więc cała odpowiedzialność spoczywa na sędzim”, nie wytrzymuje zderzenia z RODO i AI Act – jeśli system w praktyce przesądza o rozstrzygnięciu, odpowiedzialność i obowiązki spadają również na projektantów, dostawców i organy zgadzające się na jego użycie.