AI bez zasłony dymnej

Jednym z podstawowych założeń państwa prawa jest możliwość kontroli decyzji. Dotyczy to decyzji organów publicznych, ale także działań przedsiębiorców i osób wykonujących zawody zaufania publicznego. Kontrola staje się jednak pozorna, jeżeli nie da się ustalić, na jakiej podstawie zapadło określone rozstrzygnięcie, rekomendacja albo ocena.

W tym sensie transparentność nie jest wyłącznie postulatem dobrej organizacji. Jest warunkiem odpowiedzialności. Nie zawsze musi oznaczać pełny wgląd w każdy element procesu decyzyjnego, ale powinna pozwalać na zadanie podstawowych pytań: kto podjął decyzję, na jakich danych się oparł, jakie były ograniczenia narzędzia i kto ponosi odpowiedzialność za jego użycie. Wykorzystanie systemów sztucznej inteligencji komplikuje ten model. Współczesne systemy AI, a zwłaszcza bardziej złożone modele, w tym modele ogólnego przeznaczenia, mogą generować wynik, rekomendację albo analizę bez oczywistej dla użytkownika drogi dojścia do odpowiedzi. Użytkownik widzi rezultat, ale nie zawsze rozumie, dlaczego system odpowiedział właśnie tak. To zjawisko od dawna opisuje się jako problem czarnej skrzynki. Jeszcze kilka lat temu wydawało się głównie problemem technologicznym. Dziś jest już problemem prawnym i organizacyjnym.

AI Act nie próbuje jednak rozwiązać go przez prostą obietnicę: otworzymy algorytmy i wszystko stanie się jasne. Z art. 1 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 wynika, że celem regulacji jest zapewnienie wysokiego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych, przy jednoczesnym wspieraniu innowacji. Transparentność nie została więc potraktowana jako ozdobna wartość dopisana do technologii. Ma służyć temu, aby sztuczna inteligencja była wykorzystywana w sposób możliwy do oceny, nadzorowania i rozliczenia.

W debacie publicznej transparentność bywa sprowadzana do żądania ujawnienia kodu źródłowego albo pełnej architektury modelu. AI Act nie idzie tą drogą. Nie nakłada generalnego obowiązku „otwarcia” algorytmów. Wymaga natomiast, aby uczestnicy rynku dysponowali informacjami pozwalającymi ocenić przeznaczenie systemu, jego ograniczenia oraz ryzyka związane z użyciem. Transparentność ma tu charakter funkcjonalny. Nie chodzi o ujawnienie technologii jako takiej, lecz o stworzenie warunków do odpowiedzialnego korzystania z niej.

Istotna jest także zmiana perspektywy. AI Act nie koncentruje obowiązków wyłącznie po stronie dostawcy systemu. Rozporządzenie rozkłada je pomiędzy różnych uczestników rynku, w tym również podmioty stosujące systemy AI. Obowiązek zapewnienia odpowiedniego poziomu kompetencji osób korzystających z AI, obowiązki podmiotów stosujących systemy wysokiego ryzyka czy regulacje dotyczące transparentności prowadzą do prostego wniosku: odpowiedzialne wykorzystanie sztucznej inteligencji wymaga świadomego użytkownika.

To przesuwa również rozumienie należytej staranności. Nie wystarczy już wybrać znanego dostawcy technologii i uznać, że reszta jest jego problemem. Organizacja korzystająca z AI powinna znać ograniczenia systemu, ocenić ryzyko jego zastosowania, zweryfikować warunki przetwarzania danych i wdrożyć mechanizmy nadzoru człowieka. Transparentność przestaje być cechą samego narzędzia. Staje się częścią zarządzania ryzykiem.

Największym wyzwaniem nie musi być więc wyjaśnienie każdej pojedynczej odpowiedzi wygenerowanej przez model. Z perspektywy prawa ważniejsze bywa pytanie, czy organizacja potrafi wykazać, że korzysta z tej technologii świadomie, zgodnie z prawem i z zachowaniem standardu należytej staranności. AI Act nie usuwa całkowicie problemu czarnej skrzynki. Raczej zmusza uczestników rynku do zbudowania takich mechanizmów prawnych i organizacyjnych, które pozwolą podejmować odpowiedzialne decyzje mimo ograniczonej wiedzy o sposobie działania modelu.

Na tym polega zasadnicza zmiana. Przedmiotem regulacji nie jest już tylko technologia, ale sposób, w jaki człowiek i organizacja decydują się z niej korzystać. A odpowiedzialności za to korzystanie nie da się skutecznie oddzielić od transparentności.

Milena Perka

PhD, EMBA

kontakt z autorką

can