Sztuczna Inteligencja wesprze władze lokalne w zarządzaniu miastem

Prawie każde Państwo świata stara się zbudować własną strategię rozwoju sztucznej inteligencji (dalej AI). Widać to zwłaszcza w Europie, która - pamiętając ile straciła biznesowo i politycznie na zbyt spóźnionej reakcji na rozwój: Internetu w tym social mediów oraz rozwoju chmury obliczeniowej - stara się nie dopuścić do tej samej sytuacji w odniesieniu do AI. Dlatego też podejmuje działania w postaci dużych programów dofinansowania badań i projektów oraz jednocześnie stara się narzucić swoja narrację prawną i polityczną w tym zakresie.  

Prawne i etyczne wątki dyskusji o AI

Podstawowym zadaniem Państw jest uregulowanie zasad korzystania ze Sztucznej Inteligencji zarówno w stosunkach gospodarczych, jak i publicznoprawnych. Rozważane są różne rozwiązania. Najbardziej skrajne zakładają wyposażenie AI w osobowość prawną. Inne sprowadzają się do wprowadzenia mechanizmów odpowiedzialności na zasadzie ryzyka przez podmiotów świadczących usługi przy wykorzystaniu AI działającej półautonomicznie lub w pełni autonomicznie.  

Niemniej ważnym wyzwaniem dla ustawodawcy jest uregulowanie zasad wykorzystania AI przez administrację, zwłaszcza w kontaktach z obywatelem (klientem). Tutaj szczególnie ważne jest zagwarantowanie obywatelom (klientom) prawa zapoznania się z mechanizmem i przyczyną podjęcia przez AI określonej decyzji. W tym przypadku mechanizmy AI także mogą działań autonomicznie lub półautonomicznie ale ich wpływ na ostateczne rozstrzygnięcia jest istotny. Coraz więcej ośrodków naukowych zajmuje się tą tematyką, także w Polsce.

Obszarami, w którym możliwość wykorzystania AI nie nastręcza większych wątpliwości prawnych i etycznych jest obszar działań wewnętrznych administracji. Przede wszystkim należy wskazać na możliwość wykorzystania tych mechanizmów do wsparcia procesów operacyjnych i organizacyjnych oraz prowadzenia działań charakterze strategicznym i analitycznym.

W pierwszym przypadku polskie miasta korzystają już z technologii wspomaganych mechanizmami AI, w szczególności dotyczy to prac nad rozwojem chatbootów oraz np. monitoringu miejskiego - oczywiście z zachowaniem wymagań ochrony danych osobowych. 

Drugi obszar też jest bardzo perspektywiczny, w szczególności  w połączeniu z przetwarzaniem danych w oparciu o technologie Big Data. Z tego względu cieszy się on zainteresowaniem również miast na całym świecie a także w Polsce.

Najwięcej wątpliwości budzi możliwość wykorzystywania narzędzi AI w działaniach władczych. W szczególności chodzi o sektor pomocy społecznej, edukacji, i szeroko pojętej administracji świadczącej. Doświadczania różnych Państw pokazują, że możliwości wykorzystania AI są szerokie, jednak na organach administracji publicznej stosujących tą technologie ciąży ogromna odpowiedzialność i konieczność monitorowania rezultatów. O pełnym zastąpieniu organów administracji przez Sztuczną Inteligencję , możemy – jak na razie – zapomnieć. Przykłady pokazują, że wyeliminowanie udziału człowieka w takich sprawach i powierzenie ich rozpatrywania „maszynom”, w krótkim czasie może prowadzić do nieprawidłowości i dyskryminacji określonych osób lub całych grup społecznych. Użycie jej może też prowadzić do naruszenia praw obywateli tj. prawo do prywatności, ochrony danych osobowych i informacji. Przykładem z zakresu administracji jest ostatnie orzeczenie sądu okręgowego w Holandii.

Z drugiej strony AI stanowi ważny element zwiększenia wydolności administracji publicznej oraz zapewnienia odpowiedniego poziomu usług publicznych. Należy mieć świadomość tych ryzyk oraz uczyć się na doświadczeniach innych administracji.   

Wspólne prawo dla całej Unii Europejskiej

Dotychczasowe doświadczania ze stosowania AI (te złe i te dobre) doprowadziły do powstania  projekturozporządzenia AI Act. Ma ono wytyczyć drogi rozwoju sztucznej inteligencji w całej Europie. Tak w sferze biznesu jak i administracji publicznej. Będzie regulowało stosowanie tej technologii wspólnie z Ogólnym Rozporządzenie o Ochronie Danych Osobowych (RODO).

Oczywiście rozporządzenie jest obecnie we wstępnej fazie prac i może ulegać zmianie. Wydaje się, że będzie to dotyczyło m.in. definicji sztucznej inteligencji, gdyż ta zaproponowana w pierwszej wersji projektu spotka się z dość powszechną krytyką.

Należy jednak przypuszczać, że na dalszych etapach nie zostanie zmieniony generalny podział narzędzi AI dzielący mechanizmy sztucznej inteligencji:

1. o niskim poziomie ryzyka
2. o podwyższonym poziomie ryzyka
3. których wykorzystanie będzie zabronione wprost w projektowanym akcie.

Warto wskazać mechanizmy, które w ocenie projektodawców powinny zostać uznane za  mechanizmy podwyższonego ryzyka. Należy do nich zaliczyć systemy sztucznej inteligencji:

• służące do zarządzania infrastrukturą krytyczną i jej eksploatacją;
• przeznaczone do stosowania jako związane z bezpieczeństwem elementy procesów zarządzania i obsługi ruchu drogowego oraz zaopatrzenia w wodę, gaz, ciepło i energię elektryczną;
• przeznaczone do wykorzystania w celu wysyłania lub ustalania priorytetów w wysyłaniu służb ratunkowych w sytuacjach kryzysowych, w tym straży pożarnej i pomocy medycznej;
• przeznaczone do stosowania w celu podejmowania decyzji o dostępie do instytucji edukacyjnych i instytucji szkolenia zawodowego lub nadawania osobom przydziału do tych instytucji;
• przeznaczone do stosowania w celu oceny uczniów w instytucjach edukacyjnych i instytucji
• szkolenia zawodowego oraz do oceny uczestników egzaminów powszechnie wymaganych w celu przyjęcia do instytucji edukacyjnych

Jak widać powyższy katalog jest dość szeroki i część to obszary, w których mogą być albo już są wykorzystywane mechanizmy AI. Zastosowanie tego rodzaju mechanizmów nie będzie zabronione ale będzie wymagało podjęcia dodatkowych analiz wpływu na zdrowie ale i prawa podstawowe obywateli.

Stanowisko Komitetu Regionów

Projekt AI Act został przekazany do rozpatrzenia przez Europejski Komitet Regionów.

Została już przygotowała wstępna opinia przez sprawozdawcę w Komisję Polityki Społecznej, Edukacji, Zatrudnienia, Badań Naukowych i Kultury (SEDEC) w dniu 23 czerwca 2021 r. przyjęła wstępne stanowisko wobec proponowanej wersji Rozporządzenia, zwana dalej „SEDEC KR”.

Czytamy w niej m.in. że od samego początku wprowadza się zakaz stosowania szeregu systemów AI, takich jak systemy identyfikacji biometrycznej wykorzystywane w przestrzeni publicznej w czasie rzeczywistym do celów egzekwowania prawa. Korzystanie z tych systemów zasadniczo dotyczy szerszej kwestii politycznej, czyli tego, w jakim stopniu skłonni jesteśmy zaakceptować zdigitalizowaną przestrzeń publiczną. Władze lokalne i regionalne odgrywają ważną rolę w debacie na temat wykorzystania przestrzeni publicznej. Chociaż istnieją wyjątki od zakazu, uprzedni zakaz korzystania z niektórych systemów w przestrzeni publicznej ogranicza lokalną i regionalną autonomię polityczną. SEDEC KR uważa, że najważniejszym kryterium określającym AI obarczoną wysokim poziomem ryzyka jest stopień, w jakim człowiek może wpływać na proces decyzyjny, oraz wpływ podejmowania decyzji na prawa i rzeczywiste działanie obywatelek i obywateli.

Tymczasem w projekcie rozporządzenia przyjmuje się podejście sektorowe do systemów AI bardzo wysokiego ryzyka. Na przykład za obarczone wysokim stopniem ryzyka uważa się systemy AI, które mają być wykorzystywane przez organy publiczne do oszacowania, czy mieszkańcy kwalifikują się do korzystania ze świadczeń publicznych i usług użyteczności publicznej. Nie jest jednak oczywiste, że takie zastosowania AI stwarzają a priori wysokie ryzyko.  SEDEC KR ma wątpliwości  czy ocena tych systemów jako obarczone „wysokim ryzykiem” jest zasadna.

Na ostateczny kształt opinii Komitetu Regionów zostanie przedstawiony prawdopodobnie po wakacjach.

Europejska Rada Ochrony Danych

Po drugiej stronie dyskursu znajdują się organy ochrony danych. Europejska Rada Ochrony Danych i Europejski Rzecznik Ochrony Danych (którego właściwość ogranicza wyłącznie się do obszaru monitorowania stosowania przepisów o ochronie danych w instytucjach UE) przedstawili w tej sprawie wspólne stanowisko.

Wskazano w nim, że zdalna biometryczna identyfikacja osób w miejscach publicznie dostępnych stwarza wysokie ryzyko wtargnięcia do życia prywatnego osób, co ma poważny wpływ na oczekiwania ludności dotyczące anonimowości w przestrzeni publicznej. Z tych powodów EDPB i EDOD wzywają do ogólnego zakazu wykorzystywania AI do automatycznego rozpoznawania cech ludzkich w miejscach dostępnychpublicznie - takich m.in. jak twarze, naciśnięcia klawiszy i inne sygnały biometryczne lub behawioralne - w dowolnym kontekście. Zakaz jest również zalecany w odniesieniu do systemów AI kategoryzujących osoby z danych biometrycznych na klastry ze względu na pochodzenie etniczne, płeć, a także orientację polityczną lub seksualną lub inne przyczyny dyskryminacji na mocy art. Ponadto EDPB i EDOD uważają, że stosowanie AI do wnioskowania osoby fizycznej jest wysoce niepożądane i powinno być zakazane. 

Podobne stanowiska jak EROD przedstawia m.in. część polskich organizacji pozarządowych np. Fundacja ePaństwo.

Podsumowanie

Stosowanie AI w sektorze publicznym to potrzeba, wyzwanie oraz wielka odpowiedzialność. Stosowanie AI wymusza też konieczność pogodzenia wielu wartości. Dlatego przy wdrażaniu mechanizmów AI należy zachować szczególną ostrożność.

Próbę wspólnego dla całej Unii Europejskiej uregulowania zasad korzystania z AI należy ocenić pozytywnie. Jednocześnie samorządy lokalne, jako potencjalni beneficjenci nowych możliwości wykorzystania AI w swojej działalności i jednocześnie jako podmioty, w stosunku do których projektowane regulacje będą miały duże znaczenie, powinny aktywnie zaangażować się w prace nad nowymi regulacjami.

Unia Metropolii Polskich  uczestniczy i na pewno będzie uczestniczyła w tych pracach na różnych szczeblach i forach.