System Zaufania Społecznego – chiński patent na moralność

Jeśli wizje dystopijnej przyszłości znane z Orwella, Zajdla czy popularnego serialu Black Mirror wydawały Ci się tylko dającymi do myślenia produktami wyobraźni prozaików i scenarzystów, to wiedz, że w Państwie Środka niektóre z nich wprowadzane są już w życie. Rząd Chińskiej Republiki Ludowej pracuje bowiem nad stworzeniem masowego systemu oceny reputacji ludzi i przedsiębiorstw, zwanego Systemem Zaufania Społecznego (ang. Social Credit System, cn. 社会信用体系), który na podstawie szeregu kryteriów przydzieli Ci ocenę, uplasuje w masowym rankingu i w zależności od jego wysokości przyzna zniżkę na ogrzewanie mieszkania lub odbierze możliwość poruszania się kolejami dużych prędkości przy okazji umieszczając Twoje dane na publicznej liście wstydu.

Ten orwellowski w swej istocie projekt docelowo może zbierać dane z niemal wszystkich sfer codziennego życia przeciętnego obywatela Chin. Poddane analizie mogą zostać m.in. dane finansowe, rejestr karny, informacje rządowe, aktywność w Internecie (forach, blogach, social mediach) oraz Internecie rzeczy i właściwie każde zachowanie wyłapane przez miejski monitoring (CCTV). Oceny wydawane w ramach Systemu wpłyną nie tylko na obywateli Chin i chińskie przedsiębiorstwa, ale również najprawdopodobniej na obcokrajowców pracujących lub żyjących w Państwie Środka i obce firmy działające na jego terytorium[1].

Indywidualne wersje systemów są aktualnie w fazie testów pilotażowych z ramienia rządów regionalnych, miejskich i prywatnych firm z sektorów IT, bankowości, ubezpieczenia. Jednym z kluczowych przykładów jest Sesame Credit, dobrowolny program oceny zdolności kredytowej testowany przez odnogę Alibaba Group, Ant Financial Services Group[2]. Z kolei w Szanghaju od listopada 2016 testowana jest aplikacja mobilna „Honest Shanghai” (pol. Szczery Szanghaj), która dzięki mechanizmowi rozpoznawania twarzy w ciągu doby zwraca ocenę reputacji (bardzo dobry, dobry, zły) opartą na danych rządowych[3]. Ponieważ aktualnie uczestnictwo w projekcie jest dobrowolne, to aplikacja póki co ogranicza się do nagradzania za dobre sprawowanie.

Innym projektem na większą skalę jest miasto Rongcheng w prowincji Szantung, w którym każdy z ponad 600 000 mieszkańców otrzymał na start 1 000 punktów z możliwością ich utraty m.in. za przebieganie na czerwonym świetle czy jazdę pod wpływem alkoholu. Każda osoba, w zależności od swojego wyniku, otrzymuje stopień między AAA i D. W zależności od posiadanego stopnia, mieszkańcy otrzymują od miasta benefity (np. darmowy dostęp do rowerów miejskich, zniżki na ogrzewanie) lub są obciążani dodatkowymi wymaganiami formalnymi[4], gdy np. chcą zakupić dom w mieście.

Mniej „sielankowe” eksperymenty pokazujące potencjalny kierunek innowacji dotyczą m.in. publicznego karania osób znajdujących się na czarnej liście. W ramach jednego z nich lokalne sądy współpracują z firmami telekomunikacyjnymi nad zmianą sygnału wybierania numeru osób zwlekających z uregulowaniem kar sądowych. Nowy sygnał miałby prosić dzwoniącego o podjęcie próby przekonania ukaranego do spłaty zobowiązania[5].

Nie ma miłości dla przestępców

Na aktualnym etapie rozwoju, podstawą Systemu Zaufania Społecznego są czarne listy osób i przedsiębiorstw nie stosujących się do „reguł gry” oraz „czerwone listy” osób o wybitnych osiągnięciach. Jednostki trafiają na czarne listy głównie za niestosowanie się do wyroków sądowych, natomiast przedsiębiorstwa – za łamanie istniejących praw i regulacji. Tym niemniej, lista wykroczeń, za które można trafić do grona ukaranych (ale i nagradzanych) niewątpliwie będzie rosnąć wraz z rozwojem systemu.

Trafienie na czarną listę może odbić się na reputacji ukaranego uniemożliwiając w praktyczny sposób prowadzenie zarówno biznesu jak i normalnego życia. Na przykład przedstawiciele firm, którzy wylądują na czarnej liście, mogą nie tylko stracić możliwość zasiadania w zarządzie innej firmy przez wiele lat lub stracić prawo do wysyłania swoich dzieci do prywatnych szkół[6], ale także ich dane imienne wraz ze zdjęciem, i w pewnych przypadkach adresem zamieszkania, mogą zostać opublikowane na publicznej „liście wstydu”.

Rząd utworzył już dwie centralne platformy umożliwiające publiczne udostępnianie rzeczonych informacji. Pierwsza to Credit China (信用中国网), oferująca dostęp do informacji na temat samego Systemu jak i osób wciągniętych na czarną listę; druga to the National Enterprise Credit Information Publicity System (国家企业信用信息公示系统), przeznaczona wyłącznie dla przedsiębiorstw.

Wskazywanie winy zdaje się być imperatywem moralnym systemu, czego wyrazem mogą być liczne moralizatorskie rysunki udostępniane na pierwszej z wymienionych stron, wyjaśniające, w jaki sposób pojawienie się na czarnej liście może tworzyć presję społeczną wobec ukaranego. Jednym z przykładów tej presji może być… utrata powodzenia wśród kobiet:

Czy technologia może zastąpić moralność?

System Zaufania Społecznego ma szansę okazać się „strzałem w dziesiątkę” przede wszystkim dlatego, że stosuje motywacje pozytywne za dobre sprawowanie podobne do mechanizmów wykorzystywanych w grach zespołowych („Pomóż starszej pani przejść przez jezdnię, a dostaniesz 10 punktów do reputacji”) i adresuje rzeczywiste wyzwania dnia codziennego, które nie wymagają od (przymusowych) uczestników Systemu zbyt abstrakcyjnego myślenia.

Nie jest tajemnicą, że Chiny borykają się z całą gamą problemów społecznych i gospodarczych. Na przykład oprócz powszechnej korupcji trawiącej instytucje na wszystkich szczeblach, Chińczycy mają poważny problem z obecnością zatrutego pożywienia i leków na “wolnym” rynku, których spożycie nierzadko skutkuje poważnymi szkodami zdrowotnymi. Oszustwa finansowe, fałszerstwo i ogólna znieczulica społeczna również nie należą do rzadkości przynajmniej od czasu przejęcia władzy przez komunistów w poł. XX wieku. Według chińskich mediów, kluczowym celem ma być więc odbudowanie zaufania społecznego przez przywrócenie odpowiedzialności moralnej obywateli, przedsiębiorstw i instytucji rządowych.

W tym momencie należałoby zadać sobie pytanie, czy jest coś „złego” w próbie stworzenia państwa dobrobytu, bo takie zdają się być przynajmniej fasadowe motywacje KPCh.

Jak zawsze diabeł tkwi w szczegółach.

Pierwszym kluczowym problemem jest protetyczny charakter moralności, którą próbuje się wytworzyć za pomocą zgrywalizowanych modeli interakcji społecznych. Bycie człowiekiem, tj. istotą odpowiedzialną za swoją społeczność, zostaje sprowadzone do pozycji w cyfrowym rankingu, a motywacją do przejawiania ludzkich zachowań nie jest wyższa, obiektywna hierarchia wartości, tylko chęć zysku (np. tańszy prąd) lub niechęć do straty (np. zakaz korzystania z linii lotniczych). W systemie, w którym dobre uczynki nie są motywowane tym, że po prostu dobry człowiek robi dobre uczynki, wystarczy odgórna zmiana hierarchii wartości, aby taką zgrywalizowaną protezę człowieka zamienić w potwora zdolnego do największych okropieństw. Naziści w Niemczech i komuniści w ZSRR byli przecież zwyczajnymi ludźmi, takimi jak ja i Ty, którzy wobec braku hierarchii wyższych wartości poddali się pierwszej ideologii oferującej zapełnienie egzystencjalnej pustki.

Ściąganie z człowieka odpowiedzialności za dokonywanie bieżących ocen moralnych jest drugim kluczowym problemem. W świecie, w którym wartość człowieka sprowadzona jest do ekwiwalentu liczbowego dostępnego za pośrednictwem aplikacji mobilnej, człowiek staje się w istocie swoją liczbą. W oczach uczestnika systemu znika cały wszechświat osobowości i doświadczeń, a decyzje o wejściu w interakcję z drugą osobą podejmuje się na podstawie wartości wypluwanej przez apkę, a nie na bazie własnych osądów, doświadczeń. Masz 100 punktów mniej? Nie rozmawiam z Tobą, bo według aplikacji masz niską wartość społeczną. Gdzie w takim społeczeństwie miejsce na intelektualny, duchowy i moralny rozwój człowieka, skoro całe brzemię niełatwych decyzji życiowych spada na bezosobowy algorytm? Czy społeczeństwo pozbawione możliwości dokonywania ocen nie staje się społeczeństwem jałowym duchowo? Czy w końcu takie społeczeństwo nie staje się ucieleśnionym algorytmem, sztuczną inteligencją?

Z egzystencjalnego punktu widzenia jest w tym systemie coś bardzo przygnębiającego, bo o ile za zbrodnię oczywiście należy się kara, to w przypadku błędnego wyroku nie ma już powrotu do normalności. Jest to zresztą jeden z głównych argumentów przeciw karze śmierci: życia niewinnemu nie przywrócisz. Dodatkowo, lista wykroczeń, za które można stracić miejsce w rankingu i trafić na czarną listę, może być dowolnie rozszerzana o pozycje, które umożliwią uderzanie w przeciwników politycznych, ideologicznych, religijnych, biznesowych i wszystkie inne osoby, które w jakiś sposób nie będą odpowiadać systemowi. Pokusa takiej ingerencji jest zbyt potężna, aby władza nad kodem źródłowym mogła spoczywać w rękach wąskiej grupy funkcjonariuszy partyjnych.

Oprócz powyższych wątpliwości, jest jeszcze szereg innych problemów, których rozwiązania próżno szukać. Na przykład co z prywatnością danych? Jeśli aplikacja śledzi każdą Twoja czynność, włącznie z tym, jakie programy w telewizji oglądasz lub jakie produkty spożywcze kupujesz, to jaką masz gwarancję, że nie trafią w niepowołane ręce? Co z hakerami? Każda technologia narażona jest na ataki z zewnątrz. Z kolei znając kreatywność człowieka, łatwo sobie wyobrazić narodziny specjalistycznego przemysłu oferującego komercyjne podbijanie rankingu dzięki szkoleniom czy wykorzystywaniu dziur w oprogramowaniu. Zupełnie jak w książce „Limes Inferior” Janusza Zajdla.  Sztuczne zawyżanie lub obniżanie rankingów nie będzie należeć do rzadkości.

W końcu – co, jak zabraknie prądu? Jak będziemy podejmować decyzje moralne bez telefonu komórkowego, jeśli przez kilka pokoleń robił to za nas algorytm?

Czy Wielki Brat spojrzy na Europę?

Abstrahując od fasadowych pobudek KPCh, dalekosiężnym celem Partii zdaje się być utrzymanie władzy przez uczynienie ChRL państwem (cesarstwem?) przyjaznym dla życia, w taki sposób, aby ludzie nie mieli powodów do buntu. Jest to niewątpliwie skuteczniejsza strategia niż rozwiązania siłowe sprawdzone już przez wirtualnie wszystkich dotychczasowych dyktatorów komunistycznych – Mao, Lenina, Ceausescu, Hodżę, etc. Czy jednak Wielki Brat odniesie sukces? Wprowadzenie systemu na większą skalę według źródeł rządowych planowane jest na rok 2020. Czy i w jakim zakresie to nastąpi, czas pokaże. Bariera technologiczna w biednych prowincjach z pewnością okaże się wielkim wyzwaniem dla Komunistycznej Partii Chin.

Mimo wszystko już teraz należy stanowczo stawiać pytania o wpływ cesarskich aspiracji KPCh na resztę cywilizowanego świata. Na przykład, czy Europa, aby korzystać z usług globalnych przedsiębiorstw o chińskim rodowodzie (Alibaba, Tencent), będzie musiała uczestniczyć w Systemie? Jeśli tak, na jakich zasadach? Czy kupując na Aliexpress lub biorąc udział w rozgrywkach e-sportowych na chińskiej platformie Europejczyk będzie zobowiązany poddać się ratingowy Jego Cesarskiej Mości? I w końcu, czy wobec hipotetycznego sukcesu wdrożenia Systemu Zaufania Społecznego w Państwie Środka, rządy Europy lub Parlament Europejski nie pójdą przetartym szlakiem i nie zaprojektują własnych systemów oceniających wartość człowieka w celu wymuszania na Europejczykach określonych postaw?

___
[1] Meissner, Mirjam. China’s Social Credit System: A big-data enabled approach to market regulation with broad implications for doing business in China, MERICS China Monitor Nr 39, 26.05.2018. https://www.merics.org/de/merics-analysen/china-monitor/merics-china-monitor-nr-39/.

[2] Cheang Ming, “FICO withChinese characteristics: Nice rewards, but punishing penalties.” Marzec 16, 2017. https://www.cnbc.com/2017/03/16/china-social-credit-system-ant-financials-sesame-credit-and-others-give-scores-that-go-beyond-fico.html, 03.05.2019.

[3] “What’s Your ‘Public Credit Score’? The Shanghai Government Can Tell You,” 03.01.2017, http://www.npr.org/sections/parallels/2017/01/03/507983933/whats-your-public-creditscore-the-shanghai-government-can-tell-you. “New App rates Shanghai citizen’s honesty,” 26.05.2019, http://www.sixthtone.com/news/1554/new-app-rates-shanghai-citizens%20-honesty, 26.05.2019.

[4] Kai Strittmatter, “Creating the honest man,” 02.06.2017, http://international.sueddeutsche.de/post/161355280290/creating-the-honest-man, 27.11.2017.

[5] Sanmen: 专属彩铃让老赖闻“声”丧胆, http://www.creditchina.gov.cn/home/zhuantizhuanlan/tujiexinyong/201709/t20170922_48518.html, 27.11.2017.  Dengfeng: “Court Orders Phone Shamingfor ‘Dishonest’ Debtors,” 15.06.2017, http://www.sixthtone.com/news/1000340/court-orders-phone-shaming-for-dishonest-debtors, 26.05.2019.

[6]  失信企业协同监管和联合惩戒合作备忘录, http://gzcx.gov.cn/uploads/soft/151211/8_1708088611.pdf, 26.05.2019.

[7] https://www.creditchina.gov.cn/xinyongyanjiu/xinyongjiedu/201801/t20180105_105708.html