Новата визия на Пекин комбинира социалната активност с високите технологии в безпрецедентна рамка
На 14 юни 2014 г. Държавният съвет на Китай публикува нов и зловещо звучащ документ на име „План на създаването на система за социален кредит“. В типично бюрократичен стил, самият документ е дълъг и скучен, но в него се крие радикална идея – създаване на единна оценка, каквато всеки един гражданин получава на база на своето поведение.
Представете си свят, в който повечето от ежедневните ви дейности непрекъснато се наблюдават и оценяват: какво си купувате в магазина или онлайн; къде прекарвате деня си; кои са приятелите ви и как общувате с тях; колко дълго гледате видео или играете на игри; кои такси и данъци плащате или пък не. Всъщност, не е толкова трудно да си представите подобна картинка, тъй като поне част от тези неща се случват и на нас самите, благодарение на големите социални платформи като Google, Facebook и Instagram или пък на по-незабележими приложения като тракерите на Fitbit, всички от които събират данни за потребителската активност.
Но докато в нашето общество този процес е хаотичен и (относително) безболезнен, представете си система, където всичките тези дейности се оценяват като положителни или отрицателни на база на зададени от властите критерии, след което се превръщат в една-единствена цифра. Тя дава вашата „гражданска оценка“, която ви представя в обществото и показва дали сте надеждни или не. Така този рейтинг, който е публично достъпен, може да се използва, за да прецени банката дали да ви отпусне заем или компанията да ви наеме на работа. Детската градина и училището също ще се допитат до него, за да решат дали да вземат децата ви. Дори една среща в заведение също може да зависи от това.[i]
Тази футуристична визия на Големия брат, излязъл извън контрол, всъщност е по-близко, отколкото си мислите. Тя се случва в Китай, където правителството вече разработва т.нар. Система за социален кредит, за да оцени надеждността на своите 1.3 милиарда граждани.[ii] Официалното обяснение е, че тази система ще засили прозрачността и продуктивността в търговията, обществото и правните отношения, създавайки една пирамида, на върха на която е доверието.
Други имат по-реалистично мнение за този социален феномен
„Идеята е много амбициозна като обхват и дълбочина и залага доста на наблюдението на индивидуалното поведение чак до това какви книги четат хората. Прилича ми на кръстоска между анализа на потребителското поведение на Amazon с политически модел като от Оруел“, коментира Йохан Лагерквист, специалист по Китай в Шведския институт по международни отношения.
Роже Креемерс, който специализира по китайско право в университета „Лайден“ в Холандия, сравнява системата с „да пишеш ревюта в Yelp, докато държавата наднича над рамото ти“.[iii]
За момента, поне технически, участието в това оценяване е доброволно. Ползвайки социално инженерство, властите вече са наложили наказания на повече от седем милиона души. Така например, хора с големи натрупани дългове ще бъдат ограничени в свободата си на придвижване, докато хулиганските прояви ще им донесат забрани да си купуват самолетни или влакови билети. Разпространяването на фалшиви новини или спекулации за тероризъм също се наказва; непозволени са противообществени деяния и др. Дори нещо толкова спекулативно като извинение, счетено за неискрено, също се квалифицира за вредна проява. От 2020 г. обаче то ще стане задължително и поведението на всеки гражданин и юридическо лице в Китай ще се анализира и оценява, независимо дали им харесва или не. Междувременно, осем частни компании вече са получили лиценз да работят по системите и алгоритмите, които ще се използват за социалните оценки. Без изненада, това са технологични гиганти, които и без това имат достъп до огромни масиви от данни. Сега, с помощта на благословията на Пекин, те ще поставят ръка на безпрецедентно количество информация.
Тук присъстват обичайните заподозрени – интернет гигантът Tencent, чиито продукти се ползват от над 850 милиона китайци; Sesame Credit, което е финансовото подразделение на Alibaba, което отговаря за заеми за малки и средни бизнеси, както и за застраховки; компанията за споделено пътуване Didi Chuxing; както и най-големият китайски сайт за онлайн запознанства Baihe.[iv] С други думи, това са компаниите, здраво стъпили в ежедневието на голяма част от огромното население, които са в идеалната позиция да съберат информация за максимално широк набор от дейности.
А как всъщност ще бъдат оценявани хората?
Финансовата система на Sesame Credit работи по скала от 350 до 950 точки. Alibaba не разкрива алгоритъма си, но излага петте фактора, които се взимат предвид. Първият е кредитната история – например, дали гражданите плащат навреме сметките си за ток или телефон. След това е способността на човек да изпълни поети задължения; третият фактор са личностни характеристики и данни като редовен адрес, телефонен номер и др.
Четвъртата и петата категории обаче са наистина интересни и обезпокоителни. Едната категория тук е „Поведение и предпочитания“. Според нея, нещо толкова невинно като навиците при покупки може да определи характера на човек. Alibaba признава, че съди за хората именно по видовете продукти, които си купуват те.
„Ако някой играе видео игри по десет часа на ден, той лесно ще бъде определен за мързелив и неактивен. Ако някой купува често бебешки продукти, то той най-вероятно е родител и като такъв навярно има по-засилено чувство за отговорност“, обяснява представител на компанията.
Така системата не само отчита поведението, но и го оформя. Тя дори се опитва да влияе на гражданите и да ги отклонява от действия и покупки, които правителството не би одобрило. Приятелските и роднинските връзки също са важни и попадат в петата категория, наречена „Междуличностни отношения“. Какво казва изборът ви на приятели и на хора, с които общувате онлайн, за личността ви? Споделянето онлайн на това, което властите определят като „положителна енергия“ (постове за това колко добре се развива икономиката или колко високо е доверието ви в правителството), ще увеличи оценката ви. Alibaba бърза да изтъкне, че в момента публикуването на негативни постове в социалните медии не засяга резултатите. Реално не можем да знаем дали това е така, тъй като алгоритъмът е секретен. Но лесно можем да видим как може да се развие подобна политика, когато през 2020 г. официално стартира правителствената система. Трудно е да повярваме, че властите няма да искат да извлекат всички възможни данни за нея и така на практика частните компании ще се превърнат в шпиони за Пекин, дори и без да искат.[v]
Публикуването на антиправителствена реторика или споменаването на протестите от площад Тиянанмън никога не е било здравословно в Китай, но сега вече директно може да повлияе на социалния кредит на индивида. Да не говорим, че собствения му кредит ще се определя и от това какво казват или пишат неговите приятели, така че ако някой, с когото сте свързани, публикува негативен коментар, това ще повлече надолу и вашата оценка.
А какво ако… въведем системата другаде?
Макар тази система да изглежда нещо типично китайско и все още прототипно, три неща вече са ясни. Първо, там където тя реално е стартирана, системата всъщност изглежда стабилна. Второ, тя има сериозно влияние върху градския живот. И трето, в нея реално няма нищо толкова категорично китайско, че да не може да бъде приложена на друго място по света, ако условията са подходящи. Възходът на феномена „социален кредит“ носи драматични промени за големите градове навсякъде по света, включително и там, където може да живеете вие.
Самата система за социален кредит в Китай реално е базирана на познат западен модел – кредита. Де факто индекс за репутация, кредитната оценка на даден човек влияе силно на това какво може да наеме или купи, какви образователни, трудови и здравни възможности се откриват пред него и дори как може да се придвижва из града. Западните градове в много отношения си приличат с китайските многомилионни центрове.[vi] И в едните, и в другите живеят големи групи хора, свикнали да се отнасят един към друг с доброжелателно пренебрежение. С други думи, обитателите на големия град навсякъде приемат и търпят останалите, стига те да не нарушават фундаментално сигурността и спокойствието им. Ако обаче подобно нарушение се случи, и на Изток, и на Запад властите ще се опитат да наложат правосъдие и да потърсят отговорност от виновните. И методи като камерите за наблюдение, засичане на номерата на автомобилите и подслушване на телефоните са точно толкова „нормални“ на Запад, колкото и на Изток.[vii] Възходът на частните компании и тяхното участие в градското обществено пространство, както и проникването на технологиите във все повече сфери на съвременния живот създават условия за прехвърлянето на китайската социална система и на друга почва.
Китайският гений, ако можем да го наречем така, се крие в това, че Пекин приема социалния кредит като инструмент за дисциплина и го довежда до неговата логична трансформация като нова форма на публично-частни отношения. В един момент властите ще имат на разположение огромни количества данни, които да им позволят да се намесят в обществото, политическия живот и икономиката. С помощта на информацията, властите се опитват да елиминират недостатъците на сегашната комунистическа система. Тя трябва да им помогне да придвижат ресурси, където са необходими; да решават кризи и да потискат несъгласието, когато то заплашва реда… или режима.
Не е трудно да видим как системата за социален кредит има потенциала да се превърне в могъщ информационен инструмент, който не само да предотвратява антисоциално и незаконно поведение, но и да насочва масите към желани политически и икономически цели. Затова не е изненада, че плановете на китайското правителство незабавно провокираха силна и отрицателна реакция сред повечето активисти за човешки права. Така например, организацията Human Rights Watch призова Пекин да спре използването на комплексни аналитични методи за следене и прогнозиране поведението на своите граждани. Азиатският институт за политически изследвания определи системата за социален кредит като „кошмарът на Оруел“ и предложи да бъде преименувана на „система за социален контрол“, тъй като всеки аспект от живота на китайските граждани ще бъде наблюдаван, оценяван и анализиран със съответните последици за отделния човек.[viii]
Конкретно в случая с Китай, комунистическата партия вероятно се опитва да заздрави властта си като направи страната по-приятна за живеене и не дава на хората повод да бъдат гневни на властта. Това обаче не означава, че тя е добронамерена; чисто и просто, да държиш хората доволни е по-ефективно, отколкото да използваш сила. Успехът на такава система за социално оценяване се крие именно в баланса между принудата и похвалата при интегрирането ѝ в ежедневието на хората. И точно това обаче я прави като изляза от някое забравено произведение на Оруел. Тя е превантивен начин да влияеш на мисленето и поведението на хората. А когато свободната воля и мисъл изчезнат, значи наистина сме попаднали в тъмни времена.
[i] China to ban citizens with bad ‘social credit’ rating from taking flights or using trains for up to a year, Independent, достъпна на https://www.theatlantic.com/technology/archive/2018/02/chinas-dangerous-dream-of-urban-control/553097/
[ii] Big data meets Big Brother as China moves to rate its citizens, Wired, достъпна на http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion
[iii] Пак там
[iv] China’s new viral app could be straight out of Black Mirror, Wired, достъпна на http://www.wired.co.uk/article/china-app-clap-tencent
[v] Life Inside China’s Social Credit Laboratory, Foreign Policy, достъпна на http://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory/
[vi] China’s Dystopian Tech Could Be Contagious, The Atlantic, достъпна на https://www.theatlantic.com/technology/archive/2018/02/chinas-dangerous-dream-of-urban-control/553097/
[vii] It could happen here: How China’s social credit system demonstrates the future of social control in smart cities, BoingBoing, достъпна на https://boingboing.net/2018/02/22/sincerity-construction.html
[viii] Social Credit System in China: Orwellian Future or Economic Knowhow?, China US Focus, достъпна на https://www.chinausfocus.com/finance-economy/social-credit-system-in-china-orwellian-future-or-economic-knowhow
