Навлизането на изкуствения интелект: еволюция, а не революция
Високите технологии могат да бъдат употребявани за целите и нуждите на органите и институциите на държавната власт при осъществяването на една от основните й функции – защита на националната сигурност и опазването на вътрешния ред. Тези процеси са неизбежни и с оглед на това, че вече все по-голяма част от живота ни е “пренесен” във виртуалната реалност, където протича комуникацията между широките маси от обществото на местно и на глобално равнище. Новите технологии постепенно влизат в арсенала на средствата за контрол над населението, но тази тенденция се засилва значително след събитието, разтърсило света в началото на новото хилядолетие – терористичните атентати в Ню Йорк и Вашингтон на 11 септември 2001 г.
Като последица от тези събития редица държави направиха постъпки към ограничаване на част от правата и свободите на гражданите за сметка на защита на националната сигурност и вземане на превантивни мерки срещу прояви на екстремизъм. Като по-благоприятна почва за всевъзможни експерименти за разработване на системи за надзор и провеждане на политика за масово наблюдение, ограничаване на правата и контрол върху личните данни логично се очертават държави с авторитарен или тоталитарен режим на управление.
Изкуственият интелект оказва все по-значимо влияние в живота на средностатистическия човек в 21 век. Докато в повечето случаи от нашето ежедневие програми и джаджи, използващи изкуствен интелект, по-скоро помагат и улесняват нашия бит, като всеки аспект и всяка технология и при неговото използване медалът има две страни.
Прогнозите за близкото бъдеще на AI са повече от амбициозни – според някои експерти повече и повече се доближаваме до постигането на автономно мислеща машина, способна на същите комплексни изводи и заключения като хората – т.е. няма да разчита само на натрупана информация и алгоритми, по които да действа, а ще решава сама за себе си и ще трупа опит и практическо знание. Продукти и услуги с изкуствен интелект за събиране и обработване на данни са достъпни въз основа на настоящите технологии. Извеждането им на пазара не изисква големи нови пробиви в изследванията на изкуствения интелект, просто настройване на формули, повторение на алгоритми в експерименти и различни комбинации, създаване на прототипи на продукти и експериментиране с бизнес модели. Те самите като технология на представляват едновременно възможност и риск за човечеството.
История и развитие на социалния контрол в Китай
Настъпването на новия век води със себе си много промени и във външно, и във вътрешнополитически план за Китай. През 2001 г. страната става член на Световната търговска организация, което според някои анализатори е един от основните катализатори за засилването на китайския износ на стоки, увеличаването на интереса на западни инвеститори, икономическия бум, повишаването на жизнения стандарт и покупателната способност. Паралелно с това обаче се появяват и нови предизвикателства пред устойчивостта на режима, свързани с масовото търсене на мобилни телефони, компютри и Интернет, който се оформя като своеобразен оазис, необременен и незасегнат от партийната пропаганда и цензура. Неговата нарастваща популярност предполага свободно изразяване на дълго премълчавани антиправителствени мнения, настроения, критика и поставяне под въпрос на авторитета на партията.
Студентските протести на площад „Тиананмън“ през 1989 г. карат ръководните фактори в партията да преосмислят политиката си – затягане на хватката чрез по-строг социален контрол и наблюдение вместо либерални реформи и отваряне към света в тази насока.
В началото на първото десетилетие на 21-и век Министерството на обществената сигурност започва нов курс като си поставя за цел постигане на „информационно господство“, за да се бори с престъпността и с евентуални антиправителствени вълнения. Задействан е проектът „Златен щит“, чиято задача е изграждането на национална мрежа от информационни „артерии“ и интегрирани информационни платформи в служба на полицейските органи и разузнаването за анализ и противодействие на реакционни настроения. От 2003 г. е възприет британски полицейски модел, който извежда разузнаването на преден план при вземането на стратегически и оперативни решения. Занапред контактите и връзките между полицейските органи и разузнавателните служби стават тясно свързани. По този начин нежелани заплахи в информационното пространство могат да бъдат бързо прихванати от разузнаването, а авторите им – идентифицирани и заловени от полицията. Тази методика е дори по-лесна в наши дни, когато значително по-голяма част от информационния поток преминава в изцяло контролирания Интернет. Първите стъпки постигат успех, но все още примката на властите върху сайтовете в мрежата остава разхлабена, а и не се постига идентифициране и асоциация между дейността на определени лица и групи в реалния живот и във виртуалното пространство.
Скоро на хоризонта се появяват американските социални мрежи Facebook и Twitter, които съвсем естествено набират популярност и в Китай като в началото не са охарактеризирани като опасност и не попадат под радара на цензурата. Първото десетилетие на 21-и век преминава под знака на трескавата подготовка за домакинството на най-големия спортен форум – Олимпийските игри, който от древни времена бива използван и за политически цели – режимът се старае да рекламира своята “марка”.
Ентусиазмът е частично спаднал след избухналите безредици в Тибет и Синдзян през 2008 г. и 2009 г. Тези събития убеждават управляващите елити в Пекин, че е дошло времето за по-стриктен надзор над цялото онлайн пространство чрез системи с изкуствен интелект.
Достъпът до американските социални мрежи е напълно спрян, а на тяхно място са разработени техни китайски заместители, които са длъжни да предоставят лични данни и кореспонденция на държавните органи, отговорни за пропагандата. Амбициозните нововъведения на китайските власти не спират дотук. През 2005 г. е създадена системата за наблюдение „Скайнет“, чието съществуване е разкрито едва 8 години по-късно. Мрежата от видеокамери, наброяваща 20 милиона устройства, се разпростира на територията на цялата държава. Приоритетни места за инсталиране на камери са както обичайните – публични пространства и централни градски райони, както и зони в близост до домовете на активисти опозиционери, до джамии в Синдзян и до храмове в Тибет.
И докато видеокамерите вече са неизменна част от пейзажа в повечето държави, то Китай стига дори по-далеч в опитите си да „овладее“ цялата лична информация за всеки свой гражданин. Системите за наблюдение откриват и изследват дори ДНК и биометричните данни на минувачите с цел ускоряване на идентификацията на даден индивид и групирането му по категории етнос, религия, а в по-ново време и точки: в социалната кредитна система. Според данни от 2011 г. чрез тези системи, използвайки сигнала от мобилни телефони, е било осъществено проследяване на движенията на 17 милиона души в Пекин като част от плана „Един човек, един файл“. Този проект цели да подобри ефикасността на лицевото разпознаване като позволи на софтуерите да улавят дори лица, покрити с маски или носещи слънчеви очила. Проектът е силно подпомогнат от технологичният гигант Huawei като част от визията на компанията за изграждането на умни градове.
Правителствени служби дори излизат с доклади, според които броят на камерите в китайската столица достига 30 милиона, чрез които се покрива на 100% обхвата на улиците в целия мегаполис. На една камера се падат средно 5,9 граждани, което е 30 пъти повече спрямо съотношението във Вашингтон. Някои доклади сочат, че към 2019 г. камерите от мрежата „Скайнет“ са четири пъти повече в сравнение с общата им численост в САЩ, а рекордният им брой и ефективност са отбелязани и от официалната пропаганда. Според информации от проправителствени медии видеокамерите са способни да идентифицират лицето и да го свържат с личните му данни за едва една секунда.
Съвсем естествено Китай не ограничава тяхното разпространение само върху собствената си територия – Пекин вече продава и снабдява и други държави със своята технология. Доклад на Freedom House сочи, че става дума за 18 държави в света, повечето от които в Югоизточна Азия, но също така и приятелски страни в Африка, както и Венецуела.[i]
Този своеобразен износ на технологичен капитал носи със себе си и много ползи – налагане на частичен монопол в тази индустрия, подобряване на отношенията с чуждите правителства, както и цялостно засилване на китайските позиции и влияние в сферата на високите технологии. Именно технологичният сектор бе и продължава да бъде една от мишените и един от най-засегнатите сектори в икономическата война и противопоставяне със САЩ, достигнали своя апогей по времето на Доналд Тръмп. Можем само да гадаем дали китайското разузнаване получава достъп дори до личните данни и на населението на държавите, които закупуват и използват техните системи за масово наблюдение. Мащабните инвестиции на Китай в сферата на технологиите за разработването и развитието на изкуствения интелект водят дотам, че през 2010 г. за пръв път разходите за вътрешна сигурност надвишават сумите, изразходвани за външна отбрана, и то с 13%. През 2017 г. разходите за вътрешна сигурност са оценени на 197 милиарда долара на годишна база, при това без да са включени разноските за разработка и поддръжка на системите за видеонаблюдение в населените места. Сред десетте най-наблюдавани градове в света, осем от тях се намират в Китай. Повече от половината от видеокамерите в света изобщо са там. Броят им се е увеличил с 1900% между 2010 г. и 2019 г.[ii]
През 2013 г. властите настояват пред техногигантите занапред да задължават потребителите да се регистрират в мобилните си профили само с истинските си имена. Мотивът им е, че по този начин може да се ограничи и предотврати наличието на съдържание в социалните мрежи, включващо вулгаризми, насилие и порнография. Тези, които въпреки всичко не спазят тази повеля, скоро биват цензурирани и блокирани.
През 2015 г. пък е лансиран друг остро критикуван от западните медии проект – „Изострени очи“, който предвижда монтиране на видеокамери дори в технологични устройства от бита като телевизори, смартфони и компютри.
Манията по социалния контрол е потвърдена и от постулатите на единадесетата петилетка, в която тази политика е описана като един от основните стълбове за поддържането на социалната стабилност. Лицевото разпознаване вече масово е навлязло в обществения живот с противоречив знак. То може да бъде използвано както за удобство – разплащания, идентификация в обществения транспорт и в публични институции, така и обаче за публично унижение при нарушение на правилата и за залавяне на нарушителите. Съществуват и системи за разпознаване на говора, които на практика елиминират заплахата от телефонни измамници. Дори и без принудителните похвати на партията, китайците доброволно се отказват от пластмасови карти, документи на хартия и разплащания в брой за сметка на обединяването на всичко в дигитален вариант.
С течение на времето органите на реда спорадично биват снабдявани с нови и иновативни високотехнологични джаджи, които улесняват дейността им. През 2016 г. е представен полицейски робот AnBot, разполагащ с камери и оръжие. Две години по-късно в употреба влизат и смарт очила с функции за лицево разпознаване. Дори каските на китайските полицаи са умни.[iii] През 2020 в разгара на първата вълна от COVID пандемията смарт каските, в които е инсталиран изкуствен интелект, са измервали температурата на минувачите чрез инфрачервени камери. Те също така разпознават лица, регистрационни номера и сканират QR кодове.[iv]
Разбира се новите прийоми за контрол чрез изкуствен интелект са възприемани неедностранчиво. Проучване от 2019 г. показва, че 57% от жителите на Пекин са обезпокоени от факта, че всяко тяхно действие бива записвано, а цели 74% предпочитат аналоговата идентификация пред лицевото разпознаване. В град Ханджоу технологичният гигант Alibaba, собственост на милиардера Джак Ма, предлага законопроект, който би забранил инсталирането на камери в жилищни сгради без разрешение от живущите.[v]
Контролът над социалните мрежи
Постепенно се усилва и вниманието, интереса и стремежът към пълен контрол над социалните мрежи. През 2016 г. в нов закон за киберсигурността се съдържа текст, който задължава интернет компаниите да съхраняват и обработват за най-малко половин година напред регистрационни файлове, лични данни и „критична информация“. През 2018 г. официално е обявено, че властите могат да запазват достъпа си до изтрити съобщения и публикации в социалната мрежа WeChat и без разрешението на потребителите. Година по-късно на прицел са взети приложенията за видеообмен, които водят до пристрастяване сред подрастващите – те ще имат възможността да проследяват местоположението на потребителите и да анализират поведението и действията им . Тези мерки обаче не представляват драстична крачка напред в цялостната политика, а са просто надграждане. Значително по-радикалните планове на партията предвиждат личните документи на целокупния китайски народ да записват и съхраняват информация за местоположението, както и за ДНК и кръвна група в личните карти от трето поколение. Виртуалният Китай наброява около 1 милиард потребители.
Ето защо всяка една информация, попаднала в информационния поток, трябва да бъде стриктно проверявана. През 2017 г. влиза в сила нова разпоредба, според която всички интернет сайтове, платформи, блогове и страници в социалните мрежи, публикуващи новини, трябва да станат обект на проверка и контрол от специални редакционни комисии, назначени от партията. Тази нова интернет полиция си служи пряко с изкуствен интелект, за да съблюдава за реда и сигурността във виртуалното пространство. Всяка информация и съобщение в Интернет, дори лична кореспонденция, попадат под радара на наричащите себе си „чистачи“. Непокорните потребители търсят други начини за свободна комуникация и достъп до блокирани сайтове и приложения чрез използване на така наречените „виртуални частни мрежи“ (VPN). ”Чистачите” в служба на ККП обаче скоро се разправят и с тази заплаха като спират достъпа до тези мрежи и ги блокират от каталога с разрешените приложения . Единственото изключение са тези частни мрежи, които се съгласяват да попаднат под контрола на интернет полицията и да използват официално одобрените сървъри.[vi]
Социална кредитна система
Върхът на усилията на Пекин е Системата на социалния кредит. Това представлява система на оценяване, наблюдение и групиране на населението според тяхното цялостно поведение. Гражданите се оценяват по точки и се разделят на категории в зависимост от резултата си, който варира постоянно. На всекиго първоначално са предоставени по 1000 точки, които той може да надгради, но и да свали, което би ограничило негови основни права и свободи… Поне според общите възприятия.
Рейтингът на гражданите може да бъде увеличен или намален дори и само при извършване на някои простички дела – по-честа комуникация с роднини и съседи, позитивни публикации в социалните мрежи, избягване на подозрителни типове и други. Негативният каталог включва дори неправилно пресичане, каквато и да е критика към официални лица, прекарване на прекалено много време във виртуалния свят и общуване с хора с нисък рейтинг в същата социална система. Наказанието за тези провинения и в този случай е иновативно и осъществимо чрез намесата на изкуствен интелект, а именно публично унижение чрез показване на снимка и лични данни на билборд на улицата. Специално отделно оценяване е въведено за журналистите – те са разделени на три категории – ”зелени”, ”жълти” и “червени” в зависимост от това доколко тяхната работа и отразяване на събитията в Китай отговаря и е в съответствие с официалната партийна идеология.
Рейтинговата система, сравнявана със зловещия режим в Оруеловия шедьовър „1984“, е представена от Държавния съвет през 2014 г., експериментално тествана през 2018 г. и официално наложена на голяма част от китайския народ през 2020 г. Тя се е превърнала в олицетворение на всевиждащото око на партията. Материализират се в пълна степен усилията за изграждане на софтуерни програми за проследяване на електронни устройства, камери с лицево разпознаване, приложения с база данни лична информация и други. Тези процеси са улеснени и от факта, че китайците са създали суперприложения, които са едновременно информационни канали, социални мрежи, средство за обмяна на съобщения, магазини и разплащателни сметки.
Социалните мрежи и новите средства за обмен и комуникация обаче са не само заплаха, но и възможност за режима. Те предоставят още едно поле и ниша, които могат да бъдат използвани като средство за пропаганда, влияние над масите, филтър за наблюдение и анализ на обществените мнения и нагласи, обратна връзка на гражданите и оценка на партийни и държавни функционери на местно ниво.
Ето защо в някои региони или в определени периоди интернет цензурата разхлабва своя захват и пропуска през ситото на виртуалната реалност критики и обиди срещу лица на властта. Най-удобното предимство на виртуалната комуникация от гледна точка на елитите е, че всякакви опити за изразяване на недоволство, публични протести и масови демонстрации могат моментално да бъдат прихванати, ограничавани и неутрализирани. Най-честите критики към представители на властта са свързани с оплаквания от техния охолен начин на живот и от корупция, а не толкова от управленските им решения. Местната политическа върхушка има правомощията да издейства цензура на неподходящи за тях материали, ала решенията се вземат на централно ниво от Отдела за пропаганда на Китайската комунистическа партия.
Често срещана тенденция вече е серия от публикации срещу партиен функционер или група от такива да се окаже предзнаменование за тяхното разжалване, освобождаване и привличане към наказателна отговорност. Най-яркият такъв пример е с бившия партиен секретар на гр. Чунцин и основен противник на Си Дзинпин за ръководната роля в партията и държавата – Бо Силай, който бе осъден на доживотен затвор за обвинения в корупция, присвояване и убийство.[vii] Напълно логично в социалните мрежи активност проявяват и пропагандни профили и страници и дори най-обикновени интернет тролове. През 2012 г. такива акаунти в Weibo наброяват цифрата 50 000, а към 2019 техният брой достига 600 000, чиито публикации представляват 4% от потока на новини в страната. В последните няколко години критиката намалява все повече и повече и поради причината, че трафикът от информация преминава към новото най-стриктно наблюдавано суперприложение, което обединява почти всякакви функции в себе си: от комуникация през видео игри до онлайн магазин – WeChat.
Социалният контрол и масовото наблюдение, немислими като размах и мащабност за западните общества, са осъществимо начинание в Китай, благодарение най-вече на инвестициите и усилията в разработването на системи, направлявани от изкуствен интелект. Планът и интересът към развитие на изкуствения интелект е продиктуван и от възприятието на управляващата върхушка, че Пекин трябва да играе водеща роля в глобалните дела. Всички тези мерки са възможни и поради факта ,че Китай няма законодателна уредба в областта на политиката на поверителност и защита на данните. С всяка изминала година темповете на развитие на китайската държава и нация във всяко отношение бележат рекордни нива, което е предпоставка за нови иновативни прийоми за социален контрол. Китайският модел неизменно си спечелва паралелно множество поддръжници и противници, но едно е сигурно – Китай заема все по-значимо място в международните отношения. Само времето ще покаже в каква посока ще продължи развитието на Китай и на системите с изкуствен интелект, които несъмнено са се превърнали в опора и основа на политическия, икономическия, технологичния и обществения живот в държавата-феномен в зората на третото хилядолетие.
Заключение
В неправилните ръце няма безопасен инструмент или поне не и такъв с гаранция за повече принос, отколкото вреда. Всяка по-строга и всеобхватна политика що се отнася до наблюдаването на популацията е безупречната основа за диспотичен сценарий. Предвид ерата на капитализма на наблюдението, обществото навсякъде вече е под постоянно следене. Данните ни се събират от “бисквитки” в браузъра, сателити, телефоните, таблетите, приложенията ни. Всичката тази информация е продукт, който в последствие се продава и се прехвърля от компания на компания, в добрия случай. Това, което обаче можем да спечелим ние като обществото съвременник на тази технология е възможността изкуственият интелект да бъде използван за разрешаването на престъпления, здравеопазването и много други неща.
Няма вариант, в който избягваме успешно ерата на AI наблюдението. “Eрата на внедряването” направи повече от това да направи тези практични продукти възможни. Тя също така запали популярното въображение, когато става въпрос за AI. То поддържа вярата, че сме на прага да постигнем това, което някои смятат за Светия Граал на изследванията на AI, изкуствения общ интелект (ИОИ) – мислещи машини със способността да изпълнява всяка интелектуална задача, която човек може — и много повече. Има вариант, в който чрез тази технология се развиваме като общество и се изкачваме по-високо към света от идеалите ни.
Макар Китай и САЩ да са основни играчи в разработката и развиването на изкуствен интелект, всяка крачка, с която повече се доближаваме до сингулярността, прави въпросът по-глобален и по-глобален. Ще се окажем в положение, в което ще трябва да се балансира въпросът за контрола и наблюдението над популацията, за работните места, балансът между богати и бедни държави дори. Единственото, което знаем, е че тази промяна е неизбежна и е въпрос на време да се доближим до общ изкуствен интелект, на чиято “милост” да се оставим, щом дойде.
[i] Campbell, Charlie, The Entire System Is Designed to Suppress Us.’ What the Chinese Surveillance State Means for the Rest of the World’, Time, достъпна на https://time.com/5735411/china-surveillance-privacy-issues/
[ii] Mozur, Paul, Inside China’s Dystopian Dreams: A.I., Shame and Lots of Cameras, NY Times, достъпна на https://www.nytimes.com/2018/07/08/business/china-surveillance-technology.html
[iii] Chin, Josh, Chinese Police Add Facial-Recognition Glasses to Surveillance Arsenal, The Wall Street Journal, достъпна на https://www.wsj.com/articles/chinese-police-go-robocop-with-facial-recognition-glasses-1518004353
[iv] Bei Qin, David Strömberg and Yanhui Wu, Why Does China Allow Freer Social Media? Protests versus Surveillance and Propaganda, Journal of Economic Perspectives, достъпна на https://www.researchgate.net/publication/313146618_Why_Does_China_Allow_Freer_Social_Media_Protests_versus_Surveillance_and_Propaganda
[v] McGregor, Grady, The world’s largest surveillance system is growing—and so is the backlash, Fоrtune, достъпна на https://fortune.com/2020/11/03/china-surveillance-system-backlash-worlds-largest/
[vi] Chan, Tara, The Chinese government confirmed that it can access deleted WeChat conversations — and people are terrified, Business Insider, достъпна на https://www.businessinsider.com/chinese-government-accessed-deleted-wechat-messages-2018-5
[vii] China uses AI software to improve its surveillance capabilities, Reuters, April 8, 2022, достъпна на https://www.wionews.com/world/china-uses-ai-software-to-improve-its-surveillance-capabilities-469244
