26
Вт, Май
26 New Articles

Очертаващата се промяна на световния ред под въздействие на (тесния) изкуствен интелект

Актуално
Typography

На 12 октомври 2016. администрацията на президента Обама публикува два доклада, които разкриват плановете на САЩ за изкуствения интелект. Авторите на статията: „Пътна карта на администрацията на Обама за политики към изкуствения интелект“ (The Obama Administration’s Road Map for AI policy) (1) критикуват документа, за това, че няма никаква оценка за напредъка на Китай в областта. Към онзи момент, азиатската страна вече е надминала Америка по изследвания за изкуствен интелект в количествено измерение.

Като частичен отговор на изоставането, през февруари 2019 Тръмп нарежда увеличаването на изследователската работа по въпроса. За Владимир Путин, изкуственият интелект е в основата на борбата за технологично лидерство и поле за глобална конкуренция. Според него, който има монопол върху изкуствения интелект, ще има и световно господство. Преди две години Китайската комунистическа партия си поставя като краен срок 2030, докогато страната следва да изземе световното лидерство по отношение на изкуствения интелект (2). Анализирайки  китйските стратегически, Саманта Хофман от Австралийския институт за стратегически политики лансира в статията си: „Инженерство на глобално съгласие: Властова, водена от данните експанзия на Китайската комунистическа партия“ (Engineering global consent: The Chinese Communist Party's data-driven power expansion) (3)  тезата, че Китай вече изгражда глобална екосистема за технологично управление, започвайки от собствената си държавна машина,  която трябва да функционира на базата на алгоритми. Крайната цел е преформатиране на целия свят според наложения от Китай алгоритмичен модел. Това е своеобразно инженерство на доминирането, като то не следва пътя на войната, а на водата, която бавно, но сигурно обема и поглъща всичко по пътя си.

Дори подобни твърдения да са преувеличени, те при всички случаи навеждат на мисълта, че изкуственият интелект притежава потенциала да бъде следващото голямо нещо (the next big think), което да определи, промени или препотвърди, кои държави са глобалните политически лидери, подобно на ядреното или космическо оръжие.

Когато говорим за изкуствен интелект трябва да отчитаме факта, че той ще се реализира поне в три проявления. Първото е на т.нар. „тесен“ или „слаб“ изкуствен интелект. Наречен е така, защото е способен да изпълнява ограничени, единични задачи. Голяма част от сега функциониращите системи на изкуствен интелект са именно такива, изпълняващи ясно дефинирани задача/и. Това е технология, която позволява на високофункционални системи да преповтарят и дори да надминават човешките способности по отношение на възложените им цели. Такива са: „Уотсън”, „Сири”, „Кортана“, „Алекса“. Те имат определена степен на интелигентност в дадено поле, но без пълнотата, сложността и асоциациите при разсъждение, на които е способен човекът. Второто проявление ще бъде „силния, генерален изкуствен“ интелект, който ще разбира, т.е. ще има познавателни способности и самосъзнание, които го правят неразличим от човек, въпреки, че скоростта и способността за обработка на информация ще е доста по-висока. Подобен изкуствен интелект би могъл да прави систематични обобщения, да разсъждава и да се учи от опита си. Той би имал разбиране с преживяване на заобикалящата го среда, също като хората, но с много по-бързи реакционни способности. Само по себе си, това ще бъде доказателство, че подобна система би могла да стане по-силна в областите на знанието, когнитивните способности, скоростта на обработка поради възможностите за експоненциално развитие. Така, би се появил специфичен нов вид от нови същности. Третото проявление ще бъде суперизкуствения интелект, който многократно ще превъзхожда човека, което предопределя трудното прогнозиране на неговото поведение Разбира се, трябва да уточним, че последните две „същности“ могат никога да не се случат, затова някои анализатори ги категоризират по-скоро като „технологичен балон“ и неосъществим проект. Но тези възможни проявления са крайна цел за страните, които участват в надпреварата от това естество.

В главата „Религия на данните” (The Data religion: 428-462) от книгата си: „Homo Deus. A brief history of tomorrow”, Ювал Харари заявява, че в настоящето някои системи все още се развиват линейно. Сред тях са политиката, социалните системи, културата и демокрацията в най-общ план, докато други - чрез технологиите - бележат експоненциално развитие, като „био”, „техно”, „нано”, и „информационните” технологии.

Той прогнозира, че ще се промени целия обществен строй, като всички системи ще се реорганизират или някои от тях напълно ще изчезнат. Капитализмът ще бъде заменен от т.нар. от автора „даннизъм” (“datism”). Неговата теория подчертава, че за разлика от трите предходни индустриални революции, днес технологиите не са просто инструмент и средство, чрез което подобряваме функционалността си, а променят духа и философията на времето. Те вече са представени, саме по себе си, като двигател на еволюцията, която ще носи със себе си  революционни промени. Хората доброволно и неосъзнато  отдават своя суверенитет, без да осмислят дългосрочните последици. Според Харари, в недалечна перспектива „неизменените”, „неповишените” и „неподобрените” индивиди ще бъдат напълно безполезни. Той твърди още, че хората са застрашени да изгубят своята икономическа стойност не само, защото интелигентност и съзнание се разделят в смисъла на взаимна обособеност, а защото такава ще е новата конюнктура (пак там).

В новия световен ред „даннизъм”- (datism) всичко се свежда до функционирането на алгоритми. Но живите организми са „органични алгоритми“ (системи за обмен на информация). Неорганичните алгоритми не са зависими от материята. Едните са въглеродни, другите са силициеви. Харари смята, че всички налични и бъдещи системи ще функционират като алгоритми. Тази нова световна парадигма, обединяваща икономика, политика, религия, култура в едно се влива в течението на така наречения „технохуманизъм“ (technohumanism). Подобно на Фукуяма (4), който обяви „края на историята“ (макар след това да ревизира твърденията си), Харари, заявява, че той (технохуманизмът) ще бъде белег, че е завършила човешката еволюцията и навлизаме в нов етап на „Homo deus” (Човекът-бог). Известни са обаче и много силни аргументи срещу тази постановка, спореди които технологично развитият човек, включително и на биологично ниво,  не трябва да се разглежда като еволюция на вида сама по себе си. Други пък, твърдят, че чрез технологиите е възможна единствената адаптация към средата и ние вече не сме способни да оцелеем без нея, защото тя ще промени нас с помощта на изкуствена еволюция, но проиграна от изкуствен интелект с брой, приблизително равен, на множеството поколения на Homo sapiens досега.

На пръв поглед, изследователят гради текста си като утопия, но дълбочинният анализ показва, че той всъщност конструира антиутопична прогноза за света, според неговите очаквания. Описвайки пристрастеността към настоящия статус на технологиите, Харари обяснява, защо така плавно и незабележимо отдаваме човешкия си суверенитет, ставаме лениви, апатични, личностно и социално нечувствителни и, съответно, безотговорни. Всъщност, привидната лекота на живота с делегирана отговорност и без бремето на тежкия човешки труд,  ще вкара човека в капана неговото собствено (себе) изместване и обезвластяване. Именно този процес ще постави и:

Началото на края на политиката

Опирайки се отново на Харари, според който не политиците, а изкуственият интелект ще предлага ефективни решения във всички възможни области и така ще ерозира държавните институции, политиката, суверенитета, справедливостта и живота, като цяло. Ако остане свободна, ненаказуема зона,Интернет все повече ще нарушава частното (лично) пространство, но все още липсват регулациите, необходими за организиране на адекватно противодействие. А и тези регулации лесно биха прехвърляли границата на цензурата и ограниченията на свободата на словото.

Политика, която не може да създава и прилага идеи и визионерство - в момента, в който изостане като сложен инструментариум за предлагане на решения, става все по-неатрактивна за гражданите. Властта и отговорността се размиват, като властите предимно администрирaт, а не създават стратегии. Решенията вече идват от другаде. Израелският изследовател смята още, че дори демократичните избори ще станат излишни (Harаri:394-395), защото Гугъл ще може да представлява личните политическия предпочитания по-добре от самия индивид. Бъдещето приложение за политически вот няма да забравя и да страда от късогледство, пренебрегвайки например намаляването на данъците или неспазените предизборни обещания. То ще е отчело кръвното налягане на собственика си, докато се информира от статии с политическо съдържание и как се е покачвал хормонът „допамин“ (изключително важен за мозъчните функции докато, той/тя е гледал(а) вечерните новини и пр., което ще прави изборът възможно най-рационален. Неслучайно и Гугъл, и Фейсбук имплицитно разполагат с информация, която тотално може да опише личностния профил в различни измерения на всеки потребител, като по този начин може да му въздейства или да предоставя опции за такова „въздействие” на други компании. Заради тези причини с голяма сила избухна скандалът с „Кеймбридж Аналитика“ (5), в хода на който стана ясно, че на последните президентски избори в САЩ стотици хиляди профили са били подложени на въздействие целево, а личната информация е употребявана нерегламентирано.

Малцина знаят, че на последните президентски избори в Русия през март 2018 има кандидат с името "Алиса", който получава 25 хил. гласа. "Алиса" (6) не е реална личност, а изкуствен интелект, създаден от Яндекс (Yandex), руският еквивалент на Гугъл. Предприемачът Роман Зарипов, който стой зад проекта, обосновава, защо за президент на Русия не е необходим човек, а изкуствен интелект. В сайта, е публикуван политически  манифест с шест точки:

  • - Взимане на решения. Роботът се опира на логиката. Не се ръководи от емоции, не търси лична изгода и не дава оценки;
  • - Реагира бързо. Изкуственият интелект обработва информацията много по-бързо от човешкия мозък. Мигновено анализира данните и прави изводи на тяхна основа.
  • - Наличен е 24 часа, 7 дни в седмицата. Достатъчно е да се притежава телефон, да се намери приложението и да се зададе въпрос. Всички дни в седмицата, а не един път в годината по „Първи канал”.
  • - Отчита всяко мнение. Ежедневно "Алиса" общува с милиони руснаци. Тя изслушва всеки и променя политиката в зависимост от мнението на хората. Всяко обръщане към нея прави страната по-добра.
  • - Не старее и не се уморява. "Алиса" не знае какво е умора, а физическото стареене не вреди на съзнанието й. Този робот става по умен и работоспособен с всеки изминат ден.
  • - "Алиса" ви познава. Изкуственият интелект знае за всички ваши проблеми. Ако искате да се обърнете към "Алиса", тя ще ви запомни завинаги, а чрез вашето обръщение може да помогнете да направите Русия по-добра. И това не са просто думи.

Казусът „Алиса“ е интересен за анализ в няколко посоки. За всички е ясно, че проектът е по-скоро експеримент, с който да се тестват обществени нагласи. Представеният изкуствен интелект „Алиса”, най-вероятно все още не може да изпълнява всички функции, заявени в манифеста. Тя е описана като алгоритъм, подлежащ на машинно обучение, чието ниво все още не е многоцелево. Вероятно, предприемачът просто заема пазарна ниша, прави реклама на компанията и имиджа си, и се опитва да придобие властово влияние. Интересно е, че подобен експеримент стартира първоначално точно в Русия, където властта е централизирана, а подобни инициативи са по-скоро контролирани. Но е показателно, накъде се отправят перспективите в политиката, което превръща плана на Китай, а може би и на Русия, в световно господство от нов тип.

В САЩ трансхуманистът Золтан Ищван регистрира партия на трансхуманистите (Transhumanist party), с която ще се кандидатира за следващите президентски избори през  2020 (7). Тезите му са сходни с тези на неговия руски колега – политикът ще бъде изкуствен интелект, който е достъпен навсякъде и ще може да подържа милиони отделни контакти с различни хора, като всяка връзка ще е индивидуализирана.

Кърстин Даутенхан, главен изследовател от Канада в Лабораторията за интелигентна роботика в Университета Ватерло, заявява, че не би желала политическите лидери да бъдат роботи (8). За нея е важно да сме реалисти по отношение оценката ни, в какво изкуственият интелект/ роботите биха били добри и в какво не.

Те могат да обработват голямо количество данни, за да разпознаят едно лице сред милиони или да различат модели на поведение и пр. Но нямат обща интелигентност, включваща състрадание и съчувствие. Политиците вземат ежедневно решения, боравят с непълна информация, притиснати са във времето, правят прогнози, но в крайна сметка, точно тези обстоятелства ги изграждат като добри управленци (пак там) .

Ищван й опонира, посочвайки, че тъкмо решенията, взети под диктата на емоции и променливи обстоятелства, обикновено са грешни, с което двамата онагледяват двете основни визии за предимствата и недостатъците на изкуствения интелект в политиката.

Разбира се, не трябва да пренебрегваме и възможностите за подобряване на политическия процес – нарастваща гражданска ангажираност чрез достъпността и прозрачността, която технологии предоставят, сътрудничеството между хората и изкуствения интелект и произлизащите от него политически иновации. Но не бива да забравяме нерешените въпроси за това, как правителствата ще регулират употребата и развитието на самия изкуствени интелект и какво влияние ще имат корпорациите и изследователските центрове. Водят се дебати за това, дали изкуственият интелект няма да подкопае основите на демокрацията, но пък да подпомогне борбата срещу бюрокрацията и, как партиите да използват и управляват тези противоречиви процеси.

Изкуственият интелект като „Големия брат“ в помощ на  властта

В Китай вече сме свидетели на въвеждането на системата за социален кредит. За някои тя е средство за тотален контрол, а други привиждат в нея позитивна и ефективна саморегулация, която би могла да изкорени престъпността. Ако предположим, че след 2050 част от правителствата ще разчитат да бъдат подпомагани в управлението и взимането на решения от изкуствения интелект, особено по въпросите на корупцията и военните дела, това може да е новия легитимационен инструмент за пред обществата. При добре изграден механизъм, то може да доведе до ръст на общественото доверие за подписване на договори чрез обработка на дипломатическа информация. Монополът върху насилието също ще бъде частично или изцяло предоставен на изкуствения интелект. Дронове, защитаващи човешките права, ще летят над полицейски роботи, чиято обща задача е да предпазят човечеството. Ще има нови и по-сигурни детектори на лъжата или система за ранно алармиране за хора, склонни към самоубийство.

Можем да допуснем обаче, че този тип правителствени платформи от изкуствен интелект биха могли да обслужват и тоталитарни режими, като този в Северна Корея например. Тоест, изкуственият интелект да демонстрира и своята "тъмна страна". Той може да подсили възможностите за надзор над лагери за политически затворници или за физическо преследване. Полицията изначално разполага с цялостно досие, ДНК-предразположения, дори информация за сексуалните предпочитания.

Така същностно се поставя началото на „смъртта“ на личното пространство, на личния и интимен свят. Когато правителството контролира изкуствения интелект, то може във всеки момент да „хакне“ който и да било елемент от интимния живот на своите граждани.

В едно много по-далечно бъдеще антисистемните субекти могат да бъдат физически унищожени или "удряни" и "хаквани" на ниво мозък и здраве. Дори по-лошо, изкуственият интелект може да бъде воден от презумпцията да ликвидира каквато и да било съпротива.

Ако реалността на изкуственият интелект стане норма, трябва да се реши и казусът с хората, които отказват да се интегрират към тази нова социална, обществена, културна, политическа и икономическа норма. За да съществува и за да се усъвършенства изкуственият интелект, той се нуждае от перманентно захранване с информация. Тази необходимост вероятно ще породи обвързването на ползването на определени придобивки с предоставяне на данни и постоянна ангажираност в системата. За да се отпусне определената сума от универсален/ минимален базов доход или за да има достъп до услуги като дълголетие и удължаване на живота, човек ще трябва да живее в тясна зависимост от правилата на новата система.

Разбира се, тезите в статията са умишлено подсилени, за да очертаят по-убедително една възможна глобална визия за свят, устроен по (и подчинен на) правилата на изкуствения интелект. Подобен сценарий за пренареждане на геополитическите пластове е възможен и вероятен, но по-тревожното в случая е, че Европа, в лицето на ЕС, изостава и в дебата по темата, и в самите разработки. А това може още повече да разклати лидерското място на нашия континент и да стимулира процесите на дезинтеграция, ако отделните държави решават въпроса предимно на национално ниво.

 

Бележки:

 

1 https://hbr.org/2016/12/the-obama-administrations-roadmap-for-ai-policy

2 https://www.nature.com/articles/d41586-019-02360-7

3 https://www.aspi.org.au/report/engineering-global-consent-chinese-communist-partys-data-driven-power-expansion

4 http://aps-m.org/wp-content/uploads/2017/03/The-End-of-History-and-the-Last-Man-Francis-Fukuyama-1992.pdf

5 https://www.theguardian.com/news/series/cambridge-analytica-files

6 https://alisa2018.ru/

7 https://www.express.co.uk/news/world/1106371/US-President-candidate-2020-Zoltan-Istvan-transhumanism-immortality-plan-technology

8 https://www.cbc.ca/radio/thecurrent/the-current-for-oct-7-2019-1.5311435/could-a-robot-be-prime-minister-machines-will-soon-be-smart-enough-to-run-the-world-says-futurist-1.5311456

 

* Футуролог в Секция "Социални теории, стратегии и прогнози" на Института по социология и философия към БАН