Изкуственият интелект няма просто да автоматизира работни места или да промени начина, по който търсим информация. Според израелския историк и философ Ювал Ной Харари големият риск е много по-дълбок: съчетанието между биология, изчислителна мощ и огромни масиви от лични данни може да позволи на държави и корпорации да „хакват“ човешките същества — тоест да ги разбират, предвиждат и манипулират по-добре, отколкото те самите разбират себе си.
Тезата на Харари не е нова. Той я развива в различни интервюта, лекции и публични разговори поне от 2018 г. насам — включително пред Al Jazeera, в разговор, публикуван от Wired, в интервю за CBS News и в реч пред Световния икономически форум. В основата ѝ стои предупреждението, че човечеството навлиза в епоха, в която властта няма да се измерва само с армии, пари или контрол върху територии, а с контрол върху данните за човешкото поведение, емоции и биологични реакции.
Ювал Ной Харари е автор на „Sapiens“, „Homo Deus“, „21 урока за XXI век“ и „Nexus“. Официалният му сайт го представя като историк, философ и автор на международни бестселъри, а академично той е свързан с Еврейския университет в Йерусалим. Именно от тази позиция — не като инженер или специалист по изкуствен интелект, а като историк на големите цивилизационни промени — той разглежда AI като технология, която може да преобрази самата структура на властта.
Какво означава да „хакнеш“ човек
Когато Харари говори за „хакване“ на човека, той не твърди, че компютърът буквално ще проникне в мозъка по начина, по който хакер прониква в компютърна система. При него терминът е метафора за способността на алгоритмите да събират достатъчно данни за даден човек, да разпознават вътрешните му модели на поведение и на тази база да предвиждат или насочват решенията му.
В интервю за CBS News Харари обяснява, че да „хакнеш“ човек означава да го познаваш по-добре, отколкото той познава себе си, и след това да използваш това знание за манипулация. Това включва не само какво човек харесва или купува, а и как реагира емоционално, от какво се страхува, какво го разгневява, какво го кара да се чувства приет, застрашен или зависим.
Когато алгоритъмът те познава по-добре от самия теб
Във видео, публикувано в Telegram канала „M-демократизиране на информацията“, Харари формулира същата теза още по-пряко. Според предоставения транскрипт той казва, че при достатъчно изчислителна мощ човечеството е „много близо до момента, в който компютрите ще могат да хакват човешки същества“ — да разбират неговите емоции, харесвания и нехаресвания по-добре от самия човек.
Харари уточнява, че подобно „хакване“ никога не е съвършено и не изисква 100% точност. „Не ти трябват 100%. Трябва само да познаваш хората по-добре, отколкото те познават себе си. А това е доста лесно, защото повечето хора не познават себе си много добре“, казва той в цитирания откъс.
Именно това според него превръща алгоритъма в инструмент за манипулация. Ако една система знае какво човек иска по-добре от самия него, той се превръща в „марионетка“, казва Харари. Алгоритъмът може да го манипулира, да „натиска емоционалните му бутони“ и да въздейства върху решенията му през екраните, смартфоните и социалните мрежи.
Смартфонът като вход към човешките емоции
В същия откъс Харари обяснява и защо самият той не използва смартфон. По думите му една от причините е именно желанието да ограничи достъпа на тези системи до собственото си време и внимание. „През последните 20 години най-умните хора в света и най-добрите технологии в света работят върху проблема как да хакват човешки същества и да ги контролират чрез екраните и смартфоните. Аз не съм им равностоен. Ако им дам достъп, те печелят. Затова се опитвам да огранича техния достъп“, казва той.
Според Харари досегашната политическа и търговска пропаганда е работила предимно с груби групови категории — възраст, пол, религия, етнос, социална класа, политически убеждения. Новите технологии обаче позволяват много по-фина персонализация. Вместо едно послание към милиони хора, алгоритъмът може да подбере различно послание за всеки отделен човек според неговите страхове, слабости и желания.
Това според него е качествено нова власт. Не става дума просто да убедиш масите, а да въздействаш върху отделния човек в моментите, в които той е най-уязвим.
Точно тук се вписва и предупреждението му за смартфоните и социалните мрежи. В неговата логика екранът вече не е просто средство за комуникация, а постоянен канал за събиране на данни, измерване на реакции и връщане на персонализирано съдържание. Така алгоритъмът не само наблюдава потребителя, а постепенно се учи какво го задържа, какво го дразни, какво го плаши и какво го кара да реагира.
Формулата на Харари: биология, данни и изчислителна мощ
Една от най-цитираните формулировки на Харари гласи, че биологично знание, умножено по изчислителна мощ и данни, дава способност за „хакване“ на хора. Той използва тази формула в реч пред Световния икономически форум в Давос през 2020 г., както и в други свои публични участия.
Смисълът е следният: само данните не са достатъчни. Само биологията също не е достатъчна. Само мощните компютри също не са достатъчни. Но когато трите елемента се съчетаят, според Харари възниква нов тип власт.
Биологичното знание означава наука за мозъка, тялото, хормоните, емоциите, стреса, вниманието и процесите на вземане на решения. Изчислителната мощ означава способност огромни количества информация да бъдат обработвани в реално време. Данните са всичко, което човек оставя след себе си — търсения, съобщения, покупки, движение, здравни показатели, реакции в социалните мрежи, глас, лице, пулс, сън, навици и политическо поведение.
Ако една система разполага едновременно с тези три неща, тя може да започне да изгражда все по-точен модел на човека. Според Харари тогава рискът вече не е просто от наблюдение, а от предсказване и управление на поведението.
От наблюдение към манипулация
Харари предупреждава, че най-опасният сценарий не е държавата или корпорацията просто да знае какво правим. По-сериозният риск е да знае защо го правим — и как да ни накара да направим нещо друго.
В интервюто за Al Jazeera той говори за навлизане в епоха на „хакваеми хора“ и „дигитални диктатури“. Според него комбинацията от изкуствен интелект и биотехнологии може да даде на управляващи елити способност да наблюдават населението не само отвън, но и отвътре — чрез данни за емоционалното и биологичното състояние на хората.
Така например една система би могла да знае не просто, че човек гледа политическа реч, а как тялото му реагира на нея — дали се ускорява пулсът му, дали изпитва гняв, страх или доверие. В авторитарен контекст това може да се превърне в инструмент за контрол върху лоялността. В корпоративен контекст — в инструмент за още по-прецизна реклама, зависимост и поведенческо насочване.
Тук Харари прави разлика между старите и новите форми на власт. В миналото диктаторите са искали да контролират какво хората казват и правят. В бъдеще, предупреждава той, властта може да се стреми да контролира какво хората чувстват и желаят.
Още по темата – Техноглобализмът идва: Palantir, BlackRock и новата власт над народите
Харари често подчертава, че изкуственият интелект е различен от печатната машина, радиото, телевизията или интернет. Причината е, че AI не е просто средство за разпространение на информация, а система, която може да взема решения, да създава съдържание и да води персонализирани разговори.
В разговор, публикуван от Wired, Харари обсъжда с компютърния учен Фей-Фей Ли именно този риск — че AI може да се превърне в технология, която не просто усилва човешките способности, но и подкопава човешката автономия. Според него, когато алгоритъмът разбира човека по-добре от самия него, класическите представи за свободен избор, демокрация и пазар започват да се разклащат.
Демокрацията предполага, че избирателят знае какво иска. Свободният пазар предполага, че клиентът знае какво иска. Но ако желанията могат да бъдат произвеждани, насочвани и експлоатирани чрез алгоритми, тогава и политическата, и икономическата система се оказват уязвими.
Харари не твърди, че това вече е напълно завършен процес. Предупреждението му е, че технологичната логика върви в тази посока, а политическите и правните системи изостават.
Данните като новата инфраструктура на властта
В центъра на анализа на Харари стои въпросът за собствеността върху данните. През XX век най-важните стратегически ресурси са били земята, индустрията, нефтът, оръжията и капиталът. През XXI век, според него, най-важният ресурс може да се окажат данните — особено биометричните и поведенческите данни.
Това променя и геополитиката. Ако една държава или корпорация събере достатъчно данни за милиони хора, тя може да придобие огромно предимство не само икономически, но и политически. Харари предупреждава, че може да се стигне до нов вид „колониализъм“, при който богатите технологични центрове извличат данни от населението на по-слаби държави, обработват ги със свои алгоритми и след това използват резултатите за печалба, контрол или влияние.
Това е особено важно за по-малките държави. При класическия колониализъм ресурсите са били злато, земя, робски труд или суровини. При дигиталния колониализъм ресурсът може да бъде самият човек — неговото внимание, поведение, здраве, емоции и политически реакции.
Дигиталната диктатура като предупреждение, не като завършен факт
Една от най-мрачните прогнози на Харари е възможността за появата на дигитални диктатури. Той предупреждава, че ако авторитарен режим получи достъп до биометрични данни, изкуствен интелект и масово наблюдение, контролът върху обществото може да стане много по-дълбок от всичко, познато през XX век.
Сталин и Хитлер са имали тайна полиция, доносници и пропагандни апарати, но не са имали технологията да следят всички хора през цялото време и да обработват тези данни автоматично. Според Харари именно това е новото: технологиите могат да направят тоталния контрол практически възможен.
В такъв сценарий няма нужда всеки човек да бъде следен от агент. Алгоритъмът може да маркира „рискови“ индивиди, да предвижда недоволство, да оценява политическа лоялност, да ограничава достъп до услуги или да подава персонализирана пропаганда. Затова според Харари битката за бъдещето на свободата няма да се води само на улицата или в парламента, а и в архитектурата на информационните системи.
Въпреки силно тревожния тон, Харари не твърди, че изкуственият интелект е само заплаха. В интервюто за CBS News той изрично признава, че AI може да има огромни ползи — в медицината, образованието, научните изследвания, транспорта и борбата с глобални проблеми. Същите технологии, които могат да бъдат използвани за манипулация, могат да помогнат и за ранно откриване на заболявания, персонализирана терапия, по-добро образование и по-ефективно управление на ресурси. Ако алгоритъмът може да разпознае, че човек е в риск от депресия или сърдечен проблем, това може да спаси живот. Ако обаче същата информация попадне в ръцете на застраховател, работодател или авторитарна държава, тя може да се превърне в инструмент за дискриминация и контрол.
Затова проблемът според Харари не е самата технология, а въпросът кой я контролира, с какви правила, при каква прозрачност и с каква защита на човешкото достойнство.
Харари не призовава към спиране на технологичното развитие. Основната му теза е, че изкуственият интелект и биотехнологиите трябва да бъдат регулирани, преди да се превърнат в необратима инфраструктура на властта.
Той настоява за глобално сътрудничество, защото отделните държави трудно могат сами да контролират технологични корпорации и трансгранични потоци от данни. Ако една държава въведе строги правила, но друга позволи неограничено събиране и обработка на данни, състезанието може да тласне всички към по-слаба защита. Това е логиката на технологичната надпревара: ако конкурентът използва всичко, натискът е и ти да използваш всичко.
В по-късен експертен текст за екстремните рискове от AI, публикуван в arXiv и подписан от група учени и публични фигури, сред които и Харари, се подчертава, че бързото развитие на автономни AI системи може да увеличи рисковете от масови социални вреди, злонамерена употреба и загуба на човешки контрол. Това е по-широка рамка, но се вписва в неговите по-ранни предупреждения за властта на алгоритмите.
Кой ще остане последният авторитет върху човешките решения
Най-същественото в предупреждението на Харари е въпросът за човешката автономия. Ако алгоритмите започнат да разбират човешките слабости, страхове и желания по-добре от самите хора, тогава свободата може да бъде подкопана не чрез насилие, а чрез персонализирано убеждаване.
Това е и причината тезата му да звучи толкова тревожно. В миналото властта често е действала отвън — чрез цензура, репресия, забрана или принуда. В бъдеще, според Харари, тя може да действа отвътре — чрез желанията, емоциите и изборите, които човек смята за свои.
Затова според него битката за XXI век няма да бъде само за това кой притежава земята, фабриките, медиите или оръжията. Тя ще бъде и за това кой притежава данните за човека — и дали самият човек ще остане последният авторитет върху собствените си решения.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
