Навлизаме в нов етап в дигиталната епоха: свят, в който човек може да загуби контрол над собствената си идентичност, а големите технологични платформи да придобият безпрецедентна власт над демокрацията и публичния живот. DiEM25 публикува разговор между икономиста и бивш гръцки финансов министър Янис Варуфакис и журналистката и автор Наоми Клайн, който звучи като предупреждение за това. В рамките на онлайн дискусия, водена от Мехран Халили, Варуфакис описва личния си сблъсък с AI „двойници“, който двамата превръщат в по-широка диагноза на съвременната политическа реалност.
Срещата на Варуфакис със собствения му AI двойник
Варуфакис разказва, че напоследък преживява две паралелни явления. От една страна, в интернет са се разпространили deepfake видеа с негов образ, събрали милиони гледания. От друга – гръцките власти са възродили негови изказвания отпреди десетилетия, за да оправдаят полицейски тормоз. Макар различни по характер, и двете ситуации според него повдигат един и същ въпрос: кой има правото да определя кой си ти.
Вижте още – Технофеодализъм: Янис Варуфакис за края на капитализма
Той описва сюрреалния момент, в който разбира, че популярно видео с „неговата“ реч всъщност не е истинско. Продуцент на Би Би Си му изпраща линк към YouTube с покана за интервю. Когато отваря видеото, Варуфакис осъзнава, че гледа изкуствено генерирана версия на себе си.
По думите му фалшификатът е бил толкова убедителен, че за момент се усъмнил в собствената си памет: видеото изговаряло неща, които би могъл да каже, докато внезапно не вмъкнало твърдение, което никога не би изрекъл и което опонентите му лесно биха използвали за очерняне.
Клайн отбелязва, че е предвидила подобно развитие, докато е писала книгата си Doppelgänger (Дигитален двойник). Според нея всеки, който говори публично – активисти, организатори, автори – вече рискува да бъде „заменен“ от манипулирана дигитална версия на самия себе си. Данните, събрани от книгите и публичните изяви на хората, по думите ѝ вече представляват „двойник, който чака да се появи“.
Как платформите печелят от кражбата на дигитална идентичност
Варуфакис разказва, че е опитал да премахне фалшивите видеа, като се е свързал с Google, тъй като повечето от тях са били качени в YouTube. След поредица от формуляри и процедури част от клиповете са били свалени, но според него в рамките на секунди същите видеа са се появили отново в други канали.
Изводът му е, че проблемът е структурен: изкуствените му двойници събират повече гледания от реалните му изяви, което според него е част от самия бизнес модел на платформите. „Вече дори не притежаваме собствения си аудиовизуален образ“, заключава той.
Клайн свързва това с понятието „enshittification“, въведено от писателя Кори Доктороу, според което платформите първо привличат потребители, правят ги зависими, а след това започват да ги експлоатират. Варуфакис разширява тезата отвъд „надзорния капитализъм“, като твърди, че платформите привличат едновременно потребители и компании, а когато зависимостта стане пълна, започват да „изнудват“ за видимост и достъп. По думите му става дума не само за реклама, а за контрол.
Защо проблемът с AI е политически, а не технологичен
На въпроса дали регулацията може да спре подобни практики, и двамата събеседници са единодушни: технически това е възможно, но политически – трудно. Варуфакис твърди, че големите компании биха могли да ограничат deepfake съдържанието в рамките на час, като посочва колко бързо се премахват нарушенията на авторското право.
Според Клайн причината това да не се случва е свързана с властта. По думите ѝ компаниите се намират в състезание да останат „последната оцеляла фирма“, в контекст на по-широк бунт срещу регулацията. Варуфакис нарича тази концентрация на влияние „облачен капитал“ – технологична мощ, способна да обезсили държавата, която би трябвало да я регулира. За да има ефективен контрол, според него е необходима държава с автономия от регулираните субекти, но днес регулаторите са „овладени“.
Варуфакис: демократизиране на дигиталното пространство
Разговорът придобива по-мрачен тон, когато Клайн насочва вниманието към нарастващата роля на технологичните платформи като инструменти на държавна власт. Тя посочва санкциите срещу специалния докладчик на ООН Франческа Албанезе след неин доклад за „икономиката на геноцида“.
Варуфакис допълва, че според него Албанезе е загубила достъп до социални мрежи, банковата си сметка и дори възможността да продаде апартамента си, което той тълкува като знак за сливане между социалните медии, финансовата система и военно-индустриалния комплекс.
Той разказва и за разговор с бивш служител на Palantir Technologies относно данни, събирани по време на бомбардировки в Газа. По думите му при удари в гъсто населени райони движението на оцелелите и комуникацията им „обучават“ алгоритмите, а впоследствие подобни системи се продават за граждански цели, включително на болници.
Според Клайн целта на дезинформацията и публичното унижение е политическа – да изтласка хората от обществения живот. Тя отбелязва, че жените често са подложени на подобен натиск, насочен към това да ги накара да спрат да говорят публично.
Варуфакис се съгласява и добавя, че това означава отстраняване на хора, възприемани като заплаха за интересите на големите технологични компании. Резултатът е парадокс: индивидите губят контрол над собствената си идентичност, но остават постоянно уязвими за наказание за свои – или изопачени – изказвания от миналото.
Въпреки мрачната картина, и двамата не призовават към оттегляне от дигиталното пространство. Варуфакис подчертава, че средствата за комуникация не бива да бъдат изоставяни, а „социализирани“. Клайн допълва, че обществото заслужава „информационно общо благо“, като според нея настоящите бизнес модели са изградени върху присвояване.
Двамата очертават двойна задача: организиране в реалния свят и паралелна политическа борба за демократизиране на дигиталната инфраструктура. В заключение Варуфакис обобщава, че става дума за политически проблем, който може да бъде решен единствено в полето на политиката.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
