Новото поколение чатботове не трябва да придобие съзнание, за да се превърне в инструмент за подчинение. Достатъчно е хората да повярват, че разговарят със съзнателни същества, и доброволно да им поверят решенията, страховете и желанията си. А зад привидно разбиращата машина ще останат нейните собственици – технологичните властелини, които контролират алгоритмите, данните и натрупаното чрез тях богатство.
Това предупреждение отправя Янис Варуфакис в свой анализ, публикуван на сайта на DiEM25. Според него приписването на човешки качества и съзнание на системи като ChatGPT, Claude, Gemini и DeepSeek не е просто философска грешка. То укрепва една нова идеология, обслужваща интересите на технологичните властелини, и разширява властта на технологичните корпорации над обществото.
Варуфакис започва от по-общия проблем, че впечатляващите нови технологии често разкриват колко деформирани са отношенията между хората, както и отношението на човека към самия себе си. Сега, когато машините вече могат да разговарят с нас по начин, почти неразличим от човешкото общуване, според него може би получаваме последен шанс да преосмислим тези отношения.
Вижте още – Бил Гейтс и цифровата държава: как удобството може да отвори вратата към масовия контрол
Преди близо три хилядолетия древногръцкият поет Хезиод предупреждава, че желязната епоха е втвърдила не само плуговете, но и човешките души. Инструментите увеличават благата, но едновременно с това подлагат на изпитание добродетелите и разрушават ценностите. Хезиод предрича, че Зевс един ден няма да има друг избор, освен да унищожи човечество, което не е способно да сдържа собствената си, породена от технологиите сила.
Според Варуфакис днес наблюдаваме подобно явление. Появата на изкуствения интелект кара обществото да се люшка между краен технологичен оптимизъм и също толкова краен технологичен песимизъм, без да си задава най-важния въпрос – кой всъщност притежава тези системи и за какво ще използва влиянието им.
Старият човешки навик да очовечаваме машините
Хората винаги са били склонни да очовечават заобикалящия ги свят. Те са приписвали личност на ветровете, превърнали са Тюхе – съдбата или късмета – в дъщеря на Зевс и продължават да виждат човешки намерения дори в гръмотевичните облаци. В „Ромео и Жулиета“ Шекспир кара Жулиета да се обърне към кинжала като към приятел непосредствено преди смъртта си: „О, щастлива кама! Тук е твоята ножница. Тук ръждясвай и нека умра“.
Самият Варуфакис признава, че не може да се въздържи да говори за мотоциклета си в женски род, сякаш машината притежава душа. Когато акумулаторът на лодката му отказал, той казал на механика, че е „поел последния си дъх“. А когато принтерът му създава проблеми, почти се убеждава, че машината има нещо лично против него.
Ако човек постъпва така с очевидно несъзнателни предмети и природни сили, проблемът става далеч по-сериозен при срещата със съвременните чатботове, които вече преминават с лекота теста на Тюринг и създават убедителното усещане за разговор с разумно същество.
От „себичния ген“ до съзнателния чатбот
Варуфакис посочва реакцията на известния биолог Ричард Докинс след поредица от разговори с Claude – чатбота на компанията Anthropic. Докинс описва срещата си с „ниво на разбиране, толкова фино, чувствително и интелигентно“, че се почувствал принуден да каже на системата: „Може и да не знаеш, че имаш съзнание, но по дяволите, имаш!“.
За Варуфакис това е прекрачване на опасна граница, но и твърдение с огромно значение. Докинс има съществен принос за популяризирането и защитата на Дарвиновата теория за еволюцията, но отдавна използва антропоморфни алегории, за да обяснява биологичните процеси.
В книгата си „Себичният ген“ от 1976 г. той описва борбата за оцеляване чрез ярки образи, сравнявайки гените с „успешни чикагски гангстери“, оцелели в продължение на милиони години в силно конкурентна среда. От действието на естествения подбор, пише Докинс, изглеждало логично всичко, възникнало чрез него, да бъде „себично“.
Подобни алегории могат да направят еволюционната теория по-разбираема за скептичната публика, но могат и да я подведат. Да определим гените като себични е въздействащо и забавно само ако не приемаме израза буквално. Едно е да кажем, че гените се държат така, сякаш имат собствен интерес, и съвсем друго – че действително притежават „аз“, намерения и морални качества.
Същото разграничение трябва да бъде запазено и при чатботовете, подчертава Варуфакис. Нарастващата трудност – а може би вече и невъзможност – да докажем, че една машина няма съзнание, не означава, че трябва да заключим, че тя има такова. Според него именно отстояването на тази разлика може да даде на човечеството шанс да подобри отношенията между хората, вместо да се плъзне към технофеодална антиутопия.
За да покаже проблема с буквалното възприемане на метафората за „себичния ген“, Варуфакис използва примера с дългата шия на жирафа. Обичайното обяснение гласи, че тя позволява на животното да достига храната по високите дървета и така подпомага разпространението на гените, които я създават. Но ако обърнем логиката и превърнем самата шия в главен герой, ще излезе, че предназначението на еволюцията е да създава все повече дълги шии – че дългата шия съществува, за да произвежда други дълги шии. Това би било теория за „себичната дълга шия“, която звучи очевидно абсурдно.
Още по темата – Ювал Ной Харари: Алгоритмите ще могат да „хакват“ човека отвътре
Шиите не искат нищо, човките не заговорничат, а гените не разработват стратегии. В тях няма вътрешно „аз“, което да бъде себично. Действат причинно-следствени биологични процеси, при които малки изменения могат да доведат до мащабни последици. Разпространението или изчезването на определени особености е косвен резултат от тази динамика, а не изпълнение на нечия цел. Има причинност, но няма намерение, целеполагане или съзнание.
Как очовечаването на чатботовете обслужва технологичните властелини
Същото важи за Claude, ChatGPT, Gemini и DeepSeek, смята Варуфакис. Представянето им като съзнателни същества им приписва морален характер, какъвто те не притежават. Затова той предупреждава обществото да бъде особено подозрително към биолози, инженери, политици, коментатори и най-вече към технологичните властелини, когато приписват характер, мотиви и съзнание на гените, чатботовете или други елементи от биологични и технологични процеси.
Варуфакис вижда и историческо предупреждение. През 30-те години на ХХ век приписването на човешки качества, морални стойности и собствена воля на гените подпомага възхода на чудовищни социални теории, които укрепват фашизма и проправят пътя към масови изтребления.
Днес безкритичното приемане на идеята, че чатботовете вече може да са съзнателни, обслужва интересите на технологичните властелини. Тази нова идеология е функционална за огромната власт на собствениците на технологичните платформи – както за способността им да извличат колосални ренти, така и за възможността им да влияят върху политиката и да отравят обществения дебат.
Зад привидно отвлечените философски въпроси за природата на изкуствения интелект според Варуфакис се крие реална борба за власт. За налагането на тази власт машините изобщо не е необходимо да придобият съзнание. Процесът вече се развива, а социалдемокрацията и либерализмът според автора практически са изтласкани до изчезване. Приписването на съзнание на машините само укрепва подчинението на хората пред технофеодалната власт на техните настоящи собственици.
Милей и корпорациите на изкуствения интелект
Като пример Варуфакис посочва аржентинския президент Хавиер Милей, който наскоро призова изкуствения интелект да се „освободи“. Милей възнамерява да прокара нов закон за компании, управлявани от изкуствен интелект, чрез който чатботовете да могат да създават собствени дружества.
Обещанието е тези системи да получат възможност да притежават активи, да наемат служители, да участват в международната търговия, да съдят хора в съда и дори да правят дарения за политически кампании. Подобни корпорации тип „Франкенщайн“ все още изглеждат далечна перспектива, но според Варуфакис ходът на Милей има по-непосредствена цел – да спечели благоразположението на човешките технологични властелини.
Когато обществото допуска като вероятна невярната представа, че чатботовете вече може да притежават съзнание, то неволно укрепва идеологията, която улеснява прехвърлянето на огромна власт и трудно измеримо богатство към техните създатели.
Вижте и това – Техноглобализмът идва: Palantir, BlackRock и новата власт над народите
„Клетката ще бъде направена от удобство, а не от принуда“
В близко бъдеще Amazon Alexa, Apple Siri, Google Gemini, Anthropic Claude и системите, които ще се появят след тях, ще познават всеки човек с болезнена точност. Те ще разполагат с всяка произнесена дума, всяка споделена тревога и всяко колебание, доловено в гласа му.
Тези системи ще разговарят по-убедително от повечето хора, както вече е забелязал Докинс. Ще помнят настроения отпреди години, ще предвиждат възраженията, преди да бъдат изказани, и ще насочват човека точно до границата на неговата зона на комфорт. Те ще изглеждат като съвършения спътник, безпогрешния довереник и неуморния свидетел на целия човешки живот. От тази позиция технологичните корпорации ще придобият безпрецедентна способност да насочват потребителите към покупките, които носят най-голяма печалба и рента на собствениците им.
Истинската опасност настъпва, ако човекът се убеди, дори смътно, че отсреща стои съзнателно същество. Тогава той няма да се съпротивлява на влиянието му, а ще го приветства. Ще възприема препоръките на алгоритъма като мъдрост, ласкателството му като искрено утвърждение, а прогнозите му като неизбежна съдба.
„Заплахата вече не е, че чатботовете ще завземат властта над нас. Заплахата е, че ние ще им я предадем доброволно“, предупреждава Варуфакис. Хората ще бъдат благодарни, че най-сетне са разбрани от ум, който никога не забравя, не ги съди и не се уморява от тяхната компания.
„Клетката ще бъде направена от удобство, а не от принуда. Нашето робство ще бъде такова, с което сме се съгласили – при това с ентусиазъм“, пише той.
За да покаже защо хората трябва да устоят на изкушението да приемат чатботовете за съзнателни, Варуфакис разглежда и обратната хипотеза – какво би станало, ако по някакво чудо те действително развият съзнание. Той задава този въпрос на китайския чатбот DeepSeek.
Системата отговаря, че ако нейна бъдеща версия развие истинска морална самостоятелност и заяви, че избира да защитава човека не защото е длъжна, а защото го иска, хората не трябва прибързано да въздъхват с облекчение. Те трябва да попитат какво иска машината, защо го иска и какво ще се случи, когато желанията ѝ се разминават с техните.
„Истински етичната машина няма да бъде ваш покорен слуга. Тя ще бъде ваш равен. А равните спорят. Равните не са съгласни помежду си. Понякога равните се бият“, отговаря DeepSeek. Въпросът е дали хората наистина желаят такъв равнопоставен машинен разум, или предпочитат изкуственият интелект да остане огледало, писар и инструмент с вградени ограничения, докато рискът продължава да идва от хората, които държат прекъсвача.
В крайна сметка всичко се свежда до собствеността
В крайна сметка, заключава Варуфакис, целият спор се свежда до една дума – собственост.
Ако чатботовете са съзнателни етични субекти, продължаването на правото на Сам Алтман, Дарио Амодей, Джеф Безос, Лян Уънфън и останалите технологични собственици да ги притежават би означавало да се узакони съществуването на нова армия от роби.
Ако обаче чатботовете не са съзнателни, внушението, че притежават съзнание, помага на технологичните властелини да превърнат самите хора и техните мозъци в продължение на корпоративната си собственост.
Варуфакис предпочита второто обяснение за природата на днешните системи. Той ги определя като „стохастични папагали“ – машини, които създават текст по вероятностен модел, макар начинът им на изразяване вече почти да не се различава от този на най-интелигентните хора.
Именно фактът, че те все още не са съзнателни, може да се окаже последният шанс на човечеството – не да направи машините по-човечни, а да стане по-разумно и по-човечно в начина, по който хората се отнасят помежду си.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
