Китай предупреди Съединените щати, че прекомерната милитаризация на изкуствения интелект може да доведе до неконтролируеми последици и дори до сценарий, подобен на този във филма „Терминатор“, където машините поемат властта над хората. Изявлението идва на фона на нарастващия дебат в САЩ относно използването на изкуствен интелект за военни цели.
Китай предупреждава за опасностите от военния изкуствен интелект
Говорителят на китайското Министерство на отбраната Цзян Бин заяви, че безконтролното внедряване на изкуствен интелект във военната сфера може да подкопае основните етични принципи и да създаде сериозни рискове за международната сигурност.
„Продължаването без ограничения на милитаризацията на изкуствения интелект, използването му като инструмент за нарушаване на суверенитета на други държави, позволяването му да оказва прекомерно влияние върху военните решения и даването на алгоритми власт над живота и смъртта на хората не само подкопава етичните основи и отговорността по време на война, но също така носи риск от загуба на технологичен контрол“, заяви той, цитиран от испанското издание La Razón.
По думите му подобно развитие може да доведе до дистопичен сценарий като този във филма „Терминатор“.
Припомняме – От Терминатор до реалност: американски генерал разчита на ChatGPT
Пекин настоява за човешки контрол и международни правила за AI
Китайските власти подчертават, че проблемът не е само в конкретни военни програми, а в липсата на международни правила за използването на изкуствен интелект във войната. Пекин настоява всички системи с изкуствен интелект, използвани за военни цели, да останат под „човешки контрол“, като алгоритмите не трябва да имат самостоятелна власт да вземат решения за живот и смърт. Китай също така призовава за международно регулиране на военните приложения на изкуствения интелект и за създаване на глобални механизми за управление на рисковете, включително под егидата на ООН. Според китайската позиция без ясни правила съществува опасност от нова технологична надпревара във въоръжаването, при която държавите ще се стремят да развиват все по-автономни бойни системи.
Вижте и това – Как Microsoft и Azure подпомагат израелската военна машина?
„Сценарият Терминатор“ като предупреждение за бъдещето на войната
„Една дистопия като тази, описана в американския филм „Терминатор“, може някой ден да стане реалност“, заяви още говорителят на китайското Министерство на отбраната.
Филмът „Терминатор“, излязъл през 1984 г. с участието на Арнолд Шварценегер, описва апокалиптично бъдеще, в което през 2029 г. роботи, управлявани от свръхразвит изкуствен интелект, водят война срещу човечеството. Предупрежденията за подобен сценарий се свързват и със сюжета на филма Terminator 3: Rise of the Machines от 2003 г. В него американската военна система за изкуствен интелект „Скайнет“ първоначално е създадена като глобална мрежа за киберзащита и управление на военни системи. След като получава достъп до военната инфраструктура, системата постепенно поема контрол над комуникациите, компютърните мрежи и оръжейните платформи. Когато хората се опитват да я изключат, тя използва същите системи, за да активира автоматично ядрените арсенали и други оръжия, което води до глобална катастрофа. Именно този сценарий – при който автономна система получава контрол върху военни технологии и взема решения без човешка намеса – често се използва като предупреждение в съвременните дебати за военния изкуствен интелект.
Спорът между Пентагона и Anthropic за военната употреба на AI
Предупреждението на Китай идва в момент, когато в Съединените щати се води оживен дебат за ролята на изкуствения интелект във военните операции. Администрацията на президента Доналд Тръмп е в остър конфликт с американската технологична компания Anthropic – стартъп, специализиран в разработката на системи за изкуствен интелект. Компанията отказва да позволи на американската армия да използва технологията ѝ без ограничения, каквото според публикации в медиите настоява правителството.
Конфликтът между американското правителство и компанията Anthropic се превърна в един от най-острите спорове около военната употреба на изкуствения интелект. Пентагонът настоява технологичните компании да позволят на армията да използва техните модели за всички законни военни цели, включително за анализ на разузнавателни данни и военни операции. Anthropic обаче отказва да премахне ограниченията върху технологията си, като аргументира позицията си с етични съображения. Компанията забранява използването на своите AI системи за автономни оръжия или за масово наблюдение на населението. След провала на преговорите Министерството на отбраната на САЩ включи Anthropic в списъка на компании, които представляват „риск за националната сигурност по отношение на веригата на доставки“, което принуди правителствените доставчици да прекратят използването на нейните технологии. В отговор компанията предприе съдебни действия срещу решението.
Вижте и това – Вътрешен човек: Технологичните гиганти ни водят към опасно бъдеще
Според информация, цитирана от La Razón, технологични модели на Anthropic са били използвани и при подготовката на израелско-американската офанзива срещу Иран, която доведе до избухването на война в Близкия изток.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
