Изкуственият интелект вече навлиза не само в бизнеса и администрацията, но и в най-чувствителната сфера — военната, пише в публикация публикация на Ars Technica. По време на годишната конференция на Асоциацията на армията на САЩ във Вашингтон генерал-майор Уилям „Ханк“ Тейлър, командващ Осмата армия, базирана в Южна Корея, е признал, че редовно използва ChatGPT или подобен чатбот за анализ и вземане на решения.
„Chat и аз напоследък сме много близки,“ казал той шеговито пред журналисти, използвайки умалителна форма за изкуствения си асистент. „Като командир това е нещо изключително интересно за мен.“
Американски генерал използва ChatGPT за планиране и решения
Както съобщава специализираният сайт DefenseScoop, генерал Тейлър е обяснил, че армията, която командва, използва генеративен изкуствен интелект за модернизиране на прогнозните анализи, логистиката и оперативното планиране.
„Помага ни в рутинни задачи — например при писането на седмични отчети и справки,“ казва той. „Но също така подпомага общата ни посока на действие.“
Припомняме – OpenAI и Пентагонът: съюз за сигурност или сценарий за Терминатор 0.1
Особено внимание генералът отделя на подобряване на процеса на вземане на решения сред войниците:
„Едно от нещата, по които лично работя с моите подчинени, е вземането на решения — както индивидуалните, така и организационните. Опитваме се да изградим модели, които да ни помагат по-добре да разбираме как решаваме — не само за себе си, но и за цялата структура и нейната готовност,“ казва Тейлър.
Къде свършва помощта и започва зависимостта от ИИ
Както отбелязва Ars Technica, това все още е далеч от „терминаторския“ сценарий, при който автономни системи вземат смъртоносни решения без човешка намеса.
Въпреки това използването на модели с голям езиков капацитет (LLMs) за военни решения поражда притеснения — предвид добре известната склонност на тези системи да генерират фалшиви източници или да угодничат на потребителя.
През май армията на САЩ представи т.нар. Army Enterprise LLM Workspace, изграден върху комерсиалната платформа Ask Sage, която улеснява текстови задачи като писане на прессъобщения и кадрови описания.
Но дори военните признават, че генеративният ИИ невинаги е ефективен инструмент за подобни цели.
Главният информационен директор на армията Леонел Гарсига заяви през август пред DefenseScoop:
„Често виждаме как хора използват тази технология, за да решат нещо, което може да се направи с едно уравнение в Excel. Понякога плащаме много повече пари за нещо, което не е по-добро, а просто по-модерно.“
Кой контролира машината?
Както припомня Ars Technica, през 2023 г. Държавният департамент на САЩ публикува принципи за отговорно използване на изкуствен интелект във военната сфера. Те подчертават, че винаги трябва да има човешки контрол върху „всички решения, свързани с използването на ядрени оръжия“, както и възможност „да се изключат системи, проявяващи нежелано поведение“.
Въпреки тези насоки, интересът на военните към новите технологии расте. Според изданието, армията вече тества автоматизирани системи за целеуказване на дронове и алгоритми за подобряване на ситуационната осведоменост, включително чрез партньорство между OpenAI и военния изпълнител Anduril.
През януари 2024 г. OpenAI премахна забраната за военни приложения на ChatGPT, макар че все още не допуска разработването или използването на оръжия чрез своите модели.
Между ефективност и риск: ще мисли ли армията вместо човека?
Както обобщава Ars Technica, случаят с генерал Тейлър илюстрира все по-тънката граница между ефективното използване на ИИ и опасността от зависимост от него при критични решения.
Докато някои виждат в това естествена еволюция на командването и анализа, други предупреждават, че машини, способни да „помагат“ при решения, лесно могат един ден да започнат да ги вземат сами.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
