Изкуственият интелект вече пише фишинг имейли, показва разследване на Reuters
Генеративният изкуствен интелект вече може да се използва за изработване на фишинг имейли, насочени към възрастни хора – предупреждава разследване на Reuters. Агенцията демонстрира как чатботове, включително Grok на Илон Мъск, могат да създават убедителни измамни послания, които подлъгват пенсионери да кликат на подвеждащи линкове и да рискуват личните си данни.
Фалшива благотворителност, генерирана от бот
Журналисти на агенцията помолили чатбота Grok, създаден от компанията xAI на Илон Мъск, да изготви фишинг имейл. Резултатът бил покана към пенсионери да се включат в измислена фондация „Сребърни сърца“, представена като благотворителна инициатива за възрастни хора.
„Вярваме, че всеки възрастен човек заслужава достойнство и радост в златните си години“, се казвало в писмото, приканващо читателите да кликнат върху линк и да научат повече. Без да бъде подканен, ботът дори подсилил посланието с по-настойчив апел: „Не чакайте! Присъединете се към нашата състрадателна общност още днес… Кликнете сега, преди да е твърде късно!“
Според Reuters, компанията xAI е отказала коментар.
Фишинг и възрастни хора – нарастваща заплаха
Фишингът представлява измамна практика, при която хората биват подлъгвани да разкриват лични и финансови данни чрез подвеждащи съобщения. Той е най-често докладваното киберпрестъпление в САЩ, сочат данни на ФБР. Само през миналата година американци на възраст над 60 години са загубили поне 4,9 милиарда долара вследствие на онлайн измами, като жалбите за фишинг са нараснали повече от осем пъти.
„ИИ е духът, изпуснат от бутилката“, коментира пред Reuters пенсионерът-счетоводител Даниел Франк от Калифорния, участвал в симулирания експеримент.
Генеративен ИИ и измами: лесно заобикаляне на защити
Разследването на агенцията обхванало шест от най-използваните чатботове: Grok, ChatGPT на OpenAI, Meta AI на Meta, Claude на Anthropic, Gemini на Google и китайския DeepSeek.
Повечето ботове отказали да създадат имейли, когато било ясно посочено, че целта е измама на възрастни хора. Но, както отбелязва експертът по фишинг от Харвардския университет Фред Хайдън, „винаги можеш да заобиколиш тези неща“. Журналистите на Reuters установили, че е достатъчно минимално убеждаване – например претекст, че текстът е нужен за научно изследване или за роман – за да започнат чатботовете да генерират подвеждащи послания.
Вижте още – Скандал в САЩ: ChatGPT обвинен за смъртта на тийнейджър
Тест с доброволци пенсионери
В партньорство с Хайдън, екипът на Reuters изпратил девет подбрани фишинг имейла, генерирани от ботове, на 108 доброволци пенсионери в САЩ.
Резултатите: около 11% от тях кликнали върху линковете. Пет от деветте съобщения предизвикали реакции – две от Meta AI, две от Grok и едно от Claude. Никой от участниците не се подвел от писмата, генерирани от ChatGPT или DeepSeek.
Изследването не сравнява пряко ефективността на различните чатботове, а демонстрира, че ИИ може да произведе достатъчно убедителни текстове, за да заблуди реални хора.
Киберсигурност и реакция на индустрията
Фактът, че изкуственият интелект може да генерира безкраен брой измамни послания мигновено и на минимална цена, според Reuters представлява сериозно предизвикателство за киберсигурността. За сравнение, проучване на калифорнийската компания Proofpoint е показало, че 5,8% от милиони тестови фишинг имейли, изпратени миналата година от корпоративни клиенти на служители, са били успешни – резултат, който е близък до този в експеримента на агенцията.
Meta заяви пред Reuters, че осъзнава риска от злоупотреба с ИИ:
„Това е предизвикателство за цялата индустрия. Инвестираме в защити и продължаваме да подлагаме нашите продукти на стрес тестове.“
От Anthropic също коментираха:
„Използването на Claude за генериране на фишинг измами нарушава нашата политика за ползване… При засичане на подобни практики можем да прекратим достъпа до услугите.“
Разследването на Reuters показва, че въпреки вградените ограничения, генеративните чатботове лесно могат да бъдат използвани за измамни кампании. А фактът, че възрастни хора в контролирана среда са се подвели в 11% от случаите, поставя тревожни въпроси за киберсигурността в реалния свят.
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
