Наскоро Пентагонът възложи договор на базирания в Силициевата долина стартъп DeepMedia за използване на неговите технологии за откриване на дълбоки фалшификати с помощта на изкуствен интелект. В описанието на възложения договор се посочва, че компанията трябва да осигури „бързо и точно откриване на дълбоки фалшификати за противодействие на руската и китайската информационна война“, пише Foxnews.
„Сключен бе договор за изграждане на алгоритми за машинно обучение, които са в състояние да откриват синтетично генерирани или модифицирани лица или гласове на всички основни езици, от различни раси, възрасти и полове, и да разработят с изкуствен интелект в платформа, която може да бъде интегрирана в Министерството на отбраната като цяло“, заяви Риджул Гупта, главен изпълнителен директор и съосновател на DeepMedia.
„Съществуват и заплахи за отделни членове на Министерството на отбраната, офицери и войници, от най-високо или най-ниско ниво, които могат да бъдат подправени с лицето или гласа си и това да бъде използвано за придобиване на строго секретна информация от нашите противници в международен план“, каза Гупта.
„Нашият изкуствен интелект всъщност може да вземе аудио или видеоклип, да извлече лицата и гласовете от това съдържание автоматично и след това да прекара лицето или гласа, или и двете през нашите алгоритми за откриване“, каза той. „Алгоритмите ни за откриване са обучени върху милиони истински и фалшиви образци на 50 различни езика и са в състояние да определят с 99,5% точност дали нещо е истинско, или е било манипулирано по някакъв начин с помощта на ИИ.“
„Когато установи, че дадено съдържание е било манипулирано, той подчертава и предупреждава потребителя на Министерството на отбраната за този факт и ще посочи точно коя част от аудио или видеоклипа е била манипулирана, намерението зад тази манипулация и какъв алгоритъм е бил използван за създаването на тази манипулация, така че анализаторите в Министерството на отбраната да могат да ескалират това до съответното лице в техния край“, обясни Гупта.
Съоснователката и оперативен директор на DeepMedia Ема Браун отбеляза, че войната на Русия срещу Украйна е ключов пример за важността на многоезичното откриване на дълбоки фалшификати. „Миналата година имаше deepfake на президента Зеленски в началото на войната в Украйна, а единственият начин, по който това можеше да бъде открито в този момент, беше, че лингвистите знаеха, че акцентът е грешен. И така, това са моменти, които сме в състояние да автоматизираме в рамките на нашата система благодарение на генеративната ни технология.“
Източник: Foxnews