Росія використовує згенеровані ШІ голоси ElevenLabs для підриву підтримки України

Росія використовує генеративний штучний інтелект у новій пропагандистській кампанії, спрямованій на дискредитацію України та підрив допомоги з боку європейських країн. За даними звіту компанії з кібербезпеки Recorded Future, у фейкових відео активно використовувалися голоси, згенеровані за допомогою компанії ElevenLabs.

Джерело: звіт Recorded Future

Деталі: Згідно зі звітом, за організацією кампанії стоїть «Агентство соціального дизайну» – російська структура, яка знаходиться під санкції США. У відео, орієнтованих на європейську аудиторію, українських політиків звинувачували в корупції, а західну техніку, зокрема американські танки Abrams, виставляли як неефективну.

Ключовим інструментом пропагандистської кампанії стали голоси, згенеровані штучним інтелектом. Recorded Future заявляє, що організатори використовували технології компанії ElevenLabs для створення різними європейськими мовами без акценту аудіо, зокрема англійською, німецькою, французькою, польською.

Дослідники встановили, що декілька відео були озвучені реальними людьми. Це стало помітним через помітний російський акцент.

Довідково: Recorded Future спеціалізується на зборі, аналізі та прогнозуванні кіберзагроз з використанням ШІ та машинного навчання для моніторингу відкритої інформації у реальному часі.

Передісторія: 

• Раніше журналісти дослідили, що російська «Агенція соціального дизайну», яка позиціонує себе як організація, що займається медійним супроводом, насправді використовує дезінформацію для дискредитації України та просуває інтереси Росії. Агенцією керує російський політтехнолог Ілля Гамбашидзе.
• Проаналізувавши документи з витоку, «АСД» створює та тиражує у соцмережах стилізовані під матеріали західних медіа сфабриковані відеосюжети, спрямовані проти України.
• Витік документів також підтверджує, що «АСД» керується безпосередньо керівництвом адміністрації господаря Кремля Володимира Путіна.