АІ знищив вибори в Бангладеш за допомогою дипфейків — FT

Фото: RTE | Прем’єр-міністерка Шейх Хасіна

Перед січневими виборами в країні зі 170 млн жителів з’явилося безліч роликів про опозиціонерів. Відео створювали ШІ-алгоритми: в одному політики радили не підтримувати Газу, щоб не сердити США. В іншому опозиціонер прибріхував щодо свого віку.

Related video

Офіційні особи в усьому світі непокояться щодо того, що дезінформація, яка поширюється за допомогою ШІ-алгоритмів, може ввести виборців в оману під час кількох передвиборчих кампаній наступного року. Про це пише The Financial Times.

В одній країні подібне вже сталося. На початку січня в Бангладеш відбудуться вибори. Чинна прем’єр-міністерка Шейх Хасіна протистоїть опозиційній націоналістичній партії.

В останні кілька місяців проурядові новинні агентства та впливовці в 170-мільйонній південноазійській країні поширювали фейки, створені за допомогою дешевих ШІ-інструментів. В одному з таких роликів опозиційний діяч двозначно висловлюється щодо Гази, що в переважно мусульманській країні, яка здебільшого співчуває Палестині, неодмінно призвело б до політичної катастрофи.

Перед виборами в США, Великій Британії, Індії та Індонезії представники Google і Meta пообіцяли посилити контроль за опублікованим контентом. Авторів зобов’язали повідомляти, чи були їхні креативи якось змінені за допомогою цифрових інструментів.

Але все ж приклад Бангладеш показує, як ці розробки можуть застосовуватися на виборах і наскільки складно їх контролювати на невеликих ринках.

Мірадж Ахмед Чоудхурі, директор бангладешської дослідницької компанії Digitally Right, каже, що, попри те, що фейки, які створюють за допомогою ШІ, все ще перебувають “на рівні експерименту” — більшість роблять за допомогою звичайних відео- та фоторедакторів, — усе ж це може бути початком чогось більшого.

Із поширенням ChatGPT й відеогенераторів на основі ШІ увага до проблеми зросла. На початку року Національна комісія Республіканської партії США поширила агресивний рекламний відеоролик, у якому були присутні елементи ШІ: зображувалася антиутопічна картина майбутнього за президентства Джо Байдена.

YouTube, зі свого боку, заблокував кілька акаунтів у Венесуелі, у яких створені штучним інтелектом диктори висвітлювали події в кращому ключі для президента Ніколаса Мадуро.

У Бангладеш антиопозиційні дипфейки публікувалися у Facebook. Один із них нібито розмістили від імені опозиціонера Таріка Рахмана, який перебуває у вигнанні. Створений дипфейк радить мовчати про Газу, щоб не сердити США.

Скриншот дипфейк-відео за участю опозиціонера

Ще один ролик, як вважається, зробила компанія з Лос-Анджелеса HeyGen, яка дає змогу за 24 долари на місяць генерувати відео за участю інших людей.

У ще одному відео лідер молодіжного крила партії BNP Рашед Ікбал Хан неточно називає свій вік, що, як вважається, було спробою дискредитації політика. Над роликом працювала компанія D-ID із Тель-Авіва.

Головна складність із виявленням подібної дезінформації — брак необхідних цифрових інструментів, особливо для пошуку неангломовного контенту, пояснила Шабханаз Рашид Дія, засновниця Tech Global Institute і колишня співробітниця Meta. За її словами, заходи контролю IT-гігантів мало чим допоможуть у таких країнах, як Бангладеш.

“Рішення, які створюються на тлі навали дезінформації на основі ШІ, дуже заходоцентричні. Інші частини світу технологічні платформи серйозно не сприймають”, — пояснила вона.

Проблема погіршується недостатнім регулюванням. Вважається, що в Бангладеш “Закон про кібербезпеку” дає змогу владі застосовувати драконівські заходи в тому, що стосується поширення інформації в мережі.

Висловлюється й думка про те, що політикам зручно знаходити виправдання та покликатися на ШІ. Наприклад, у відповідь на звинувачення в корупції можна заявити, що йдеться не більше, ніж про фейки та ШІ-ролики.

Нагадаємо про те, що потрібно робити військовим, щоб їхні дані не потрапили до росіян.

Також повідомлялося, що шахраї придумали нову схему, аби викрадати гроші в українців.