УНИЦЕФ: Над 1,2 млн. деца са станали жертва на сексуални дийпфейкове през последната година

Над 1,2 милиона деца в 11 държави съобщават, че техни изображения са били манипулирани и използвани в сексуални дийпфейкове през последната година. Това сочат нови данни от проучване на УНИЦЕФ, ЕКПАТ и Интерпол. В някои държави това означава едно засегнато дете на всеки 25 - или по едно дете във всяка класна стая.

УНИЦЕФ е все по-обезпокоен от сигналите за бързо нарастване на броя на сексуализирани изображения, генерирани чрез изкуствен интелект, които циркулират онлайн, включително на деца, се казва в изявление на УНИЦЕФ.

Британски регулатор разследва X заради дийпфейк сексуални снимки, направени с Grok AI

Самите деца осъзнават този риск. В някои от изследваните държави до две трети от децата заявяват, че се притесняват, че AI може да бъде използван за създаване на фалшиви сексуални изображения или видеа. Сексуализираните изображения на деца, независимо дали са генерирани, или манипулирани чрез AI инструменти, са материали със сексуална злоупотреба над деца (CSAM). Вредата, която причинява дийпфейк злоупотребата, е напълно реална. Когато образът или идентичността на дете се използва, то става пряка жертва.

ЕС започва разследване на чатбота "Грок" на Мъск заради сексуални дийпфейкове

УНИЦЕФ призовава спешно за следните действия за справяне с ескалиращата заплаха от генерирани от изкуствен интелект материали за сексуална злоупотреба над деца:

► Всички правителства да разширят определенията за материал със сексуална злоупотреба над деца (CSAM), така че да включват AI-генерирано съдържание и да криминализират неговото създаване, придобиване, притежание и разпространение.

► Разработчиците на AI да прилагат подходи за „сигурност по дизайн“ и да въвеждат стабилни защитни механизми за предотвратяване на злоупотребата с AI модели.

► Дигиталните компании да предотвратяват разпространението на AI-генериран материал за сексуална злоупотреба над деца, а не просто да го премахват, след като злоупотребата вече е настъпила, както и да засилят модерирането на съдържание чрез инвестиции в технологии за разпознаване, така че подобен материал да бъде премахван незабавно, а не дни след докладване от жертва или неин представител.