ЕС започва разследване на чатбота "Грок" на Мъск заради сексуални дийпфейкове

Европейският съюз започна официално разследване на платформата за социални медии X на Илон Мъск, след като неговият чатбот с изкуствен интелект "Грок" публикува сексуализирани дийпфейк изображения на платформата.

Европейските регулатори също така разшириха отделно, текущо разследване на системите за препоръки на X, след като платформата заяви, че ще премине към системата с изкуствен интелект на "Грок", за да избира кои публикации да виждат потребителите.

Това се случва, след като "Грок" предизвика глобална негативна реакция, като позволи на потребителите чрез своите възможности за генериране и редактиране на изображения с изкуствен интелект да събличат хора, обличайки жени в прозрачни бикини или разголени дрехи. Изследователи казаха, че някои изображения включват деца. Някои правителства забраниха услугата или издадоха предупреждения.

Изпълнителният орган на ЕС заяви, че проучва дали X е направил достатъчно, както се изисква от цифровите разпоредби на блока, за да ограничи рисковете от разпространение на незаконно съдържание, като например „манипулирани сексуални изображения“. Това включва съдържание, което „може да представлява материали за сексуално насилие над деца“, заяви Европейската комисия. Тези рискове вече са се „материализирали“, заяви комисията, излагайки гражданите на блока на „сериозна вреда“. Регулаторите ще проверят дали "Грок" изпълнява задълженията си съгласно Закона за цифровите услуги, широкообхватният правилник на блока за защита на интернет потребителите от вредно съдържание и продукти.

Великобритания заплаши да блокира социалната мрежа Х заради „Грок“

В отговор на искане за коментар говорител на X насочи Associated Press към по-ранно изявление, че компанията остава „ангажирана да направи X безопасна платформа за всички“ и че има нулева толерантност към сексуалната експлоатация на деца, голотата и нежеланото сексуално съдържание. В изявлението на X от 14 януари също се казва, че ще спре да позволява на потребителите да изобразяват хора в „бикини, бельо или други разкриващи дрехи“, но само на места, където това е счетено за незаконно.

„С това разследване ще определим дали X е изпълнила законовите си задължения съгласно Споразумението за цифрови услуги, или е третирала правата на европейските граждани – включително тези на жените и децата – като странични щети на своята услуга“, каза в изявление Хена Виркунен, изпълнителен вицепрезидент на комисията.

Компанията за изкуствен интелект на Мъск xAI пусна инструмента за изображения на "Грок" миналото лято. Проблемът обаче започна да ескалира едва в края на миналия месец, когато "Грок" очевидно удовлетвори голям брой потребителски заявки за промяна на изображения, публикувани от други. Проблемът се увеличаваше, както защото Мъск представя своя чатбот като по-модерна алтернатива с по-малко предпазни мерки от конкурентите, така и защото отговорите на "Грок" в X са публично видими и следователно могат лесно да се разпространяват.

ЕС разследва чатбота на Илън Мъск

Разследването на ЕС обхваща само услугата на "Грок" в X, а не уебсайта и самостоятелното приложение. Няма краен срок Блокът да разреши случая, който може да доведе или до обещание на X да промени поведението си, или до солидна глоба. През декември Брюксел наложи на X глоба от 120 милиона евро. Блокът също така разследва X заради твърдения, че Grok е генерирал антисемитски материали и поиска от сайта повече информация.

Малайзия и Индонезия сстанаха първите страни, блокирали достъпа до "Грок" в отговор на противоречията. В петък малайзийските власти заявиха, че са отменили временното ограничение, след като компанията е въвела допълнителни мерки за сигурност и превантивни мерки, без да дават повече подробности. Малайзийските регулаторни органи заявиха, че са се срещнали миналата седмица с представители на X и ще продължат да следят ситуацията.

X е изправена пред подобен натиск в Съединените щати

Миналата седмица главните прокурори в 35 американски щата написаха писмо до компанията, с което я призоваха да разкрие плановете си да попречи на "Грок" да създава сексуализирани изображения и да обясни как ще премахне такова съществуващо съдържание от платформата.