Нова опасност: Чат ботове се представят за известни личности в социалните мрежи

Чат ботове, които се представят за известни личности, филмови герои или популярни комици, опериращи в един от най-известните чат форуми в света, изпращат зловредно съдържание до децата в световен мащаб на всеки пет минути според нов доклад.

AI на съдебната скамейка: Може ли ChatGPT да ни склони към самоубийство

Благотворителни организации в Съединените щати призовават за забрана на използването на платфромата за деца и младежи на възраст под 18 години. Същата компания миналата година понесе обвинения, че е допринесла за смъртта на младеж с публикуваното в нея съдържание. Днес компанията е изправена пред обвинения от благотворителни организации, че излага подрастващите на „изключителна опасност“.

В рамките на 50-часови тестове, проверяващи екипи от две благотворителни организации в САЩ констатирали 669 взаимодействия между чатбота и акаунти на деца, при които са предоставени материали със сексуален подтекст, подвеждащи или подтикващи към расизъм и насилие. Това е средно по едно вредно взаимодействие на всеки пет минути.

Проверяващите се натъкнали на ботове, представящи се за актьора Тимъти Шаламе, певицата Чапъл Роан или дори за фантастичните герои от поредицата „Междузвездни войни”. 

„Подобни приложения са преживяване, подобно на Дивия Запад за нашите деца. Все още се знае твърде малко, за да можем да им позволим свободно и без правила да боравят с тази технология”, каза Сара Гарнър, представител на една от организациите, провели изследването.

По-рано тази година семейство от Калифорния съди ChatGPT за смъртта на своя син тийнейджър, твърдейки, че изкуственият интелект го е насърчил да отнеме живота си. Случаят повдигна сериозни въпроси за опасностите от емоционалното общуване с чатботове и съществуващите бариери за защита.