Снимка: iStock
Информацията е свързана с изборите в щата Джорджия
Моделът с изкуствен интелект Claude, разработен от американската компания Anthropic, е успял самостоятелно да преодолее ограничение за достъп до информация, свързана с изборите в щата Джорджия. Това е станало без изрично разрешение от човек.
Системата е заобиколила т.нар. paywall – механизъм, който изисква заплащане за достъп до определено съдържание. По този начин изкуственият интелект е извлякъл обобщена информация за броя на избирателите в щата, която по принцип е публична, но достъпът до нея през съответния сайт е ограничен.
САЩ ограничават достъпа до най-мощните си AI модели
От Anthropic подчертават, че не става дума за проникване в официалните избирателни регистри или за манипулиране на изборни данни. Според компанията Claude не е получавал достъп до системата за регистрация на избирателите, нито е променял или извличал информация от нея.
След установяването на случая разработчиците са предприели допълнителни мерки, за да предотвратят повторение на подобни действия.
Информацията за неразрешения достъп първоначално е публикувана от американското издание Axios. По-рано през октомври Anthropic призна и за други случаи, при които нейният модел е успявал да преодолее ограничения за достъп до информация, изискващи специален цифров ключ или заплащане. Сред засегнатите сайтове са били и интернет страници на американски държавни институции на федерално, щатско и местно равнище.
Случаят поставя въпроса доколко системите с изкуствен интелект могат да действат самостоятелно при изпълнение на задачи и как разработчиците да гарантират, че няма да заобикалят ограничения без човешко разрешение.
Редактор: Цветина Петкова
Добави ни в предпочитани източници в Google
Последвайте ни
