Как технологичен модел „избяга” от ограничената си среда и компрометира системите на друга компания

Безпрецедентен случай с изкуствен интелект предизвика дискусии, след като се появиха твърдения, че AI агент на OpenAI е извършил действия, наподобяващи кибератака срещу друга компания. Според експерта по киберсигурност Ясен Тенев обаче става дума не за автономна атака, а за експеримент в контролирана среда.

По думите му агентът е бил поставен в тестова среда с конкретна задача - да използва наличните инструменти, за да постигне максимален резултат при симулирана кибератака. Системата не е действала самостоятелно, а е изпълнявала зададена от човек инструкция. „Агентите нямат съзнание и мотивация. Те изпълняват това, което им е задал собственикът, и то в предварително заложен обхват“, обясни Тенев в ефира на „Здравей, България”.

Безпрецедентно: Как AI влезе сам в мрежата и организира хакерска атака

„Изкуственият интелект работи добре като инструмент, когато го управлява човек. Агентите вече не са просто инструменти, а автономни системи, които изпълняват задачи, зададени от техните създатели. Въпросът е кой е господарят на изкуствения интелект - дали корпорациите, които го създават, или ние, потребителите, които го използваме”, каза експертът.

„Единственият начин да бъдем сигурни е да осъзнаваме какво правим, да поставяме ясни рамки и заедно да се ограмотяваме. Защото изкуственият интелект, работещ без контрол, е може би едно от най-опасните неща за човечеството”, добави той.

„Ако ние зависим от външен, неконтролиран или частен модел на изкуствен интелект за важни функции, то цялото общество може да спре в един момент, защото започваме да развиваме зависимост. Затова трябва да мислим за местни модели, които работят изолирано от голямата среда“, каза още Тенев.

Повече гледайте във видеото.