Може ли изкуственият интелект да излезе извън човешкия контрол?

Изкуственият интелект се развива с изключително бързи темпове, а с това нарастват и въпросите за границите на технологията и човешкия контрол върху нея. Все по-често автономни AI агенти могат да предприемат действия в реални интернет системи, извън предварително зададените им ограничения. Необходима ли е по-строга регулация на изкуствения интелект или развитието му трябва да остане максимално свободно?

Според директора на Националния център на книгата към НДК Светлозар Желев именно липсата на достатъчно ясни правила и работещи механизми за контрол крие сериозни рискове. „Без да имаме регулация, работещи системи за контрол върху развитието на изкуствения интелект, за мен може наистина до много висок процент да доведе до най-лошото - унищожението на човечеството“, посочва той за "Твоят ден". Сред рисковете са достъпът до чувствителна информация, разкриването на лични данни, кибератаките, разпространението на дезинформация и възможността технологията да бъде използвана за създаването на оръжия за масово поразяване.

Изкуствен интелект разшифрова за 6 часа военен код от епохата на Наполеон

На противоположната позиция е IT експертът Огнян Киряков, според когото изкуственият интелект не трябва да бъде ограничаван от технологична гледна точка. „Аз съм категоричен, че не трябва да има ограничения. Дори някой да го наложи, нито една от големите лаборатории в Китай, Европа или САЩ няма да спре работа“, коментира той. Според Киряков случващото се с AI системите трябва да бъде разглеждано и като част от естествения процес на развитие на сложна технология. 

Експертът по приложен изкуствен интелект Георги Робев обяснява, че големият езиков модел не може самостоятелно да започне действие без зададена команда. „Голям лингвистичен мултимодален модел не може да бъде активиран самостоятелно. Трябва някой да го попита нещо, т.е. да зададе така наречения промпт“, смята той. По думите му проблемът възниква при AI агентите, които могат да разполагат с допълнителни инструменти и достъп до интернет и така да се опитват да постигнат поставената им цел чрез поредица от действия.

Китайски AI даде инструкции за създаването на биологични оръжия след пробив в защитите на компанията

Спорът за границите на изкуствения интелект вече е и политически. Европейският съюз въвежда регулации за технологията, докато в Съединените щати се обсъжда по-голяма роля на саморегулацията от страна на технологичните компании.