Велислава Делчева: Човекът трябва да остане в центъра на решенията, а не изкуственият интелект

Изкуственият интелект (AI) все по-често навлиза в работата на институциите и бизнеса, но използването му крие и рискове за правата на гражданите. За това предупреди в „Интервюто в Новините на NOVA“ омбудсманът Велислава Делчева.

Все повече държавни институции получават писма и жалби, изготвени с помощта на AI. Според Делчева самото използване на подобни инструменти от гражданите не е проблем. По-сериозните предизвикателства възникват, когато изкуственият интелект започне да участва във вземането на решения, които могат да засегнат правата и свободите на хората. „Проблемът не е в това, че гражданите използват AI, за да изпращат жалби към институциите. По-големият проблем ще възникне тогава, когато институциите или частният бизнес започнат да използват AI, за да вземат решения, свързани с живота на гражданите“, заяви омбудсманът.

Омбудсманът настоява дигитализацията на ТЕЛК да не затруднява хората с увреждания

По думите ѝ в частния сектор изкуственият интелект вече се използва в различни етапи от процеса по подбор на служители - от създаването на обяви за работа и подготовката на тестове до провеждането на интервюта и оценяването на кандидатите. Това поставя важния въпрос кой всъщност взема окончателното решение за назначаването на даден човек и доколко процесът е прозрачен и справедлив.

Един от основните рискове е възможността алгоритмите да възпроизвеждат дискриминационни критерии. Ако например в дадена система бъдат заложени условия, които поставят кандидатите над определена възраст в неизгодно положение, това може да засегне правото им на труд. „Когато става въпрос за вземане на решения, човекът, който е създал системата с AI, е задал определени критерии, които биха могли да бъдат дискриминационни. Следователно, когато взема решение, изкуственият интелект също може да наложи дискриминация“, посочи Делчева.

Омбудсманът сигнализира, че жалби, написани с AI, затрудняват работата на експертите

Тя подчерта, че технологиите могат да бъдат полезни при обработването и обобщаването на големи обеми от информация, но не бива да изместват човешката преценка в решенията, които засягат живота на гражданите. Според омбудсмана е необходимо да има ефективен контрол върху начина, по който системите с изкуствен интелект влияят върху човешките права.

Делчева обърна внимание и на необходимостта от подходяща правна рамка и достатъчно правомощия за институциите, които защитават гражданите. При съмнения за нарушени права хората трябва да имат възможност да потърсят съдействие и защита. „Най-важното, което трябва да направим като общество, е да използваме възможностите на AI. Но винаги, когато се вземат решения, те трябва да бъдат вземани от човек. Човекът трябва да остане в центъра на този процес“, заяви омбудсманът.

Търсенето на работа в ерата на изкуствения интелект: Повече възможности, но и по-голяма конкуренция

Според нея защитата на гражданите в условията на бързо развиващи се технологии ще изисква все по-активна работа от страна на омбудсмана и останалите правозащитни институции. Основното предизвикателство е AI да се използва като средство за улеснение и развитие, без това да става за сметка на човешките права и равнопоставеността.

Целия разговор гледайте във видеото.