Новите технологии и войната: Когато машините вземат решения за живот и смърт

Бойните дронове с изкуствен интелект и алгоритмите за лицево разпознаване вече не са футуристичен сценарий – те пренаписват правилата на войната в Украйна! Технологиите дават стратегическо предимство, но носят и страховити рискове. Какви са етичните граници на войната, когато машините вземат решения за живот и смърт? Николай Беремлийски търси отговорите с водещи експерти.

Бойните дронове с изкуствен интелект и алгоритмите за лицево разпознаване вече не са футуристичен сценарий – те пренаписват правилата на войната в Украйна. Технологиите дават стратегическо предимство, но носят и страховити рискове. Какви са етичните граници на войната, когато машините вземат решения за живот и смърт? Николай Беремлийски търси отговорите с водещи експерти.

Гърция създава въздушна отбрана „Щитът на Ахил“ за 2,8 млрд. евро

Стотици бойни дронове, управлявани от изкуствен интелект, вече координират удари на фронта в Украйна. Тази технологична революция променя хода на войната – факт, който потвърждават и военните експерти като Димитър Недялков – бивш военен пилот с над 40 години стаж.

„Войните се водят вече с дронове и с хиперзвукови ракети”, казва той.

Изкуственият интелект дава ключови предимства на бойното поле – по-бързо анализира информация и предлага оптимални стратегии. Но крайното решение остава в човешки ръце… поне засега.

„Разработва вариантите, предлага варианта и участва във вземането на решението.Тук не говорим само за третото измерение – за въздушното пространство, говорим и за сухопътни операции, самостоятелно провеждани от такива дронове грубо казано. В морските пространства също имаме такива примери и това се разширява, като създава едно понякога общо усилие, планирано усилие на масирани въздушни удари, които включват стотици единици подобна техника”, казва още Недялков.

Ветеран от войната в Украйна обучава гимназисти да управляват дронове (ВИДЕО)

Бившият пилот допълва още, че онзи, който държи контрола върху изкуствения интелект, се намира една крачка пред своя противник. Държавата, която доминира в изкуствения интелект, печели стратегическо предимство и определя глобалния ред.

Срещаме се и с експерта по киберсигурност – Любомир Тулев, който също смята, че изкуственият интелект вече има запазено място на бойното поле.

„ИИ се превръща в много ценен ресурс. Ценен ресурс като полезни изкопаеми, като злато, като уран и т.н. А когато има ценен ресурс – технологиите в случая, държавите помежду си започват да се надпреварват”, казва той.

Двете страни, които към настоящия момент заемат челно място в технологичната надпревара са Съединените щати и Китай.

„Те на практика водят дори в момента помежду си една Студена война, но технологична Студена война. И ако двете държави в момента са в сравнителен паритет, тогава би имало война заради ИИ”, посочва още Тулев.

Самата индустрия пренаписва правилата. В началото на годината Google премахна ограничението, че няма да използва изкуствения интелект за военни цели – сигнал за нова ера в технологичното съперничество.

 „Америка в момента стимулира и склонява такива гиганти като Google да участват във военното дело. Компанията все повече и все по-активно ще се включва чрез своите технологични възможности, чрез своя ИИ в различни военни проекти на САЩ”, казва още Тулев.

Най-голямото предимство на бойните системи с ИИ е способността им да обработват огромни количества данни – те разпознават цели с прецизност, недостижима за човека.

„ИИ като технология е много по-прецизна, може правилно да позиционира целта на наземното равнище, по-правилно лицево разпознаване, особено когато се касае до зони, които са гъсто населени. Тогава ИИ може много прецизно да покаже къде е нашата цел, как се движи, неговото поведение. Да насочи ракетата така, че да може тя да порази правилно целта. Нещо повече – дори могат да бъдат въведени забрани, така че да не може тези инструменти и оръжия да действат например в зони, където има болница, където има училище”, посочва още експертът.

Това обаче предизвиква не просто въпроси, а цяла буря от етични дилеми.

„Ако имаме дрон, който чрез ИИ е поразил жертва, която  не е терорист или престъпник, а гражданин, цивилен, тогава кой е виновен? Този, който трябва да контролира дрона? Но той се контролира от ИИ. Този, който е разработил самата технология? Държавата ли трябва да носи отговорност, която стои зад тази атака?”, казва още Тулев.

„Терминът автономност е много относителен и много опасен. Като изпуснем контрола, се превръщаме в биомаса, от която подобни системи неминуемо ще се опитат да се освободят”, смята Димитър Недялков.

Снимка: iStock

България има потенциала да се нареди сред водещите държави, когато става дума за производство на военни системи с изкуствен интелект. Това споделя Доброслав Димитров – технологичен предприемач и председател на Българската работодателска асоциация иновативни технологии.

„България прави роботи, ние буквално правим военни роботи за американската армия. Има компании, които го правят от много години назад. В същото време нашата армия – баш-баш ги няма. В България се правят космически технологии, сателитна технология. Ние имаме и изключително силен военно-промишлен комплекс, който не произвежда само от старо поколение оръжия. Произвеждат и дронове”, разказва той.

„Има много място за инвестиране. Хубавото е, че ние нямаме възможностите на богатите държави. Технологиите и демократизирането им показва, че и по-малките държави, с по-малки бюджети могат да имат способностите, които до вчера са имали само най-големите. Това е ключовото, което трябва да разберем като държава”, обяснява още Доброслав Димитров.

Все по-честата употреба на оръжия с изкуствен интелект извежда на преден план въпроса за глобалната сигурност. Регулации и международни споразумения стават все по-необходими, за да се избегнат катастрофални сценарии.

„Светът и цивилизацията ни, ако има намерението да оцелява, а не да продължава по същия път, трябва да изработи наистина такава система за глобална сигурност, която преди всичко касае точно тези технологии – роботизацията и изкуствения интелект”, посочва Недялков.

Човешкият контрол остава последната граница. Въпросът е дали светът ще съумее да наложи правила, преди войната да стане напълно автономна.

Целия разговор гледайте във видеото.