Правилна стъпка ли е регулацията на изкуствения интелект в САЩ

Вчера американският президент Доналд Тръмп се срещна с директорите на технологичните гиганти в сферата на изкуствения интелект (ИИ). Разговорът беше на тема: Трябва ли да има външна намеса в регулацията на развитието на изкуствения интелект? Според Тръмп такава не е нужна, а като мотив той посочи, че пазарът сам трябва да регулира развитието на технологията.

Кристиян Михайлов от Професионалната асоциация по роботика, автоматизация и иновации каза в ефира на NOVA NEWS, че очакванията са пазарът наистина да може сам да се регулира, но доколко това ще е така, предстои да се разбере.

Тръмп ще обсъди изкуствения интелект с ръководители на водещи технологични компании

„Споразумението, което подписаха технологичните лидери и Доналд Тръмп, казва следното – вътрешно екипите ще проверяват ситуациите, в които ИИ може да създаде проблеми, като например хакерска атака срещу банка. На второ място независим екип в самата компания ще оценява работата на техническия тим и ще дава обратна връзка какво да се промени. На трето място има външен анализ - одит, който тества случилото се в компанията. И на последно място има надзорен съвет, който следи как управителният имплементира тези промени и какви решения са взети на база на резултатите“, обясни експертът.

Според Михайлов споразумението е правилна стъпка от гледна точка на това, че компаниите започват да осъзнават нуждата от регулация. Той припомни, че в ЕС - за разлика от САЩ, има закон, който регулира изкуствения интелект. Големият проблем обаче идва от там, че често не знаем как работи той, каза Михайлов. И допълни, че ИИ оперира със силно чувствителни данни и е видно, че има пропуски в киберсигурността от гледна точка на системите, до които бива допуснат.

Тръмп заменя термина „изкуствен интелект“ със „суперинтелект“

„Ние, хората, халюцинираме. Същото прави и изкуственият интелект, което означава, че няма как да се доверим на сляпо на неговите резултати. Тоест трябва да проверяваме това, което ни дава“, обясни той.

По думите на Михайлов рискът идва не от използването на ИИ, а от това, че му се предоверяваме и не вярваме на собствената си преценка. „Защото утре съответният езиков модел ще бъде внедрен не само в банка, а в някоя критична инфраструктура. И ролята на хората става ключова. Говорим за нуждата човек да има критично мислене и да използва ИИ, съобразявайки кога може да му се довери и кога не“, категоричен беше Михайлов.

Целия разговор чуйте във видеото.