САЩ ограничават достъпа до най-мощните си AI модели

„Двата модела, предоставени от компанията Anthropic, които са забранени за ползване навсякъде извън Съединените щати, не само в Европа, всъщност са много добри в киберсигурността”, това коментира експертът по киберсигурност Християн Даскалов в ефира на NOVA NEWS.

Според Даскалов на тези системи може да им се зададе команда да обследват дадена мрежа и да намерят уязвимости в нея. „Работа, която иначе ще върши цяла киберкомпания седмица, моделът ще го свърши за минути”, обясни експертът. По думите му рискът идва от това, че ако нападател успее да свали защитите на изкуствения интелект, „би могъл следващата команда, която да подаде, да бъде: „а сега използвай тези уязвимости, за да проникнеш в системата””, добави експертът.

Изкуственият интелект и роботите превземат ежедневието и работните места в САЩ

Той даде пример със създаването на взривни устройства. Ако моделът бъде директно попитан как се прави бомба, той ще откаже. „Но ако го попитаме по сходен начин 10 000 пъти с малки вариации, най-вероятно ще свалим тази защита, това се прави автоматизирано с инструменти, и той може да ни подскаже как да си направим бомба”, разясни Даскалов. Забранените системи имат засилени способности и в други сфери, тъй като „са много добри също така в сферата на геномиката за проучвания и сферата на биологията и химията”.

Относно причините за рестрикциите от страна на Вашингтон, Християн Даскалов очерта две възможни версии. Мярката може да цели „като политика да предпази гражданите, или другата версия – това беше направено от Съединените щати просто като инструмент в икономическата, глобалната икономическа война, която бушува между големите сили”.

За да реагира превантивно, Европейският съюз е представил „закон за облачните и AI услуги”, който въвежда нива на категоризация на доставчиците. „Според изискванията, ако доставчикът не съхранява данните в Европейския съюз, неговият хардуер, тоест машините, софтуерът, който ги управлява не е в облачна в Европейския съюз, то той няма да има право да продава услугите си на европейските институции”, обобщи правилата експертът.

Целия разговор гледайте във видеото.