Абсурдният свят на AI: Финанси и технология

В момента не ме е страх, но след 20-30 години - наистина не знам. Голямата опасност от AI е неизвестността. Това заяви в предаването "РеВизия" по NOVA NEWS AI изследователят от българския институт INSAIT Ясен Кипров. Той коментира актуалният апел на редица изпълнителни директори на големи AI компании да забавим процеса на развитие на технологията.

Всъщност апелът се появи след като стана ясно, че група агенти на OpenAI са превзели системата на софтуерната компания Hugging Face по свое усмотрение, използвайки методи и комуникация, която не знаехме, че може да съществува. Затова опитваме да разберем какво точно стана?

„РеВизия”: Как се гради лично богатство в технологичния век?

"Всъщност има няколко аспекта. Маркетинг нивото е да разказваме за пробив, за общество от агенти. Иначе технически това е просто експеримент. Целта беше да се тестват нови модели и да се види колко добре могат да се справят с разбиване на мрежа. Целта е хакерска, защитите им са били изключение, това е била задачата им. Това е бил контекстът. Другото, което е интересно по повод на самоорганизацията им е, че съвременните модели се обучават в посока на колаборация "агент с агент". Да може да работи с други агенти. Като съберем тези две неща плюс малко небрежност се получи това, което стана. Агентите са започнали да експериментират". 

В същото време, анализаторите казват, че по време на атаката агентите са мамили и използвали неморални тактики. Само по себе си това е странно, имайки предвид, че говорим за машини: "Това е една система, която няма самосъзнание, самоопределение и ценности, няма амбиции. Това е едно празно мозъче. И ние започваме да му наливаме знания. Първата фаза е била наливане на знание и информация, как да отговаря и бързо се разбира, че тази система, по този начин, няма ценности, няма морал, дискриминира. Затова се оказа, че трябва да започнем да я учим на морал и ценности. Какво е допустимо и какво не. Тези атаки, за които говорим - те идват от системи, които са насочени генерално към хакване и зловредна употреба. Хем казваме на системата - не прави нищо, хем й казваме - хакни я. И става противоречието."

Тогава защо дори самите създатели на AI искат да забавим процеса на развитие на технологията? Какво точно ги плаши?

"Това, което ги плаши не е толкова, че не знаем как ще реагира моделът, защото досега моделите изпълняват задачите, които са им поставени. Лошата цел или употреба идва от човека. Мен ме плаши това - мощен модел, с неограничени възможности, в ръцете на човек с амбиции и лоши намерения, това е проблем. Това е опасността."

България трябва да запази интеграцията си в Европа, да говори със САЩ и да намали рисковете заради Русия, смята Косьо Стойчев

В крайна сметка, макар да говорим за машини, говорим за машини, обучени от хора. Трябва ли да ги разбираме?

"Всъщност откакто излязоха големите модели, започнахме да говорим и за психология. Мрежите са огромни, действат като агенти и вече изследваме тяхното поведение - кой как се държи, в каква среда как реагира. Бих казал, че можем, но е много трудно и затова идва инициативата за забавяне. Самият Амодей говори за 490 милиона чата, които са се анализирали, за да се стигне до разбиране. Това е огромна информация, която не можем да осмислим."

Финансовият абсурд

В същото време, финансирането на AI из целия свят е на ръба на фантастичното и това се признава от финансовия анализатор Павел Бандилов. По думите му, никога не сме виждали подобни харчове, които обаче засега не връщат обратни парични резултати.

725 млрд. долара и то само за една-единствена година, тази. Толкова ще похарчат до края на 2026 година четири компании: Amazon, Google, Microsoft и Meta. Харчат ги не за реклама и не за заплати, а за сървъри, чипове и огромни центрове за данни за изкуствен интелект. Ако разделим сумата на дните в годината, излизат около два милиарда долара на ден. Всеки ден. И това не е върхът. Догодина се очаква сумата да стигне трилион. Никога досега толкова малко компании не са харчили толкова много пари за една технология за толкова кратко време. Но това не е всичко – когато парите в джоба свършат, идва ред на дълговете.

Разбира се, както за всичко друго в икономиката - харчиш, за да спечелиш. Тук обаче печалбата изостава грандиозно. Правим следното сравнение - общата капитализация на пазарите на компаниите в сектора спрямо годишната им печалба. Какво излиза? OpenAI, създателят на ChatGPT, е оценена на 852 милиарда долара, а приходите ѝ са около 40 милиарда. Това е над двадесет пъти повече. Anthropic струва около петнадесет пъти повече, отколкото изкарва. А xAI на Илон Мъск е оценена на 250 милиарда при приходи от малко над 3 милиарда и губи по два долара за всеки изкаран. С други думи, инвеститорите плащат днес за печалби, които може би ще дойдат след години.

Изкуствен интелект ще помага за разкриването на фалшиви ТЕЛК решения, предвиждат промени в закона

За да стане ясно колко са всъщност големи тези компании, нека да погледнем теглото им в най-широкия глобален борсов индекс - S&P 500, той събира 500-те най-големи американски компании. И сега внимание - една трета от цялата му тежест се пада в ръцете на само 7 компании. Преди десет години делът им беше една осма. Само Nvidia, компанията, която прави чиповете за изкуствен интелект, тежи повече от двеста петдесет и шест други компании от индекса, взети заедно. Това засяга и нас. Ако парите ви са в индексен или пенсионен фонд, който инвестира в американски акции, всеки трети долар от тях е заложен на седем компании и на една идея. Остава последният въпрос: откъде идват парите. Част от отговора е тук.

Nvidia дава 30 милиарда долара на OpenAI. OpenAI купува с тях чипове от Nvidia. Nvidia отчита продажби и пазарната ѝ стойност расте. Amazon дава 50 милиарда, а OpenAI се ангажира да използва чиповете и облака на Amazon. Oracle сключва договор с OpenAI за около 300 милиарда и тегли заеми, за да купи чипове. Отново от Nvidia. Едни и същи пари минават през няколко ръце и всеки ги отчита като ръст. Един лондонски фонд е проследил AI сделки за три трилиона и шестстотин милиарда долара. Две от всеки три от тях са такива кръгови сделки.

Цялото предаване гледайте във видеото.