Изкуственият интелект може да предизвика срив на пазарите: Английската централна банка

Агенти с изкуствен интелект, които могат самостоятелно да вземат решения и да извършват финансови операции, скоро биха могли да навлязат широко във финансовата система, предупреди Английската централна банка, като отбеляза, че разчитането на човешки контрол върху всяко действие вече може да не е реалистично.

Предупреждението беше отправено във вторник от заместник-управителя на банката по въпросите на финансовата стабилност Сара Брийдън по време на годишния форум на Европейската централна банка в Синтра, Португалия. То идва в момент, когато водещите разработчици на AI технологии насочват усилията си от генеративните чатботове към т.нар. агентни системи.

За разлика от генеративните модели като ChatGPT, Gemini и Claude, които създават текст, изображения и програмен код в отговор на потребителски заявки, агентният изкуствен интелект е разработен така, че да изпълнява сложни задачи в няколко стъпки с минимална човешка намеса.

Вместо само да препоръчва инвестиция или покупка, AI агентът може сам да извършва борсови сделки, да осъществява плащания, да купува стоки и да резервира услуги, без да е необходимо човешко одобрение за всяко отделно действие.

По думите на Брийдън финансовата система вероятно ще се „развие към модел, който функционира все по-автономно, в голям мащаб и с висока скорост“.

Тя предупреди, че с повишаването на възможностите на AI агентите „разчитането на човек, който да контролира всяко тяхно действие, едва ли ще бъде реалистично“. Според нея настоящите регулаторни рамки „не са създадени с подобен сценарий предвид“.

Брийдън посочи още, че AI агентите, обучени с едни и същи данни и реагиращи на идентични пазарни сигнали, могат да проявят т.нар. стадно поведение. Това означава, че те могат едновременно да вземат еднакви решения за търговия, което би засилило нестабилността на финансовите пазари в периоди на напрежение.

По думите ѝ регулаторите трябва да преценят дали са необходими предпазни механизми, подобни на автоматичните прекъсвачи на търговията или аварийните системи за изключване, които да ограничават или временно да спират търговията на целия пазар, ако дефектни AI модели предизвикат срив.

Тя също така призова централните банки да се подготвят за по-чести „технологични изненади“, като отбеляза, че последните постижения в областта на изкуствения интелект вече са надминали очакванията на регулаторите.

Коментарите ѝ идват на фона на все по-широкото възприемане на изкуствения интелект като въпрос на националната сигурност. Наскоро Вашингтон се намеси в пускането на някои усъвършенствани AI модели заради опасения, свързани с киберсигурността, докато разработчиците продължават да ускоряват развитието на агентни системи. Тази седмица компанията Anthropic представи най-новия си модел Claude Sonnet 5, създаден да изпълнява сложни задачи от името на потребителите.

Развитието на агентния изкуствен интелект вече достига и до Пентагона. Миналата седмица американското министерство на отбраната представи AI агенти, предназначени непрекъснато да анализират разузнавателна информация и бързо да генерират варианти за избор на цели за командирите, като подчерта, че окончателното решение за използването им ще остане в ръцете на хората.

Мария Пенчева