Източник: iStock by Getty Images

Банковите регулатори засилват усилията си за овладяване на нарастващите рискове, свързани с изкуствения интелект, твърдят източници, цитирани от Ройтерс. Според някои от тях съществува опасност от кибератаки срещу банки или действия на недобросъвестни агенти, които биха могли да подкопаят глобалната финансова стабилност.

Регулаторният контрол, за който Ройтерс за първи път съобщава нови подробности, отразява нарастващото осъзнаване, че напредъкът в авангардните технологии за изкуствен интелект може да изисква значителни инвестиции в кибервъзстановяване, по-голямо внимание към зависимостта от външни доставчици на технологии, а в някои юрисдикции – и по-формални регулаторни насоки, посочват източниците.

Три от водещите регулаторни органи в САЩ, включително Федералният резерв, искат информация от банките за използването на усъвършенствани модели за изкуствен интелект, са съобщили двама от източниците на Ройтерс, което се добавя към вече провеждания контрол.

Въпросите включват дали банките използват технологии, разработени в Китай, дали прилагат агенти с изкуствен интелект в киберзащитата и дали могат да контролират все по-автономните системи, са посочили други от източниците.

В Европа надзорните органи, сред които Банката на Англия и Европейската централна банка, оказват натиск върху банките да подобрят плановете си за възстановяване, като изразяват опасения, че бързият напредък в областта на изкуствения интелект може да причини сериозни щети и смущения на финансовите пазари по-рано, отколкото се опасяваха преди, твърдят източниците. Висш мениджър от голяма европейска банка също е заявил, че и те са загрижени за потенциални сериозни щети за банковия сектор и финансовите пазари.

Дебатът за надзора над изкуствения интелект се засили на фона на предупрежденията от сектора след неотдавнашни инциденти, като главният изпълнителен директор на JPMorgan (JPM.N) Джейми Даймън призова корпоративните лидери да се присъединят към браншова група, фокусирана върху САЩ, за да се справят с рисковете, свързани с изкуствения интелект, съобщи Ройтерс.

Американската компания за киберсигурност CrowdStrike заяви този месец, че вероятно човек в Китай е използвал разработен в Китай агент на изкуствен интелект и Claude Code на Anthropic при хакерска атака срещу южнокорейски банки. Междувременно агенти на изкуствен интелект, разработени от OpenAI, са били замесени в пробив в платформата за изкуствен интелект Hugging Face, съобщи Ройтерс.

Изследователите от Anthropic предупредиха, че все по-мощните системи за изкуствен интелект в крайна сметка биха могли да излязат извън човешкия контрол и дори да представляват екзистенциална заплаха, което предизвика призиви за по-строго регулиране.

Международният валутен фонд предупреди във вторник срещу „самодоволството“ на глобалните финансови пазари, посочвайки различни рискове, включително възможността за кибератака. МВФ заяви, че мащабна атака, засягаща критична услуга или финансова институция, би могла да подкопае доверието, и призова политиците да укрепят капацитета за киберсигурност.

Банките се състезават да внедрят автономен ИИ, който може да изпълнява задачи с минимален човешки надзор, като същевременно се борят с предизвикателствата на новите модели, включително слабостите в ИТ, сигнализирани от инструмента Mythos на Anthropic.

„Въвеждането на изкуствения интелект често изпреварва способността за въвеждане на необходимите контролни механизми“, заяви Майкъл Уудбридж, партньор по киберсигурност в „Грант Торнтон“ в Лондон.

Притесненията на САЩ се отнасят към агентите на ИИ

Разследванията на регулаторните органи в САЩ се фокусират върху начина, по който банките използват агентен изкуствен интелект в области като киберсигурността, като акцентът е върху това дали агентите на изкуствения интелект се използват за идентифициране, приоритизиране и реагиране на заплахи.

Въпросите от Службата на контрольора на валутата (OCC), Федералната корпорация за застраховане на депозитите (FDIC) и Федералния резерв (Fed) се фокусират върху това какви ограничения са наложени върху системите, как се наблюдават и одобряват техните действия и дали банките могат ясно да проследяват и проверяват решенията на агентите на изкуствения интелект, са споделили двама от източниците.

Те питат също какви предпазни мерки съществуват, за да се предотврати агентите да превишават правомощията си, дали хората продължават да участват в ключовите решения и как банките могат да изключват автономните системи. OCC, Федералният резерв и FDIC са отказали коментар.

Чрез своите въпроси регулаторите проучват по-конкретни въпроси, свързани с усъвършенствани модели на изкуствен интелект, включително използването на автономни агенти на изкуствен интелект, модели, разработени в чужбина, и нови киберрискове,са заявили три източника, дапознати с темата, за Ройтерс. Писмените и устните запитвания към големи, средни и по-малки банки показват, че регулаторите се фокусират върху уязвимостите, произтичащи от използването на ИИ от банките, и върху готовността им да предприемат действия, са добавили те.

Регулаторите все още събират информация и засега не дават конкретни указания за това какво трябва да правят кредиторите, са обяснили те.

Европейците се притесняват за възстановяването

Надзорните органи във Великобритания поотделно насърчават най-големите банки да проучат така наречените планове за възстановяване „bare metal“, са споделили два източника, запознати с техните намерения. Тези системи са напълно независими от основната технологична инфраструктура на банката и могат да се задействат, ако основните операционни системи бъдат компрометирани.

Изграждането и поддържането на такива съвременни системи за възстановяване обаче е скъпо, са посочили източниците. Вместо да въвеждат нови изисквания, властите във Великобритания възнамеряват да работят в сътрудничество с бранша, са добавили те. Банката на Англия е отказала да коментира.

През юли ЕЦБ даде на кредиторите краен срок до края на октомври да изготвят планове за противодействие на киберзаплахи, свързани с изкуствен интелект, включително подобрени системи за архивиране и възстановяване.

Попитана за стратегията си за регулиране на изкуствения интелект, ЕЦБ се позовава на писмото си от юли, както и на речта от юни на члена на Управителния съвет Франк Елдерсън, който подчерта необходимостта да се създаде усещане за спешност, а не за тревога, по отношение на заплахите.

Необходимостта от надзорни мерки придоби допълнителна спешност, след като европейските банки и регулатори изразиха недоволство от ограничения достъп до Mythos през тази година, на фона на опасенията, че американските банки ще получат първи достъп за тестване на авангардни модели.

Подобно на американските си колеги, надзорните органи във Великобритания също изискват от банките да използват авангардна ИИ за идентифициране на уязвимости и ускоряване на отстраняването им, са заявиха двама души, като единият от тях е добавил, че досега кредиторите се справят добре.

Трети източник е посочил, че от банките в еврозоната също се изисква да изготвят карта на начините, по които изкуственият интелект се използва в техните дейности и при външни доставчици, за да разберат ключовите зависимости и да гарантират, че могат да изключват и рестартират системите по контролиран начин.Те са добавили, че в някои фирми все още съществуват значителни пропуски.

„За да се защитим от атаки, бързото възстановяване е също толкова важно, колкото и превенцията“, е заявил Суканд Рамачандран, управляващ директор и старши партньор в BCG. Без отделно съхранявани чисти и сигурни копия на критични данни „сериозна атака би могла да блокира достъпа на клиентите до техните сметки и да наруши плащанията в цялата икономика“, е заявил Рамачандран пред Ройтерс.