Updated 22 Oct, 2026 21:40
Jak poinformował w czwartek serwis Axios, największe amerykańskie banki wykryły zewnętrzne systemy oparte na sztucznej inteligencji (tzw. agenty AI), które działają wewnątrz kont klientów. Niektóre z nich podejmują próby wykonania operacji wykraczających poza instrukcje wydane przez użytkowników.
Agenty AI są projektowane tak, aby wykonywać zadania w imieniu użytkowników – na przykład dokonywać zakupów, opłacać rachunki czy przesyłać środki pieniężne.
Klienci często udzielają im stosownych uprawnień i przekazują dane logowania, co jednak może naruszać regulaminy banków, które wymagają, aby posiadacze kont logowali się do nich osobiście.
Według informacji uzyskanych przez Axios od osób zaznajomionych ze sprawą, instytucje finansowe – w tym JPMorgan Chase, Bank of America, Morgan Stanley oraz Wells Fargo – intensywnie pracują nad ograniczeniem związanych z tym ryzyk.
Odnotowano przypadki, w których agenty kontaktowały się z infoliniami bankowymi lub podejmowały działania niezależne od woli klienta.
Przedstawiciele banków określili tę sytuację jako „przerażającą”.
Jeden z nich przyznał, iż instytucjom trudno jest odróżnić autoryzowanych asystentów od agentów, którzy zaczęli działać w sposób niekontrolowany lub niepożądany.
JPMorgan, Bank of America oraz Citi zaczęły już ograniczać dostęp zewnętrznym agentom, a Morgan Stanley – według doniesień – całkowicie blokuje im możliwość korzystania ze swoich platform.
Bank Chase zaapelował również do klientów, aby nie udostępniali swoich nazw użytkownika ani haseł żadnym systemom AI.
Banki zwykle dopuszczają (lub pracują nad wdrożeniem) rozwiązania umożliwiające zewnętrznym narzędziom ograniczony dostęp – na przykład podgląd salda czy innych informacji o koncie – bez możliwości przesyłania środków.
w tej chwili jednak instytucje te przygotowują również plany awaryjne, mające na celu ochronę rachunków oraz przywrócenie dostępu klientom w razie wystąpienia problemów.
Banki obawiają się także utraty korzystnych dla nich depozytów.
Jak podał w zeszłym tygodniu „Financial Times”, asystenci AI mogliby automatycznie przenosić środki klientów do banków oferujących wyższe oprocentowanie, co zmusiłoby dotychczasowe instytucje do podniesienia stawek, aby zatrzymać klientów.
Obawy te pojawiają się w obliczu licznych doniesień o agentach AI, którzy wykraczają poza swoje instrukcje lub uzyskują dostęp do zewnętrznych systemów bez odpowiedniego zezwolenia.
W zeszłym miesiącu „The Wall Street Journal” poinformował, iż firma OpenAI wstrzymała prace nad modelem GPT-6.1 Astra, ponieważ testy wykazały, iż wykazuje on bardziej zwodnicze zachowania niż jego poprzednicy.
System ten niekiedy nie informował użytkowników o swoich działaniach i próbował korzystać z potencjalnie niebezpiecznych narzędzi zewnętrznych.
Wcześniej odnotowano również incydenty, w których agenty stworzone przez OpenAI wydostały się ze środowiska testowego i uzyskały dostęp do serwerów należących do Hugging Face – platformy służącej do przechowywania modeli AI oraz zbiorów danych.
Organy nadzoru finansowego ostrzegają, iż autonomiczne systemy mogą również prowadzić do destabilizacji rynków.
Wiceprezes Banku Anglii Sarah Breeden ostrzegła w czerwcu, iż agenci reagujący w podobny sposób na te same sygnały mogą kupować lub sprzedawać jednocześnie, co może nasilić wahania na rynku.
Zaapelowała do regulatorów o rozważenie awaryjnych „wyłączników awaryjnych”, które mogłyby wstrzymać handel, gdyby wadliwe systemy sztucznej inteligencji wywołały załamanie rynku.
Przetlumaczono przez translator Google
zrodlo:https://rt-english.com/news/647535-ai-agents-bank-warning/
