AI model Claude Mythos kompanije Anthropic rekordnom brzinom pronalazi softverske ranjivosti. Njegova zloupotreba mogla bi da omogući sajbernapade. Banke i regulatori su zabrinuti. Zašto?
Na prvi pogled, ovo deluje kao usko stručna tema koja zanima samo IT entuzijaste: novi model veštačke inteligencije (AI) otkriva slabosti u softveru brže nego ikada ranije. Međutim, upravo to može da predstavlja ozbiljan rizik za stabilnost globalnog finansijskog sistema. Banke, berze, pružaoci platnih usluga i osiguravajuće kuće oslanjaju se na pouzdan i bezbedan softver.
Ako veštačka inteligencija sada brže pronalazi bezbednosne propuste, onda i kriminalci mogu brže da ih iskoriste. Stručnjaci već govore o sistemskom riziku za globalni finansijski sistem.
Povod za raspravu je Claude Mythos – novi napredni AI model američke kompanije Anthropic. U eksperimentalnim okruženjima otkrio je hiljade izuzetno kritičnih bezbednosnih propusta u softveru, takozvanih „zero-day“ ranjivosti, koje su prethodno ostale neotkrivene decenijama. Osim toga, model je sposoban da samostalno programira složene sajbernapade.
Zašto regulatori upozoravaju na rizike veštačke inteligencije
Evropska centralna banka (ECB) u tome vidi ozbiljnu pretnju za finansijski sistem i nedavno je čak sazvala hitan sastanak evropskih banaka. Financial Stability Board, ključni međunarodni nadzorni organ za finansijsku stabilnost zemalja G20, govori o „novim i naprednim rizicima za globalnu finansijsku stabilnost“.
I Međunarodni monetarni fond (MMF) u AI modelima poput Mythosa vidi opasnost za globalni finansijski sistem i upozorava na „potencijalni makrofinansijski šok“. Prema analizi MMF-a, ekstremni gubici izazvani sajberincidentima mogli bi dovesti do problema sa finansiranjem, podstaći sumnje u solventnost finansijskih institucija i izazvati šire poremećaje na tržištima.
Dovoljno je zamisliti da tako moćan AI model poput Mythosa „cilja“ globalnu bankarsku infrastrukturu – na primer centralni komunikacioni sistem SWIFT, preko kojeg banke širom sveta bezbedno razmenjuju naloge za plaćanje i druge finansijske poruke.
Moguća šteta bila bi ogromna. Napadači bi mogli da manipulišu platnim tokovima vrednim milijarde i da naruše poverenje u banke i finansijski sistem. Sama kompanija Anthropic smatra svoj novi model veštačke inteligencije dovoljno opasnim da ga za sada uglavnom drži pod strogom kontrolom, ali radi na tome da ga narednih nedelja učini dostupnim svim klijentima.
Project Glasswing treba da zaštiti kritičnu IT infrastrukturu
Za sada samo odabrane kompanije i organizacije imaju kontrolisan pristup Claudeu Mythosu kroz projekat Project Glasswing. Među njima su Amazon, Microsoft, Apple, Google, NVIDIA i JPMorgan Chase. Cilj je brže identifikovanje i otklanjanje bezbednosnih ranjivosti u kritičnoj softverskoj infrastrukturi.
Nije slučajno što stručnjaci Mythos nazivaju tipičnom „dual-use“ tehnologijom: novi AI model nije samo potencijalno ultimativno sajberoružje, već i najmoćniji alat za odbranu od sajbernapada.
Planirano je da i European Union Agency for Cybersecurity dobije pristup modelu Mythos kompanije Anthropic. Međutim, konkretni uslovi još moraju biti dogovoreni. Do tada evropske banke ostaju van tog sistema, ali prema mišljenju stručnjaka moraju delovati odmah.
Banke u Evrozoni moraju više ulagati u sajberbezbednost, smatra Luis de Gindos. „Moramo nastojati da povećamo svest finansijskih institucija i banaka o potrebi dodatnih ulaganja u sajberbezbednost“, naglašava odlazeći potpredsednik ECB-a.
Banke moraju brže da zatvaraju bezbednosne propuste
Prema mišljenju stručnjaka, ključnu ulogu imaju takozvani „patch gapovi“, odnosno period između otkrivanja i zatvaranja bezbednosne ranjivosti. Za njihovo otklanjanje bankama je do sada ponekad bilo potrebno i više nedelja – pristup koji bi u novoj eri veštačke inteligencije mogao otvoriti vrata sajberkriminalu velikih razmera.
To za banke znači i veća ulaganja u ljudske resurse.
„Banke sada moraju izdvajati više novca kako bi zaposlile stručnjake koji će te propuste zatvoriti što je brže moguće“, naglašava Daniel Kröger, portfolio menadžer u kompaniji DWS.
Vreme je presudno, jer nije reč samo o Anthropicu i modelu Claude Mythos Preview, već i o sličnim AI sistemima koji bi uskoro mogli postati dostupni kriminalnim grupama ili državama poput Russia i China.
Logan Graham, šef vodećeg tima za IT bezbednost u Anthropicu, upozorio je u magazinu Wired:
„Moramo se sada pripremiti za svet u kojem će ove sposobnosti biti široko dostupne za 6, 12 ili 24 meseca.“
Veštačka inteligencija postaje stres-test za banke i regulatore
AI model Mythos kompanije Anthropic predstavlja ozbiljno upozorenje za banke, kompanije i regulatore. U pitanju je stabilnost globalnog finansijskog sistema. Finansijska kriza iz 2008. godine pokazala je da je često dovoljna i sama sumnja ili glasina da neka banka ima probleme kako bi izazvala velike poremećaje na tržištu.
Izuzetne sposobnosti Claudea Mythosa signal su da se odbrambeni sistemi moraju hitno ojačati. Evropske banke pritom moraju paziti da ne zaostanu, jer Project Glasswing za sada američkim institucijama daje vremensku prednost u procesu otkrivanja i zatvaranja bezbednosnih propusta.
Međunarodna saradnja između kompanija koje razvijaju veštačku inteligenciju, banaka, privrede i regulatora sada je potrebnija nego ikada. Jer sajberkriminal ne poznaje granice – baš kao što ih ne poznaju ni finansijske krize.
BONUS VIDEO:
Komentari (0)