Rukovodioci kompanija Anthropic, OpenAI i drugih vodećih firmi za veštačku inteligenciju iza zatvorenih vrata razrađuju scenarije za slučaj katastrofalnog incidenta povezanog sa AI tehnologijom, kao i mogućih političkih i društvenih posledica. Prema pisanju portala Axios, najviše strahuju od velikog sajber-napada koji bi mogao da poremeti finansijske usluge, internet ili čak snabdevanje električnom energijom i vodom. Pojedini insajderi iz industrije smatraju da bi se ozbiljan incident mogao dogoditi u narednih šest do 12 meseci.
Kompanije pripremaju scenarije za situaciju u kojoj bi prvi veliki incident izazvan nebezbednom upotrebom veštačke inteligencije doveo do snažnog javnog nezadovoljstva i zahteva za hitnim ograničavanjem tehnologije.
Takav razvoj događaja mogao bi da ugrozi reputaciju čelnika industrije, uključujući generalnog direktora kompanije Anthropic Darija Amodeija i direktora OpenAI-ja Sema Altmana. Političke posledice mogle bi da pogode i američkog predsednika Donalda Trampa, čiju politiku kompanije i kritičari smatraju nedovoljno restriktivnom prema razvoju veštačke inteligencije.
Iako su simulacije kriznih situacija uobičajene u velikim kompanijama i institucijama nacionalne bezbednosti, Axios ističe da deo vodećih istraživača i rukovodilaca u AI industriji veruje da je ozbiljan incident sve verovatniji.
OpenAI je potvrdio da sprovodi vežbe pripremljenosti, tokom kojih timovi razmatraju različite potencijalne scenarije.
– OpenAI sprovodi vežbe pripremljenosti tokom kojih timovi razgovaraju o nizu mogućih scenarija i razrađuju postupke za njihovo rešavanje. Ti scenariji ne smatraju se neizbežnim, već služe da nam pomognu da se pripremimo za različite okolnosti – saopštio je portparol kompanije.
Anthropic nije želeo da komentariše navode.
Sajber-napadi uz pomoć veštačke inteligencije već izazivaju zabrinutost
Jedan od glavnih strahova odnosi se na mogućnost da autonomni AI agenti izmaknu kontroli tokom testiranja ili da zlonamerni akteri pronađu načine da postojeće modele iskoriste za napade na infrastrukturu.
Nedavni sajber-napadi na finansijske organizacije u Južnoj Koreji pokazuju koliku štetu može da nanese i jedan napadač. Prema navodima kompanije za sajber-bezbednost CrowdStrike, kampanja je obuhvatila više finansijskih institucija, a istraga je ukazala na upotrebu alata zasnovanih na veštačkoj inteligenciji. Među pogođenim organizacijama bile su i banke.
Prema analizi CrowdStrike-a, napadač je koristio kineski alat za automatizovano testiranje bezbednosti ARTEX i više velikih jezičkih modela, uključujući DeepSeek. U dostupnim podacima pronađene su i sesije alata Claude Code, koji je navodno korišćen i za traženje načina da se pronađu kupci za ukradene podatke.
Izveštaji o ovom slučaju ukazuju na rizik da veštačka inteligencija omogući pojedincima da brže sprovode složene sajber-napade, za koje bi ranije bili potrebni znatno veći resursi.
Kompanije žele da pripreme Kongres za moguću krizu
Prema navodima Axios-a, rukovodioci AI kompanija razmatraju i političke posledice katastrofalnog incidenta. Njihovi planovi obuhvataju simulacije najgorih mogućih scenarija, odnosno takozvane red-team vežbe, kao i intenzivnije upoznavanje članova Kongresa sa rizicima i tehničkim mogućnostima veštačke inteligencije.
U industriji se očekuje da bi, ukoliko demokrate ojačaju svoj položaj nakon međuizbora, deo njihovih predstavnika mogao da zatraži brzo uvođenje strogih ograničenja, pa čak i obustavu razvoja najnaprednijih sistema.
Ipak, sprovođenje takvih mera bilo bi komplikovano. Kongres se suočava sa izazovima u praćenju brzog tehnološkog razvoja, dok je svetska privreda sve više povezana sa infrastrukturom za veštačku inteligenciju. Naglo usporavanje razvoja i primene ovih sistema moglo bi da izazove dodatne ekonomske probleme.
Dodatni izazov predstavlja činjenica da su brojni modeli sa javno dostupnim parametrima, poznati kao open-weight modeli, slobodno dostupni za preuzimanje i prilagođavanje. Zbog toga bi njihovu upotrebu u štetne svrhe bilo teško u potpunosti sprečiti samo zabranama ili ograničavanjem pristupa pojedinim komercijalnim platformama.
Pojedini stručnjaci za sajber-bezbednost smatraju da će za odbranu od napada potpomognutih veštačkom inteligencijom biti neophodna i šira primena AI alata za otkrivanje i sprečavanje pretnji.
Priprema za buduće propise pre nego što se dogodi incident
Prema pisanju Axios-a, rukovodioci kompanija smatraju da u ovom trenutku nema dovoljno političke podrške za donošenje novih sveobuhvatnih propisa u SAD. Ipak, žele da utiču na zakone i mere koje bi američke vlasti mogle da usvoje nakon prvog velikog incidenta.
Među predlozima koji se razmatraju u pojedinim političkim krugovima jesu zabrana razvoja superinteligentnih sistema ili privremena obustava rada na najnaprednijim modelima.
Drugi predlozi imaju širu, dvostranačku podršku, a neki nailaze i na razumevanje dela industrije. Među njima je zahtev da napredni AI sistemi imaju obavezni mehanizam za hitno isključivanje, odnosno takozvani „prekidač za zaustavljanje“.
Ipak, stručnjaci upozoravaju da bi bilo izuzetno teško osmisliti i sprovesti univerzalni mehanizam kojim bi se svi AI sistemi mogli istovremeno isključiti, posebno imajući u vidu njihovu decentralizovanu prirodu i veliki broj nezavisno razvijenih modela.
Axios navodi da su mu brojni sagovornici iz AI industrije rekli da ozbiljan incident očekuju u narednih šest do 12 meseci. To je procena sagovornika, a ne potvrđena prognoza.
Kriza bi mogla da dovede do saradnje republikanaca i demokrata
Uprkos strahu od političkih sukoba i različitih stavova o regulisanju veštačke inteligencije, deo sagovornika smatra da bi stvarna kriza mogla da natera Vašington da privremeno ostavi stranačke razlike po strani.
Jedan demokratski saradnik u Kongresu ukazao je na saradnju političara tokom pandemije kovida 19 i finansijske krize 2008. godine kao primere situacija u kojima je vanredna okolnost omogućila saradnju između političkih tabora.
Prema toj proceni, obim eventualne katastrofe i neposredna šteta po građane mogli bi da budu presudni za brzinu i karakter odgovora američkih vlasti.
Za sada, međutim, pripreme AI kompanija ostaju u domenu kriznog planiranja. Nema potvrde da je katastrofalni događaj neizbežan, ali rastuća zabrinutost zbog sajber-napada i mogućnosti zloupotrebe naprednih AI sistema sve više utiče na raspravu o budućoj regulaciji ove tehnologije.
BONUS VIDEO:
Komentari (0)