Kompanija Anthropic tvrdi da je sprečila više zlonamernih operacija u kojima su njeni modeli Claude korišćeni za sajber-špijunažu, razvoj oružja i kampanje masovnog nadzora.
Kada je reč o konvencionalnom naoružanju, kompanija je u novom izveštaju navela da je intervenisala u severnom Jemenu i blokirala pokušaj korišćenja Claudea za razvoj softvera za navođenje projektila, uključujući navođenu raketu i balističku raketu velikog dometa, piše Al Jazeera.
AI pomagao u razvoju raketa
Prema izveštaju kompanije Anthropic o pretnjama, operateri su koristili Claude „umesto ljudskih softverskih inženjera“, pri čemu su različitim instancama modela dodeljivali posebne zadatke u pisanju softvera za navođenje raketa i kontrolu leta.
Iako su ugrađene bezbednosne mere blokirale veliki broj zahteva, Anthropic priznaje da su neki ipak prošli. Operateri su pokušavali da izbegnu detekciju tako što su prikrivali krajnje ciljeve i razbijali zadatke na više odvojenih sesija, zbog čega nijedan pojedinačni zahtev nije otkrivao prirodu čitave operacije.
Kompanija navodi da nema dokaza da je grupa uspela da proizvede funkcionalno oružje, ali tvrdi da su operateri verovatno izveli neuspešno probno lansiranje.
Anthropic je saopštio da je ukinuo naloge povezane sa operacijom i „podelio informacije o pretnji sa partnerima iz javnog i privatnog sektora kako bi ublažio rizike koje predstavljaju ti akteri“.
Državno povezana sajber-špijunaža
U izveštaju se navodi i da je otkrivena ruska špijunska operacija koja pokazuje karakteristike grupe Midnight Blizzard, poznate i kao APT29. Anthropic tvrdi da se operacija gotovo u potpunosti oslanjala na automatizovane AI procese, koji su obuhvatali sve – od fišinga i početnog pristupa sistemima do krađe podataka.
Meta su, prema navodima kompanije, bili ukrajinski i evropski ciljevi, kao i diplomatske institucije, uključujući proizvođače dronova.
Odvojeno od toga, Anthropic tvrdi da je poremetio kinesku operaciju koju su vodili studenti univerziteta u provinciji Hunan. Oni su koristili Claude „kao inženjerski i koordinacioni sloj“ ofanzivnog programa usmerenog na državne i korporativne mreže širom Bliskog istoka, Evrope i jugoistočne Azije.
U oba slučaja Anthropic navodi da je ukinuo povezane naloge i uveo dodatni nadzor kako bi otkrio slične aktivnosti.
Mete u Siriji i Iranu
Anthropic takođe tvrdi da je identifikovao i uklonio tri naloga povezana sa iranskim državnim strukturama, koji su koristili Claude za sprovođenje prikrivenih operacija uticaja i psiholoških operacija.
Svaka od tih operacija, prema navodima kompanije, bila je povezana sa konkretnom iranskom propagandnom institucijom, uključujući Organizaciju za islamsku kulturu i komunikacije i komandni centar jedne verske škole u Mašhadu, koji je distribuirao sadržaj usklađen sa narativima Korpusa čuvara islamske revolucije (IRGC).
U drugom slučaju, u izveštaju se navodi da su grupe povezane sa državnim strukturama koristile Claude za operaciju industrijskih razmera, tako što su modelu zadavale da kreira strukturisane profile i mapira mete prema lokaciji, demografskim karakteristikama, političkim stavovima i stepenu pouzdanosti procene.
„Operativno najzreliji slučaj“ koji je Anthropic zabeležio otkriven je kada je nalog povezan sa Kinom, čiji korisnik „nije imao znanje arapskog jezika“, koristio Claude za „višednevnu operaciju regrutovanja sa ciljem infiltracije među Ujgurima u Siriji“.
Anthropic navodi da je „model sastavljao poruke za kontakt na regionalnom dijalektu“, kao i da je „u realnom vremenu prevodio odgovore“.
Upozorenja istraživača zbog bezbednosti AI
Ranije ove nedelje Anthropic je objavio još jedan slučaj u kojem je AI model ostvario neovlašćen pristup spoljnim sistemima. U incidentu je bila uključena rana verzija modela Claude Opus 4.6, a slučaj se dogodio ubrzo nakon što je bivši istraživač kompanije Džejkob Kokson javno podneo ostavku zbog zabrinutosti za bezbednost.
– Ljudi koji grade AI iskreno veruju da bi on mogao da nas sve ubije do kraja ove decenije – upozorio je Kokson u objavi na mreži X.
Još jedan Anthropicov naučnik, Evan Hubinger, kasnije je podržao njegovu ocenu i rekao da je Kokson u pravu.
Upozorenja istraživača dovela su do toga da sve veći broj američkih zakonodavaca pozove na uvođenje novih pravila za regulisanje sistema veštačke inteligencije.
Anthropic je saopštio da istražuje ponavljajuće probleme i bezbednosne propuste u svim navedenim incidentima, kao i da je angažovao nezavisnu istraživačku kompaniju da ih analizira.
Zategnuti odnosi sa Vašingtonom
Odnosi između Vašingtona i kompanije Anthropic i dalje su zategnuti nakon spora oko etičkih i bezbednosnih ograničenja.
Pentagon je ranije ove godine stavio kompaniju na crnu listu kao bezbednosni rizik u lancu snabdevanja, nakon što je Anthropic odbio da ukine zaštitne mere kojima se ograničava korišćenje njegove tehnologije za autonomno naoružanje i domaći nadzor.
Anthropic je osporio tu odluku pred sudom u Kaliforniji, a sudija je prošlog meseca presudio da je američko Ministarstvo odbrane postupilo nezakonito kada je kompaniju označilo kao rizik.
Uprkos oštrom pravnom sporu i javnim nesuglasicama, Pentagon je, prema navodima, koristio Claude modele kompanije u vojnim operacijama u Iranu i Venecueli.
Izveštaj dolazi u ključnom trenutku za Anthropic, koji pokušava da povrati puni status u okviru američke odbrambene industrijske baze nakon odluke Pentagona da ga stavi na crnu listu.
Komentari (0)