Obaveštajni izveštaj koji je ovog proleća kružio američkom vojskom, tokom rata sa Iranom, izazvao je uzbunu u Pentagonu: u njemu se navodilo da kineski brod na Bliskom istoku prevozi komponente nuklearnog programa. Američka vojska počela je da priprema operaciju presretanja, ali je u poslednjem trenutku otkriveno da je izveštaj nastao uz pomoć veštačke inteligencije i da je AI chatbot pogrešno identifikovao teret na brodu, navodi CNN.
Prema rečima četiri izvora upoznata sa slučajem, američka vojska pokrenula je plan za presretanje broda. Dva izvora navela su da su se naoružani pripadnici američke vojske pripremali da se ukrcaju na plovilo, dok su prema drugim izvorima vojni avioni već bili u vazduhu.
Tek neposredno pre planirane operacije zvaničnici su detaljnije proverili izveštaj, koji je sastavio analitičar Komande za specijalne operacije SAD. Tada je utvrđeno da je analitičar koristio veštačku inteligenciju i da je chatbot pogrešno identifikovao materijal koji je brod prevozio.
CNN nije uspeo da utvrdi šta se zapravo nalazilo u pogrešno identifikovanom teretu.
“Izveštaj je bio potpuno netačan“
Jedan od izvora rekao je da je izveštaj bio “potpuno netačan“, ali da je istovremeno “skoro započeo rat“.
Eventualna američka operacija protiv kineskog broda mogla je da dovede do eskalacije i oružanog sukoba između dve zemlje.
Slučaj je pokazao rizike sve intenzivnije upotrebe veštačke inteligencije u američkoj vojsci i obaveštajnoj zajednici. AI se sve više koristi za analizu ogromne količine sirovih obaveštajnih podataka, izbor ciljeva za napade, ali i za manje rizične zadatke poput budžetiranja, logistike i upravljanja lancima snabdevanja.
Međutim, događaj sa kineskim brodom ukazuje na posebno ozbiljne opasnosti korišćenja relativno nove i još nedovoljno shvaćene tehnologije za donošenje odluka o ciljevima usred rata.
Chatbot spojio tajne i javne podatke
U konkretnom slučaju analitičar je chatbotu postavio pitanje u vezi sa obaveštajnim podacima o brodskom manifestu. Podaci su poticali od Komande za specijalne operacije Pacifika, čije je sedište na Havajima.
Nije poznato da li je korišćen komercijalni chatbot ili sistem koji je razvila američka vlada.
– Interni alati su uglavnom samo kopije komercijalnih, sa malo šminke – rekao je bivši visoki američki zvaničnik upoznat sa sistemima veštačke inteligencije koje koriste vojni i obaveštajni analitičari.
Chatbot je spojio podatke iz javno dostupnih izvora sa poverljivim signalno-obaveštajnim podacima kojima je vlada raspolagala i na osnovu toga izveo pogrešan zaključak o materijalu koji se nalazio na brodu.
Analitičar je zatim ponovo koristio AI kako bi zaključke pretvorio u standardni obaveštajni izveštaj, kakvim vojni zvaničnici veruju, a potom ga distribuirao.
Pentagon ubrzava primenu veštačke inteligencije
Američki zvaničnici kao razlog za ubrzano uvođenje AI navode mogućnost da vojska brže donosi odluke na bojnom polju – od izbora ciljeva za napad do raspoređivanja vojnih jedinica i opreme.
Zvaničnici smatraju da SAD ne mogu da dozvole da zaostanu u primeni veštačke inteligencije, posebno zbog mogućnosti budućeg sukoba sa Kinom ili drugim protivnikom koji bi mogao da stekne tehnološku prednost.
Američki ministar odbrane Piter Hegset je u januaru predstavio „Strategiju ubrzanja veštačke inteligencije“, čiji je cilj brže uvođenje AI tehnologije u američku vojsku.
– Oslobodićemo eksperimentisanje, ukloniti birokratske prepreke, usmeriti naša ulaganja i pokazati način primene koji je potreban da bismo bili lider u vojnoj veštačkoj inteligenciji – rekao je Hegset prilikom predstavljanja strategije.
Strategija predviđa široku primenu AI u vojsci i omogućavanje pristupa naprednim modelima za oko tri miliona civilnih i vojnih zaposlenih, na svim nivoima poverljivosti podataka.
Ipak, prema više američkih zvaničnika upoznatih sa situacijom, proces je decentralizovan. Različiti delovi državnog aparata koriste različite AI alate, prema različitim pravilima i bezbednosnim standardima.
Ne postoji jedinstven sistem kojim bi SAD proveravale informacije koje generišu ovi alati, dok se pouzdanost i funkcionalnost različitih sistema značajno razlikuju.
Najveći rizik nisu samo “halucinacije“ AI
Američki zvaničnici i stručnjaci poslednjih nedelja intenzivno raspravljaju o rizicima veštačke inteligencije, nakon upozorenja inženjera iz Silicijumske doline i direktora tehnoloških kompanija o mogućnosti da AI jednog dana izmakne ljudskoj kontroli.
Međutim, slučaj kineskog broda ukazuje na neposredniju opasnost – mogućnost da ljudi donesu katastrofalne odluke na osnovu netačnih ili obmanjujućih informacija koje generišu AI ili drugi automatizovani sistemi.
Prema izvorima CNN-a, američka vojska sve intenzivnije koristi AI za određivanje ciljeva, što predstavlja posebno ozbiljan rizik od grešaka sa smrtnim posledicama.
– AI u određivanju ciljeva definitivno se sve više koristi, a ne postoje stvarne smernice o tome kako će prisustvo čoveka u procesu sprečiti civilne žrtve ili pogrešne udare po sopstvenim snagama – rekao je drugi izvor upoznat sa aktuelnom politikom američke vojske.
Analitičari pod pritiskom da rade brže
Prema jednom od izvora, slučaj “halucinacije“ AI koji je doveo do pogrešnog zaključka o kineskom brodu nije izolovan incident u američkoj obaveštajnoj zajednici.
Neki iskusniji obaveštajni zvaničnici, uključujući i one koji generalno podržavaju upotrebu AI u vojsci, smatraju da ova tehnologija dodatno pritiska analitičare da obaveštajne procene proizvode i distribuiraju brže, što povećava mogućnost grešaka.
Više izvora navodi da su posebno mlađi analitičari navikli na rad sa ovim alatima i da imaju veću tendenciju da njihovim rezultatima veruju bez dovoljno kritičke provere.
– AI omogućava da do loše ideje stignete brže – rekao je jedan od izvora.
BONUS VIDEO:
Komentari (0)