Kompanija Anthropic upozorila je da bi napredni sistemi veštačke inteligencije u bliskoj budućnosti mogli da otkrivaju ozbiljne bezbednosne propuste u softverima brže i efikasnije nego ljudi, što otvara nova pitanja u oblasti sajber bezbednosti i kontrole razvoja AI tehnologije.
Prema navodima kompanije, pojedini eksperimentalni modeli pokazali su sposobnost identifikovanja takozvanih “zero-day” ranjivosti — bezbednosnih grešaka koje još nisu poznate programerima niti kompanijama koje održavaju softver. Takvi propusti smatraju se posebno opasnim jer mogu biti iskorišćeni pre nego što se razviju zaštitna rešenja.
Iz Anthropica navode da napredni AI sistemi mogu imati značajnu ulogu u unapređenju sajber bezbednosti, ali upozoravaju da ista tehnologija može biti zloupotrebljena ukoliko dospe u pogrešne ruke. Zbog toga pojedini modeli nisu javno dostupni, već se koriste u ograničenim istraživačkim i poslovnim krugovima.
Tema bezbednosti veštačke inteligencije poslednjih godina postala je jedna od ključnih u tehnološkoj industriji, posebno nakon ubrzanog razvoja generativnih AI sistema. Velike tehnološke kompanije ulažu milijarde dolara u razvoj i kontrolu naprednih modela, dok stručnjaci upozoravaju da regulatorni okvir ne prati dovoljno brzo tehnološki napredak.
Stručnjaci za sajber bezbednost smatraju da bi veštačka inteligencija u narednim godinama mogla istovremeno da postane i jedan od najvažnijih alata za zaštitu digitalnih sistema, ali i potencijalni izvor novih bezbednosnih rizika.
Komentari (0)