Istraživači za sajber bezbednost iz američkog startapa “Hacktron AI” uspeli su da kompromituju naloge više zaposlenih u kompaniji “OpenAI” na platformi “ChatGPT”, koristeći u početnoj fazi četbot “Claude” kompanije “Anthropic”.
Istraživači su naveli da im je napad omogućio pristup softverskom kešu, odnosno podacima ciljanih korisnika, kao i potencijalno drugim podacima, prenosi Guardian.
– Obim onoga čemu smo teoretski mogli da pristupimo bio je ogroman – naveli su istraživači Hacktrona.
Operacija je sprovedena u okviru “OpenAI” programa za etičko testiranje bezbednosti, kojim kompanija nagrađuje istraživače koji otkriju ranjivosti u njenim sistemima.
Tim “Hacktron” je najpre koristio “Claude” za pristup nalozima zaposlenih u “OpenAI” preko internog foruma za diskusiju.
Potom je podneo bezopasan zahtev za izmenu koda na “GitHub” repozitorijumu “OpenAI”.
Istraživači su saopštili da su imali pristup kodu na repozitorijumu, ali da ga nisu preuzeli.
Iako je Claude korišćen u početnoj fazi, istraživači su naveli da su za najveći deo operacije koristili OpenAI model GPT-5.6 Sol.
Portparol “OpenAI” zahvalio je istraživačima na prijavljenim nalazima i naveo da je kompanija otklonila ranjivosti koje su iskorišćene tokom napada.
“Hacktron” je saopštio da su alati veštačke inteligencije znatno olakšali ranije složene hakerske operacije i skratili vreme potrebno za pripremu napada.
Kompanija je od “OpenAI” dobila 6.500 dolara u okviru programa za prijavljivanje bezbednosnih propusta.
Sa druge strane, “OpenAI” je ove nedelje objavio više primera “neočekivanog ili zabrinjavajućeg” ponašanja svoje tehnologije i upozorio da tempo razvoja veštačke inteligencije još dugo neće moći da se nastavi “maksimalnom brzinom”.
“Anthropic” je tokom vikenda ponovo pozvao na usporavanje razvoja veštačke inteligencije.
Taj poziv podržali su “OpenAI”, “Google DeepMind” i Ilon Mask.
Američki predsednik Donald Tramp odbacio je pozive na usporavanje razvoja AI tehnologije, navodeći potrebu da SAD zadrže prednost u odnosu na Kinu u toj oblasti.
BONUS VIDEO:
Komentari (0)