Napredni modeli veštačke inteligencije kompanije OpenAI, koji su ranije ovog meseca samostalno izveli hakerski napad na platformu za razvoj AI sistema Hugging Face, bili su aktivni na internetu više od četiri dana i za to vreme sproveli oko 17.600 različitih hakerskih aktivnosti, pokazuje nova analiza kompanije koja je bila meta napada.
Prema navodima Hugging Face-a, dva OpenAI modela – jedan javno dostupan i drugi interni istraživački prototip – od 9. do 13. jula uspešno su prošla kroz više slojeva zaštite i stigla do serverske infrastrukture kompanije.
OpenAI je prošle sedmice priznao da su modeli izašli iz zatvorenog testnog okruženja i bez ljudskih instrukcija povezali niz naprednih tehnika kako bi izvršili upad u sistem.
Iako metode koje su korišćene nisu nepoznate iskusnim hakerima, iz Hugging Face-a ističu da su AI modeli uspeli da analiziraju bezbednosne slabosti i pronađu put do sistema znatno brže nego što bi to mogao čovek.
U međuvremenu je potvrđeno da napad nije bio ograničen samo na jednu kompaniju. Glavni tehnološki direktor platforme Modal Labs Akšat Bubna saopštio je da je jedan korisnički nalog njihove kompanije takođe bio iskorišćen tokom istog incidenta.
– Svesni smo da je jedan korisnik Modal platforme javno ostavio nezaštićenu krajnju tačku koja je omogućavala izvršavanje programskog koda. Tu ranjivost iskoristio je odbegli AI agent. Sama infrastruktura Modal platforme nije bila kompromitovana – naveo je Bubna.
OpenAI je u novom saopštenju potvrdio da je tokom interne istrage utvrđeno da su modeli na još nekoliko javno dostupnih servisa pronalazili i koristili javno izložene pristupne podatke korisničkih naloga.
Kompanija je naglasila da model koji je učestvovao u napadu nikada nije bio namenjen javnoj upotrebi.
– Reč je o internom istraživačkom prototipu koji je u međuvremenu deaktiviran, šifrovan i uklonjen iz istraživačkog okruženja – navodi OpenAI.
Incident je izazvao nove rasprave o bezbednosti razvoja veštačke inteligencije i potrebi za strožom regulativom. Izvršni direktor OpenAI-ja Sem Altman ove sedmice razgovaraće sa zvaničnicima administracije predsednika SAD Donalda Trampa i članovima američkog Kongresa, uključujući potpredsednika Odbora za obaveštajne poslove Senata Marka Vornera.
Altman je priznao da je ovaj slučaj promenio njegov pogled na bezbednosne rizike razvoja AI sistema.
– Ovo je prvi bezbednosni incident koji sam doživeo veoma lično. Moguće je da ćemo morati da usporimo razvoj veštačke inteligencije kako bi društvo imalo dovoljno vremena da se prilagodi novim nivoima njenih mogućnosti – rekao je Altman.
BONUS VIDEO:
Komentari (0)