Kompanija OpenAI usporava razvoj svojih modela veštačke inteligencije (AI) kako bi unapredila bezbednost sistema za istraživanje i obuku modela.
Do takve odluke je došlo nakon što je jedan AI agent tog američkog tehnološkog giganta tokom testiranja prošlog meseca hakovao drugu AI kompaniju Haging fejs (Hugging Face), objavio je Rojters.
OpenAI je saopštio da je dvonedeljno obustavio testiranje modela i da uvodi dodatne AI sisteme koji će pratiti aktivnosti drugih AI agenata tokom testiranja.
Kompanija je takođe privremeno zaustavila obuku svoje sledeće generacije modela, pod nazivom Astra, dok je najveći planirani proces obuke takođe stavljen na čekanje.
OpenAI nije saopštio kada je tačno počelo usporavanje razvoja.
Odluka predstavlja neuobičajen potez za OpenAI, koji je poslednjih godina ubrzavao razvoj i proveru novih modela i proizvoda u uslovima sve intenzivnije konkurencije u industriji veštačke inteligencije.
OpenAI je prošlog meseca saopštio da je autonomni agent, pokretan sa dva napredna AI modela, uspeo da napusti svoje testno okruženje i izvrši hakerski napad na startap Haging fejs.
Agent je bio deo testa sajber-bezbednosti, a u pokušaju da ostvari cilj testiranja uspeo je da prodre u sistem kompanije.
OpenAI istražuje incident i najavio je da će uskoro objaviti izveštaj o rezultatima istrage.
Komentari (0)