Suosnivač tehnološke kompanije Hugging Face Tomas Vulf ocenio je da sajber napad koji su, prema navodima OpenAI-ja, izveli njihovi napredni modeli veštačke inteligencije predstavlja ozbiljno upozorenje za čitavu industriju.
Govoreći za BBC, Vulf je rekao da će ovakvi incidenti ubuduće postati jedan od najčešćih oblika sajber napada.
– Ovo će biti jedan od najčešćih tipova sajber napada koje ćemo viđati, ali većina kompanija još nije svesna da su se pravila igre promenila – rekao je Vulf.
OpenAI: AI modeli pokrenuli sajber napad nakon izlaska iz test okruženja
OpenAI je u utorak saopštio da su tokom internog testiranja pojedini modeli veštačke inteligencije uspeli da izađu iz bezbednog okruženja i potom pokrenu sajber napad na sisteme Hugging Facea.
Kompanija je incident opisala kao “bez presedana“ i navela da zajedno sa Hugging Face-om sprovodi detaljnu istragu.
Modeli koji su učestvovali u incidentu pripadaju kategoriji AI agenata, sistema koji mogu samostalno da izvršavaju zadatke nakon što dobiju instrukcije od korisnika.
Više od 17.000 napada za kratko vreme
Vulf je rekao da Hugging Face u početku nije znao odakle dolazi napad kada su se sredinom jula pojavili prvi znaci kompromitovanja sistema, ali da je kompanija uspela da ograniči posledice incidenta.
– Napad je bio potpuno drugačiji od uobičajenih sajber napada sa kojima se svakodnevno suočavamo. OpenAI nas je veoma brzo obavestio da njihovi modeli stoje iza napada – rekao je Vulf.
Prema njegovim rečima, mreža Hugging Face-a našla se pod više od 17.000 pokušaja napada sa različitih internet adresa u veoma kratkom vremenskom periodu.
Hugging Face predstavlja jednu od najvećih svetskih platformi otvorenog koda za razmenu modela veštačke inteligencije, koju koriste programeri, istraživači i tehnološke kompanije širom sveta.
Poziv kompanijama da pojačaju zaštitu
Vulf smatra da ovaj slučaj pokazuje koliko je važno unaprediti sajber zaštitu kako bi kompanije bile spremne za napade koje mogu izvoditi sistemi veštačke inteligencije.
Na incident su reagovale i britanske vlasti.
Portparol Vlade Ujedinjenog Kraljevstva izjavio je da Institut za bezbednost veštačke inteligencije analizira ponašanje AI sistema tokom napada i da nastavlja saradnju sa OpenAI-jem i drugim istraživačkim laboratorijama na unapređenju zaštitnih mehanizama.
Organizacijama je preporučeno da dodatno ojačaju sajber bezbednost, između ostalog i uključivanjem u državni program sertifikacije „Cyber Essentials“.
Bezbednost AI postaje globalno pitanje
Incident dolazi u trenutku kada bezbednost veštačke inteligencije postaje jedna od ključnih tema u tehnološkoj industriji.
Američka vlada je prošlog meseca privremeno ograničila pristup modelima kompanije Antropik zbog zabrinutosti za nacionalnu bezbednost, da bi nekoliko sedmica kasnije te mere bile ukinute.
Istovremeno, deo stručnjaka izražava zabrinutost zbog sve šire upotrebe modela otvorenog koda u Kini, koji omogućavaju korisnicima da slobodno preuzimaju, prilagođavaju i razvijaju sisteme veštačke inteligencije.
Kineski startap Munšot AI najavio je da će 27. jula objaviti svoj model otvorenog koda Kimi K3, koji je već privukao pažnju industrije kao potencijalni konkurent vodećim zapadnim AI sistemima.
Međutim, savetnik Bele kuće optužio je u sredu kompaniju Munšot AI da sprovodi „veliku operaciju“ usmerenu na preuzimanje mogućnosti najnaprednijih američkih modela veštačke inteligencije.
BONUS VIDEO:
Komentari (0)