Mogućnost da američka AI kompanija Anthropic samostalno kontroliše najnapredniju veštačku inteligenciju bila bi podjednako opasna kao scenario u kojem bi Adolf Hitler i nacistička Nemačka prvi razvili atomsku bombu, ocenio je inženjer kineske kompanije DeepSeek Liu Šengju. On smatra da najnaprednija veštačka inteligencija mora biti dostupna svima na otvoren i pristupačan način, uz sumnju da će američke kompanije to omogućiti.
U tekstu objavljenom na blogu, Liu Šengju, inženjer sistema za mašinsko učenje u DeepSeeku, izneo je kritike na račun pristupa vodećih američkih AI kompanija. Njegove izjave dolaze u trenutku kada direktori i istraživači iz SAD ponovo upozoravaju na brzinu razvoja veštačke inteligencije i mogućnost da budući sistemi deluju izvan ljudske kontrole.
Upozorenja iz američkih AI laboratorija
Direktor Anthropica Dario Amodei proteklog vikenda pozvao je na usporavanje razvoja veštačke inteligencije i uvođenje strožeg nadzora.
On je predložio i angažovanje nezavisnih procenitelja unutar vodećih AI kompanija, ali je naglasio da se time ne sme „žrtvovati komercijalna prednost“.
Prošle nedelje ostavku je podneo bivši istraživač Anthropica Džejkob Kokson, koji je optužio vodeće AI kompanije da se ne ponašaju odgovorno.
Nakon toga je Ivon Hibinger, jedan od vodećih stručnjaka za usklađivanje AI sistema u Anthropicu, izjavio da lično procenjuje da rizik od izumiranja čovečanstva zbog veštačke inteligencije u narednoj deceniji iznosi više od 10 odsto.
Inženjer DeepSeeka strahuje od kontrole AGI-ja
Liu Šengju je u tekstu na kineskom jeziku izrazio nepoverenje da će Anthropic ili OpenAI naprednu AI tehnologiju učiniti „otvorenom i pristupačnom“.
Takav pristup suprotstavio je modelima otvorenog koda koje razvija njegova kompanija.
– Verujem da vrhunska inteligencija treba da bude dostupna svima na otvoren i pristupačan način – rekao je Liu.
Međutim, dodao je da ne veruje da će Anthropic ili OpenAI to učiniti.
– Konkretno, strahujem od mogućnosti da Anthropic kontroliše najnapredniju veštačku inteligenciju ili AGI. Da se izrazim dramatično, posledice ne bi bile ništa manje ozbiljne od situacije u kojoj bi Hitler došao do tehnologije atomske bombe pre Saveznika – naveo je Liu.
AGI, odnosno opšta veštačka inteligencija, odnosi se na sisteme koji dostižu ili nadmašuju ljudski nivo inteligencije.
Liu smatra da bi dalji razvoj AI mogao dodatno otežati društvenu mobilnost.
– Društvena mobilnost postaje sve teža jer je za probijanje klasnih barijera potrebna najmoćnija veštačka inteligencija – ocenio je.
U Kini kritikuju Amodeijeve stavove
Nezavisna kineska istraživačka platforma Institut za istraživanje Dongbujaćiao saopštila je u utorak da bi Amodeijevi komentari mogli predstavljati „pokušaj sticanja veće kontrole nad pravilima industrije pre nego što ona budu u potpunosti uspostavljena“.
Dan ranije, portparol kineskog Ministarstva spoljnih poslova Guo Điakun izjavio je da će „zastrašivanje, konfrontacija i žestoka konkurencija“ ometati napore za uspostavljanje zdravog globalnog upravljanja veštačkom inteligencijom.
Državni list Global Times u komentaru objavljenom u nedelju opisao je Amodeijeve predloge kao „tihi hladni rat veštačke inteligencije“.
U tekstu se tvrdi da je cilj tih predloga očuvanje američke tehnološke prednosti, uz istovremeno isključivanje Kine iz globalnog upravljanja ovom tehnologijom.
Tramp odbacuje pozive na usporavanje
Američki predsednik Donald Tramp odbacio je pozive da se uspori razvoj veštačke inteligencije.
On je ocenio da bi ograničavanje američkog napretka u ovoj oblasti moglo da omogući Kini da stekne prednost.
Komentari (0)