Američka tehnološka kompanija Antropik upozorila je da bi ubrzani razvoj veštačke inteligencije mogao da dovede do situacije u kojoj napredni AI sistemi postanu sposobni da samostalno unapređuju sopstvene mogućnosti, što bi moglo da umanji ljudsku kontrolu nad njihovim razvojem.
U najnovijem izveštaju kompanije navodi se da model Klod danas generiše više od 80 odsto programskog koda koji se ugrađuje u Antropikove sisteme, dok je pre godinu i po dana njegov udeo bio jednocifren.
Kompanija ističe i da je Klod u aprilu uspeo da otkloni greške za čije bi rešavanje ljudskim stručnjacima, prema procenama, bile potrebne oko četiri godine rada.
Posebnu pažnju u izveštaju privlače rezultati u oblasti istraživačkog rada. Prema navodima kompanije, kada se Klod suoči sa složenim istraživačkim problemom bez unapred definisanog cilja, u 64 odsto slučajeva predlaže kvalitetniji naredni korak od istraživača koji radi na zadatku. U novembru prošle godine taj procenat iznosio je 51 odsto.
Antropik navodi i da su Klodovi AI agenti za ukupno 800 sati rada rešili jedan problem iz oblasti bezbednosti veštačke inteligencije sa uspešnošću od 97 odsto, dok su dva ljudska istraživača za nedelju dana ostvarila uspešnost od 23 odsto.
Ipak, kompanija naglašava da ključna ograničenja i dalje postoje.
– Klod je izuzetno efikasan u izvršavanju zadataka koje mu ljudi postave, ali još nije sposoban da samostalno odlučuje koje probleme treba rešavati – navodi se u izveštaju.
Antropik je predstavio tri moguća scenarija daljeg razvoja veštačke inteligencije. Prvi podrazumeva usporavanje tehnološkog napretka i širenje postojećih mogućnosti kroz ekonomiju. Drugi predviđa nastavak razvoja AI sistema uz zadržavanje ljudske kontrole nad istraživačkim pravcima. Treći, najambiciozniji scenario, podrazumeva pojavu sistema koji bi mogli samostalno da projektuju, razvijaju i unapređuju svoje naslednike.
Zbog mogućih posledica takvog razvoja, kompanija smatra da bi trebalo razmotriti usporavanje ili privremenu pauzu u razvoju najnaprednijih AI sistema, pod uslovom da sličan pristup usvoje i ostali akteri u industriji.
Antropik je najavio i pokretanje serije razgovora sa donosiocima odluka, istraživačima i predstavnicima civilnog društva kako bi se otvorila pitanja regulacije, koordinacije i nadzora nad razvojem veštačke inteligencije.
BONUS VIDEO:
Komentari (0)