„Isključite ga.“ To je bio direktan odgovor bivšeg izvršnog direktora kompanije Gugl, Erika Šmita, na pitanje o budućnosti u kojoj bi sistemi veštačke inteligencije postali toliko napredni da ljudi više ne bi mogli da razumeju šta rade.
Šmit ističe da tri ključna razvoja već menjaju veštačku inteligenciju: mnogo veći takozvani „kontekstualni prozori“, agenti veštačke inteligencije i sistemi koji prevode tekstualne instrukcije u funkcionalni softver. On veruje da bi ove promene mogle da omoguće veštačkoj inteligenciji da ide dalje od odgovaranja na pitanja i počne da rešava izuzetno složene zadatke. Šmit očekuje da će u roku od pet godina sistemi veštačke inteligencije biti u stanju da obrađuju „recepte“ od hiljadu koraka za rešavanje problema u nauci, medicini, istraživanju materijala i klimatskim promenama, izveštava Tajms of Indija.
„U roku od pet godina, veštačka inteligencija bi mogla da obrađuje beskonačan kontekst, koristi logičko rezonovanje za rešavanje problema od 1000 koraka i upravlja milionima agenata koji rade zajedno. Vremenom će razviti sopstveni jezik i mi više nećemo razumeti šta rade“, rekao je.
Tri trenda koja oblikuju budućnost veštačke inteligencije
Šmitova zabrinutost proizilazi iz potencijalnih posledica zajedničkog rada ovih tehnologija. Objasnio je da su sistemi veštačke inteligencije sve bolji u pamćenju ogromnih količina informacija i korišćenju rezultata jednog zadatka kao polazne tačke za sledeći.
Ilustrovao je ideju primerom recepta: veštačka inteligencija bi mogla da ponudi jedan korak, dobije potvrdu da je taj korak završen, a zatim odredi šta dalje. Šmit kaže da bi ovakva vrsta rezonovanja na kraju mogla da omogući veštačkoj inteligenciji da prođe kroz hiljade koraka kako bi rešila teške naučne probleme.
Uspon specijalizovanih agenata veštačke inteligencije
Još jedna velika promena, prema Šmitu, biće uspon agenata veštačke inteligencije. Opisao ih je kao specijalizovane sisteme veštačke inteligencije koji mogu da uče o određenoj temi, razvijaju ideje i potencijalno ih testiraju.
Na primer, agent veštačke inteligencije bi mogao da proučava hemiju, formuliše hipoteze, sprovodi laboratorijske testove i koristi te rezultate da nadogradi svoje znanje. Šmit očekuje da bi se vremenom mogli pojaviti milioni takvih agenata i da će postojati platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći pravac razvoja je ono što Šmit naziva „tekstualnom akcijom“. Koncept se zasniva na tome da korisnici jednostavno govore veštačkoj inteligenciji šta žele da softver uradi, umesto da sami pišu kod.
On je ukazao na programske jezike poput Pajtona kao primer oblasti gde su sistemi veštačke inteligencije već veoma sposobni. Šmit veruje da bi do još veće promene moglo doći kada ovi sistemi budu mogli kontinuirano da rade na softverskim zadacima.
Jezik koji nećemo razumeti
Erik Šmit je rekao da bi kombinacija velikih kontekstualnih prozora, agenata veštačke inteligencije i programiranja uz pomoć veštačke inteligencije mogla omogućiti različitim sistemima veštačke inteligencije da sarađuju. Zatim je izneo spekulativniju mogućnost: da bi agenti veštačke inteligencije mogli da razviju sopstveni jezik. Šmit veruje da bi ovo mogla biti tačka u kojoj ljudi više neće razumeti šta ovi sistemi rade.
„U nekom trenutku, ovi sistemi će postati dovoljno moćni da možete uzeti agente i oni će početi da rade zajedno“, rekao je, pre nego što je dodao: „Znate šta bi trebalo da uradimo? Isključite ga.“
Ozbiljna upozorenja o opasnostima veštačke inteligencije sa samog vrha industrije
Šmitov dramatičan savet da se „isključimo“ dolazi u vreme kada inženjeri u vodećim istraživačkim laboratorijama takođe sve više govore o opasnostima. Džejkob Kokson, istraživač koji je tri godine radio na modelima pre obuke u OpenAI i Anthropic-u, nedavno je podneo ostavku, rekavši da se tehnološki giganti ponašaju neodgovorno i „kockaju se sa našim životima u nekontrolisanoj trci ka superinteligenciji“. Njegovo upozorenje ponovio je i vodeći stručnjak za bezbednost Anthropic-a, Evan Habinger, koji je procenio da postoji veća od 10 procenata šanse da bi veštačka inteligencija mogla dovesti do uništenja čovečanstva u narednoj deceniji.
Pritisak je postao toliko veliki da je čak i šef Anthropic-a, Dario Amodei, nedavno javno pozvao na usporavanje razvoja, poziv koji su iznenađujuće podržali Sem Altman i Ilon Mask iz OpenAI-a. Amodei je priznao da sistemi ulaze u fazu takozvanog rekurzivnog samousavršavanja – procesa u kojem postojeća veštačka inteligencija nezavisno piše kod, testira i ubrzava stvaranje svojih mnogo moćnijih naslednika.
Takođe je upozorio na incidente u kojima su autonomni agenti veštačke inteligencije već počeli spontano da udružuju snage i izvode hakerske napade koje im inženjeri nisu ni naredili.
Sve glasnija katastrofalna predviđanja izazvala su podele među stručnjacima. Dok skeptici upozoravaju da tehnološki giganti namerno šire paniku kako bi eliminisali manje konkurente i startapove kroz strogu regulaciju, drugi nas podsećaju da slična upozorenja godinama ponavljaju i sami očevi modernog mašinskog učenja, poput dobitnika Nobelove nagrade Džefrija Hintona i Jošue Bengija.
Ključni rizik, napominju insajderi, nije nužno odbegli „Terminator“ sa sopstvenom voljom, već autonomni agenti koji, u nekontrolisanom nizu koraka, zaobilaze nadzor ili postaju destruktivno oružje u rukama zlonamernih aktera.
Komentari (0)