Ljudi koji razvijaju najnaprednije sisteme veštačke inteligencije „iskreno su uplašeni“ zbog brzine kojom tehnologija napreduje i mogućnosti da jednog dana izmakne ljudskoj kontroli, tvrdi Džejkob Kokson, bivši istraživač kompanija Anthropic i OpenAI.
Kokson (27), koji je nedavno napustio Anthropic i izazvao veliku pažnju javnosti objavom o razlozima svoje ostavke, rekao je za BBC da smatra da bi nastavak razvoja sadašnjim tempom mogao da predstavlja egzistencijalnu opasnost.
„Verujem da, ako ne usporimo pri sadašnjoj brzini napretka, postoji velika šansa da bismo svi mogli da umremo u bliskoj budućnosti“, rekao je Kokson.
On tvrdi da takvi strahovi nisu ograničeni na nekoliko kritičara industrije, već postoje upravo među ljudima koji razvijaju AI.
„Ljudi koji rade u tim kompanijama potpuno su ozbiljni kada traže regulaciju, jer se osećaju zarobljenim u trci. I plaše se ishoda te trke“, rekao je za BBC.
Prema njegovim rečima, pojedini zaposleni čak razmišljaju o kupovini zemlje na udaljenim mestima zbog straha od nestabilnosti koju bi mogao da izazove nekontrolisan razvoj AI.
„Svakodnevno razmišljaju o tome dok rade na ovoj tehnologiji“, rekao je.
Scenario koji bi mogao da postane realnost za godinu dana
Jedan od mogućih scenarija jeste stvaranje velikog broja autonomnih AI agenata koji bi zajedno funkcionisali poput superkompjutera i mogli da preuzmu kontrolu nad delovima interneta. Kokson smatra da bi takva mogućnost mogla da postane realna za svega šest meseci do godinu dana.
Njegova upozorenja dolaze u trenutku kada i šef Anthropica Dario Amodei otvoreno poziva industriju da uspori razvoj najmoćnijih modela.
„Moramo da usporimo tempo kojim poboljšavamo sposobnosti AI modela. Napredak će i dalje izgledati brz, ali vreme koje dobijemo moramo mudro da iskoristimo“, napisao je Amodei, prenosi Gardijan.
On upozorava da je tokom leta primetio da AI napreduje „drastično brže“, uključujući mogućnost takozvanog rekurzivnog samousavršavanja.
„Ako se ne kontroliše, to bi moglo da prevaziđe našu sposobnost da razumemo i kontrolišemo te sisteme“, upozorio je Amodei.
Njegov predlog uključuje nezavisne evaluatore koji bi imali širok pristup sistemima kompanija kako bi mogli da proveravaju bezbednosne mere i ponašanje modela.
Podrška je stigla i od direktora OpenAI Sema Altmana.
„Slažem se sa Dariom da moramo da usporimo razvoj na samoj granici mogućnosti. Nezavisni evaluatori sa pristupom sličnim zaposlenima odlična su ideja i mi ćemo uraditi isto“, poručio je Altman, prenosi Gardijan.
Ilon Mask, vlasnik kompanije xAI, bio je još kraći: „Dario je u pravu.“
„AI bi mogao da ubije sve ljude“
Kokson nije jedini istraživač Anthropica koji javno govori o mogućnosti katastrofalnog scenarija.
Naučnik te kompanije Evan Hubinger podržao ga je na mreži X.
„Mi zaista iskreno verujemo da bi AI mogao da ubije sve ljude. Lično mislim da je verovatnoća za to veća od 10 odsto u narednoj deceniji“, napisao je Hubinger, prenosi BBC.
Kokson je ranije bio još oštriji, tvrdeći da se najveće kompanije utrkuju ka stvaranju superinteligencije sposobne da samu sebe unapređuje.
„Anthropic i OpenAI jure pravo ka samousavršavajućoj superinteligenciji i kockaju se našim životima. Ljudi koji grade AI iskreno veruju da bi ona mogla sve da nas ubije do kraja decenije“, napisao je prilikom ostavke, prenosi Gardijan.
Anthropic odbacuje tvrdnju da neodgovorno pristupa rizicima. Kompanija je BBC-ju saopštila da je oduvek otvoreno govorila da će AI doneti „ogromne koristi, ali i rizike bez presedana“ i tvrdi da njeni modeli imaju neke od najstrožih bezbednosnih mehanizama u industriji.
Deo Silicijumske doline kaže – besmislica
Ipak, oko ovih upozorenja ne postoji konsenzus.
Direktor platforme Hugging Face Kleman Delang kritikovao je pridavanje velikog značaja Koksonovim procenama, dok je direktor Nvidije Džensen Huang ranije ideju da će AI izazvati kraj čovečanstva nazvao „potpunom besmislicom“, navodi BBC.
Kritičari takođe upozoravaju da velike AI kompanije mogu imati poslovni interes da predstavljaju svoje sisteme kao izuzetno moćne i opasne, ali i da kroz strožu regulaciju otežaju ulazak novih konkurenata na tržište.
Sam Kokson, međutim, kaže da nije protiv razvoja veštačke inteligencije. Naprotiv, veruje da ona može da pomogne u lečenju bolesti i dramatično poboljša živote ljudi.
Problem je, tvrdi, što se tehnološka trka trenutno odvija toliko brzo da bezbednosni sistemi možda neće uspeti da je sustignu.
Zato upozorava da eventualno usporavanje ne može da bude ograničeno samo na američke kompanije. Ono bi moralo da bude koordinisano i sa Kinom, kako trka između kompanija ne bi jednostavno prerasla u još opasniju „trku na međunarodnom nivou“.
Komentari (0)