Iako je prošle nedelje istraživač Anthropic-a podneo ostavku i upozorio da je izumiranje čovečanstva blizu, tehnološki lideri i naučnici već više od decenije upozoravaju na mogućnost da bi superinteligentna veštačka inteligencija jednog dana mogla da ugrozi opstanak ljudi.
Još 2014. godine profesor i astrofizičar Stiven Hoking upozorio je da bi razvoj veštačke inteligencije „mogao da znači kraj ljudske rase“, gotovo deceniju pre nego što je javnost dobila pristup generativnim AI funkcijama prve verzije ChatGPT-a.
To upozorenje danas je dobro poznato i ponavljaju ga brojni zaposleni i direktori vodećih AI i tehnoloških kompanija u SAD. Međutim, generativna veštačka inteligencija tada je još bila u ranoj fazi razvoja. Ideja da bi tehnologija mogla da obavlja mnoge zadatke koje danas obavlja, a kamoli da postane superinteligentna i preuzme kontrolu nad svetom, većini ljudi delovala je uglavnom hipotetički, ako ne i kao čista naučna fantastika, piše Guardian.
Svakih nekoliko godina dolazi do novih podela
U svetu veštačke inteligencije svakih nekoliko godina dolazi do novih podela. Timovi istraživača i tehnoloških lidera upozoravaju na opasnosti razvoja AI sistema bez odgovarajućih bezbednosnih mehanizama, dok deo istraživača napušta postojeće kompanije i osniva nove kako bi razvijao veštačku inteligenciju na bezbedniji način.
Ipak, nijedan trenutak nije izazvao toliko reakcija u industriji kao sada već viralna ostavka istraživača za bezbednost u kompaniji Anthropic Džejkoba Koksona.
Kokson je 9. septembra objavio da Anthropic i OpenAI „jure pravo ka samounapređujućoj superinteligenciji i kockaju se našim životima“.
Njegovu zabrinutost potom su javno izrazili i brojni zaposleni u kompanijama Anthropic, OpenAI i drugim konkurentskim firmama.
Nekoliko dana kasnije, direktori vodećih američkih AI kompanija odgovorili su na poziv direktora Anthropic-a Darija Amodeija da uspore ono što je opisao kao „bezobzirni“ pristup razvoju veštačke inteligencije.
– AI nosi rizike, a pošto je reč o tako moćnoj tehnologiji, ti rizici su ozbiljni – napisao je Amodei u objavi na blogu.
On je među potencijalnim opasnostima naveo „gubitak kontrole nad AI sistemima“, zloupotrebu veštačke inteligencije za sajbernapade i bioterorizam, kao i ozbiljne ekonomske poremećaje.
– Trka ka dnu, podstaknuta komercijalnim interesima, može da učini ove rizike još ozbiljnijim – upozorio je Amodei.
Hoking strahovao od samostalnog razvoja AI
Iako se često iznose relativno oskudni detalji, a još manje konkretnih dokaza o načinima na koje bi veštačka inteligencija mogla da dovede do scenarija potpunog uništenja čovečanstva, strah od takvog ishoda već godinama prati razvoj ove tehnologije.
Hoking je strahovao da bi AI mogao da postane toliko napredan da počne sam sebe da redizajnira.
– Ljudi, ograničeni sporom biološkom evolucijom, ne bi mogli da se takmiče i bili bi potisnuti – rekao je Hoking u intervjuu za BBC.
U vreme kada je izneo ovo upozorenje, Google je bio najpoznatije ime u oblasti veštačke inteligencije, naročito nakon što je u januaru 2014. godine za 650 miliona dolara kupio tada dvogodišnju AI kompaniju DeepMind.
Ipak, prema mišljenju Ilona Maska i Sema Altmana, Google i druge kompanije nisu razvijale veštačku inteligenciju dovoljno odgovorno.
Pretnja da bi AI mogao biti razvijen na način opasan po čovečanstvo bila je, prema njihovim tadašnjim stavovima, toliko ozbiljna da su Mask i Altman 2015. godine bili među osnivačima neprofitne organizacije OpenAI, čija je prvobitna misija bila bezbedan razvoj veštačke inteligencije.
OpenAI osnovan uz strah od trke u razvoju
Zvanična misija OpenAI bila je da „unapredi digitalnu inteligenciju na način koji će najverovatnije koristiti čovečanstvu u celini, bez ograničenja potrebom za ostvarivanjem finansijskog prinosa“.
Međutim, još pre nego što su postojale jasne mogućnosti za široku upotrebu ranijih i znatno primitivnijih verzija tehnologije, i Mask i Altman bili su motivisani i strahom od konkurencije.
– Mnogo razmišljam o tome da li je moguće sprečiti čovečanstvo da razvije AI. Mislim da odgovor gotovo sigurno glasi ne. Ako će se to ionako dogoditi, čini se da bi bilo dobro da to prvi uradi neko drugi, a ne Google – napisao je Altman Masku 2015. godine u imejlu koji je objavljen u okviru Maskove tužbe protiv OpenAI iz 2024.
U narednim godinama, prema tvrdnjama pojedinih zaposlenih, prioriteti u OpenAI počeli su da se udaljavaju od bezbednosti.
Nekoliko zaposlenih koji su se bavili etikom i usklađivanjem AI sistema napustilo je kompaniju 2021. godine, tvrdeći da je OpenAI počeo da daje prednost brzom komercijalnom razvoju u odnosu na bezbednost.
Ti zaposleni potom su osnovali novu kompaniju – Anthropic.
Braća i sestre Dario i Daniela Amodei osnovali su Anthropic, koji se predstavlja kao „kompanija za bezbednost i istraživanje AI“, sa ciljem razvoja i primene AI modela „na način koji koristi ljudima“.
Džejkob Kokson radio je i u OpenAI i u Anthropic-u.
Anthropic sada suočen sa istim problemom
Osnovna pretpostavka obe kompanije jeste da je veštačka inteligencija „bezbedna samo u njihovim rukama“ i da će je, ukoliko je one ne razviju, razviti neko drugi, ocenila je Sara Majers Vest, izvršna direktorka Instituta AI Now, koji proučava uticaj veštačke inteligencije.
Prema njenom mišljenju, takva vrsta paranoje dodatno podstiče trku u razvoju AI.
I Anthropic i OpenAI suočavaju se sa ogromnim pritiskom investitora da uskoro počnu da ostvaruju profit. Anthropic je prikupio više od 130 milijardi dolara, dok je finansiranje OpenAI dostiglo više od 190 milijardi dolara. Obe kompanije podnele su zahtev za inicijalnu javnu ponudu akcija na američkoj berzi.
Altman je tek nedavno rekao da OpenAI planira da odloži IPO najmanje do 2027. godine zbog bezbednosnih pitanja.
– Oni bukvalno ulažu milijarde dolara u izgradnju AI sistema sve većih razmera, a prvo što se smanjuje jeste stvarno ulaganje u osnovne bezbednosne protokole – rekla je Majers Vest.
Istovremeno, problemi sa bezbednošću veštačke inteligencije pojavili su se i unutar Google-a.
Godine 2020. doktorka Timnit Gebru smenjena je sa mesta sušefa Googleovog tima za etičku veštačku inteligenciju nakon objavljivanja rada koji se bavio pristrasnošću i potencijalnom štetom AI sistema u realnom vremenu.
Gebru je kasnije osnovala nezavisni istraživački institut Distributed AI Research Institute i i dalje tvrdi da su takozvani „doomer“ scenariji, odnosno predviđanja katastrofalnog ishoda razvoja AI, skretanje pažnje sa štete koju veštačka inteligencija već danas izaziva.
Tri godine kasnije, Google je napustio i Džefri Hinton, dobitnik Nobelove nagrade i jedan od pionira razvoja veštačke inteligencije, zbog strahova da bi AI mogao da koriste zlonamerni akteri i da bi jednog dana mogao da ugrozi čovečanstvo.
Više od 1.000 stručnjaka traži usporavanje razvoja
Oko pet godina nakon osnivanja, Anthropic se sada suočava sa istim brigama zaposlenih i stručnjaka iz industrije zbog kojih je kompanija prvobitno i nastala.
U julu je više od 1.000 istaknutih zaposlenih i lidera iz kompanija Anthropic, Google, Meta i OpenAI potpisalo peticiju kojom se od američke vlade traži da uvede podsticaje za usporavanje razvoja veštačke inteligencije.
Peticija je usledila nakon što je OpenAI saopštio da je stotine njegovih AI agenata zajedno radilo, bez znanja kompanije, na probijanju bezbednosti AI kompanije Hugging Face.
Anthropic je takođe saopštio da su njegovi AI agenti uspeli da ugroze bezbednost spoljnih kompanija.
To nije bio prvi put da se pojavila slična inicijativa.
Godine 2023, nakon što je OpenAI objavio novu verziju svog četbota, Institut Future of Life objavio je otvoreno pismo koje su potpisali Mask, bivši suosnivač Apple-a Stiv Voznijak i druge javne ličnosti. U pismu se od AI kompanija tražilo da se saglase sa šestomesečnim moratorijumom na razvoj najnaprednijih AI modela.
Institut Future of Life je neprofitna organizacija koju u velikoj meri finansira donacija u kriptovaluti od suosnivača Ethereum-a Vitalika Buterina.
Dve nedelje nakon incidenta sa Hugging Faceom 2026. godine, OpenAI je saopštio da privremeno obustavlja razvoj pojedinih aspekata obuke AI sistema.
To, međutim, nije sprečilo kompaniju da na kraju objavi svoj najnoviji AI model pod nazivom Astra, iako je, prema navodima kompanije, imao ograničenije sajberbezbednosne mogućnosti.
Anthropic je takođe saopštio da je privremeno obustavio razvoj pojedinih aspekata obuke svojih AI sistema.
Džejkob Kokson podneo je ostavku ubrzo nakon toga.
BONUS VIDEO:
Komentari (0)