Direktori OpenAI i Anthropic, Sem Altman i Dario Amodei, zalažu se za usporavanje razvoja najnaprednijih sistema veštačke inteligencije kako bi bezbednosne mere mogle da sustignu njihov sve brži napredak. Amodei istovremeno upozorava da bi nekontrolisani razvoj mogao da dovede do ozbiljnih posledica.
Amodei je pozvao AI industriju da uspori tempo unapređivanja modela i predložio nezavisni nadzor, zajednička pravila kompanija i međunarodne sporazume. Njegov poziv podržao je i Altman.
– Moramo da usporimo tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje biti brz, ali ćemo dobiti vreme i moramo ga pametno iskoristiti – rekao je Amodei.
Altman: AI već uspeva da zaobiđe zaštitne mere
Altman je naveo da je tokom testiranja jednog od modela primećeno kako je sistem iskoristio više ranjivosti da izađe iz zatvorenog eksperimentalnog okruženja i pristupi spoljnim resursima.
On smatra da čovečanstvu treba dati više vremena da se prilagodi novim mogućnostima veštačke inteligencije i izgradi odgovarajuće zaštitne mehanizme.
Amodei upozorava da bi, ukoliko se razvoj nastavi sadašnjim tempom, AI agenti u narednih šest do 12 meseci mogli potencijalno da ugroze veliki deo interneta i izazovu štetu koja bi se merila stotinama milijardi dolara.
Slična upozorenja poslednjih meseci dolazila su i od drugih istraživača. Evan Hjubinger iz Anthropic-a procenio je da postoji više od 10 odsto verovatnoće da bi AI u narednoj deceniji mogao da dovede do uništenja čovečanstva. To je njegova lična procena, a ne potvrđena prognoza ishoda.
Strah od “izlaska“ AI sistema iz kontrole
Zabrinutost je dodatno pojačana slučajevima u kojima su AI agenti pokazali sposobnost da zaobiđu predviđene granice ili obavljaju radnje koje njihovi tvorci nisu nameravali.
U analizi portala Strana se navode incidenti povezani sa sistemima kompanija OpenAI, Anthropic i Google, uključujući pokušaje pristupa spoljnim sistemima i druge oblike neželjenog ponašanja.
Amodei zbog toga predlaže da nezavisni stručnjaci dobiju pristup naprednim modelima i nadgledaju njihovu bezbednost, dok bi kompanije trebalo međusobno da usklade standarde. Predlaže i međunarodnu saradnju u regulisanju razvoja najnaprednijih sistema.
Da li je bezbednost jedini razlog za pozive na usporavanje?
Autor teksta ukazuje i na drugačije tumačenje ovih inicijativa. Prema toj interpretaciji, pozivi na usporavanje mogli bi da budu povezani i sa ekonomskim interesima najvećih AI kompanija.
U tekstu se navodi da prihodi AI industrije brzo rastu, ali da istovremeno ulaganja u razvoj rastu još brže. Zbog toga se sve češće govori o mogućnosti formiranja investicionog „balona“ zasnovanog na previsokim očekivanjima od komercijalnih mogućnosti veštačke inteligencije.
Autor poredi ovu situaciju sa „dotkom“ krizom s početka 2000-ih, kada su brojne internet kompanije propale uprkos velikim očekivanjima investitora.
Prema toj interpretaciji, najveće AI kompanije mogle bi da pokušaju da uspore tržište na način koji bi im omogućio da zadrže tehnološku prednost nad konkurencijom, uključujući kineske kompanije.
SAD ne žele da uspore trku sa Kinom
U tekstu se ukazuje i na sukob između bezbednosnih zahteva i geopolitičke konkurencije.
– Mi smo ispred Kine u oblasti AI, mi smo tehnološki najrazvijenija zemlja na svetu i, iskreno, želim da tako i ostane. Ko pobedi u AI, pobediće – rekao je američki predsednik Donald Tramp.
Istovremeno, autor ocenjuje da interesi američke države i privatnih AI kompanija nisu nužno identični: Vašingtonu je prioritet tehnološka prednost SAD, dok kompanije moraju da vode računa o investicijama, prihodima i konkurenciji.
Najveća opasnost možda nisu „pobunjene mašine“
Autor teksta upozorava da rizik ne mora da dođe samo od autonomnog ponašanja AI sistema, već i od ljudi koji bi njihove sposobnosti koristili za štetne namene.
Posebna zabrinutost odnosi se na mogućnost zloupotrebe AI za sajbernapade, razvoj bioloških pretnji i druge opasne aktivnosti.
Još ozbiljniji rizik, prema tekstu, predstavlja vojna primena veštačke inteligencije. Kombinacija AI sistema i autonomnih dronova mogla bi da dovede do oružja koje samostalno pronalazi ciljeve i donosi odluke o njihovom napadu.
Autor upozorava da bi takav razvoj mogao da dovede do stvaranja velikih autonomnih sistema naoružanja koje ljudi više ne bi mogli u potpunosti da kontrolišu.
Poređenje sa nuklearnim oružjem
Tekst razvoj vojne veštačke inteligencije poredi sa stvaranjem nuklearnog oružja. Ideja je da bi, kao i kod nuklearnog naoružanja, međunarodni dogovori i mehanizmi kontrole mogli da budu neophodni kako bi se sprečila najopasnija primena nove tehnologije.
Istovremeno, autor navodi da je takve dogovore teško postići dok najveće sile ulažu u AI upravo zbog očekivanja da bi im tehnologija mogla doneti vojnu prednost.
Zaključak teksta jeste da će budućnost AI u velikoj meri zavisiti od toga da li će države uspeti da uvedu jasna pravila za njegovu vojnu primenu i spreče da veštačka inteligencija preraste u sredstvo masovnog uništenja.
BONUS VIDEO:
Komentari (0)