Ilon Mask i grupa IT stručnjaka pozvala je da se privremeno obustavi obuka moćnih sistema veštačke inteligencije zbog potencijalnog rizika za čovečanstvo.
U otvorenom pismu neprofitne organizacije “Institut za budućnost života”, koje je potpisalo više od 1.000 ljudi, upozorava se na rizike za društvo i civilizaciju koji bi mogli predstavljati AI sistemi, ali i da je trka za razvoj izmakla kontroli.
“Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi efekti biti pozitivni i da se rizicima može upravljati“, upozorava se.
Važna pitanja
Potpisnici su pozvali na šestomesečni prekid “opasne trke” za razvoj AI naprednijeg od nedavno pokrenutog OpenAI GPT-4.
Naprednu veštačku inteligenciju treba pažljivo razvijati, poručuje se, ali umesto toga, “poslednjih meseci smo videli da su laboratorije zaključane u trci van kontrole da razviju i primene sve moćnije digitalne umove koje niko, pa čak ni njihovi kreatori, ne može da razume, predvidi ili pouzdano kontroliše”.
U pismu se upozorava da bi veštačka inteligencija mogla da preplavi svet dezinformacijama i da automatizuje poslove koje trenutno obavljaju ljudi.
“Savremeni AI sistemi postaju konkurentni ljudima u opštim zadacima i moramo da se zapitamo: da li treba da dozvolimo mašinama da preplave naše informacione kanale propagandom i neistinom? Da li treba da automatizujemo sve poslove, uključujući i one koji nas ispunjavaju?”
Poziv državi
Pismo je usledilo nakon nedavnog izveštaja investicione banke Goldman Sachs u kojem se navodi da bi, iako će veštačka inteligencija verovatno povećati produktivnost, milioni poslova mogli da postanu automatizovani.
“Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti, učiniti zastarelim i zameniti? Da li treba da rizikujemo gubitak kontrole nad civilizacijom? Takve odluke se ne smeju prepustiti neizabranim tehnološkim liderima“, navodi se u pismu.
“Pozivamo sve laboratorije da odmah pauziraju na najmanje šest meseci obuku AI sistema moćnijih od GPT-4. Ova pauza treba da bude javna i proverljiva i da uključuje sve ključne aktere. Ako se takva pauza ne može brzo primeniti, vlade bi trebalo da se umešaju i uvedu moratorijum“, navode potpisnici.
Potpisao i Voznijak
Pored Ilona Maska i suosnivača kompanije Apple Stiva Voznijaka, pismo potpisuju istraživači kompanije Deep Mind koja je u vlasništvu Alphabeta (matična kuća Google).
Zanimljivo da je Mask bio suosnivač OpenAI, ali je dao ostavku u organizacionom odboru pre nekoliko godina, posle čega je na Twitteru govorio kritički o pravcu njenog razvoja.
Niko iz OpenAI, kompanije koja stoji iza GPT-4, nije potpisao pismo, iako je Emad Mostaka, osnivač i izvršni direktor Stability AI, na listi.
Komentari (0)