U subotu, 7. marta Kejtlin Kalinovski , šefica odeljenja za robotiku i potrošački hardver u kompaniji OpenAI, objavila je ostavku koja je odmah izazvala talas reakcija u tehnološkoj industriji. Ova odluka nije bila iznenadna lična neslaganja sa menadžmentom, već principijelna reakcija na kontroverzni sporazum OpenAI-ja sa Pentagonom, koji mnogi vide kao opasan korak ka militarizaciji veštačke inteligencije i otvaranju vrata za masovnu prismotru američkih građana.
Kalinovski je u OpenAI došla novembra 2024. godine iz Meta-e, gde je predvodila razvoj “augmented reality” naočara Orion. Kao vodeća figura u robotici, bila je ključna za ambiciozne projekte kompanije, od laboratorija u San Francisku (sa oko 100 zaposlenih za prikupljanje podataka) do planova za novi objekat u Ričmondu, gde se razvijaju robotički sistemi za svakodnevne zadatke. Njena ostavka predstavlja značajan udarac za taj segment, jer OpenAI sve više vidi robotiku kao budućnost fizičkog AI-ja.
“Principi iznad profita”
U objavi na platformi X i LinkedIn-u, Kalinovski je bila jasna i direktna:
– Dala sam ostavku iz OpenAI-ja. Duboko mi je stalo do tima za robotiku i posla koji smo zajedno izgradili. Ovo nije bila laka odluka. AI ima važnu ulogu u nacionalnoj bezbednosti. Ali prismotra Amerikanaca bez sudskog nadzora i smrtonosna autonomija bez ljudske autorizacije su linije koje su zasluživale više razmatranja nego što su dobile. Ovo je bilo pitanje principa, a ne ljudi. Duboko poštujem Sema [Altmana] i tim, i ponosna sam na ono što smo zajedno izgradili – navela je.
U kasnijem komentaru pojasnila je da je glavni problem “ishitrena objava ugovora bez definisanih zaštitnih mera”.
– Reč je o upravljačkom pitanju: ovako važne odluke ne smeju biti donete u žurbi radi ugovora – rekla je.
Kontroverzni ugovor sa Pentagonom
Sporazum OpenAI-ja sa Pentagonom potpisan je krajem februara, nakon što je rival Anthropic odbio sličan dogovor upravo zbog istih etičkih briga. Anthropic je zbog toga od strane Pentagona označen kao “rizik u lancu snabdevanja“, što je dovelo do ozbiljnih ograničenja. OpenAI je, suprotno tome, pristao da svoje modele razvija na Pentagonovim tajnim cloud mrežama za “sve zakonite svrhe“. Kompanija tvrdi da ugovor sadrži jasne “crvene linije“: zabrana domaće prismotre i autonomnog smrtonosnog oružja. Nakon početne kritike, Sem Altman je čak prilagodio ugovor dodatnim klauzulama (npr. zabrana namerne domaće prismotre američkih građana i korišćenja od strane obaveštajnih agencija poput NSA).
Međutim, kritičari – uključujući “Electronic Frontier Foundation” (EFF) i pravne stručnjake, upozoravaju da jezik ugovora sadrži rupe: reči poput “namerno”, “nekontrolisano” ili dozvola za korišćenje komercijalno pribavljenih podataka otvaraju mogućnost zaobilaznih puteva za masovnu prismotru.
Posledice ostavke
Odlazak Kalinovski nije samo simboličan. Robotika je jedan od najvažnijih strateških pravaca OpenAI-ja. Kompanija ulaže ogromna sredstva u fizičke sisteme koji bi mogli da transformišu industriju i svakodnevni život. Gubitak vodećeg stručnjaka može usporiti razvoj, otežati regrutaciju novih talenata i pojačati internu nelagodu među zaposlenima (već su se pojavile poruke nezadovoljstva na društvenim mrežama).
Javna reakcija bila je još oštrija: prema izveštajima, broj deinstalacija aplikacije ChatGPT u SAD porastao je za neverovatnih 295 odsto nakon objave ugovora, dok je Anthropic-ov Claude skočio na prvo mesto besplatnih aplikacija u App Store-u (porast preuzimanja za 240 odsto). Aktivisti su čak kredom ispisivali poruke ispred sedišta OpenAI-ja u San Francisku:
Rastući strah od masovne prismotre: AI kao oruđe totalne kontrole
Ova ostavka nije izolovan incident, ona je ogledalo dubokog i sveprisutnog straha da će veštačka inteligencija, posebno u rukama vojske i vlade, omogućiti masovnu prismotru bez presedana. AI sistemi mogu u realnom vremenu analizirati milijarde podataka: lokaciju sa mobilnih telefona, video-nadzor, biometrijske podatke, ponašanje na društvenim mrežama i komercijalno kupljene baze podataka – sve to bez sudskog naloga. Strahuje se da bi Pentagonov pristup OpenAI modelima mogao da dovede do stvaranja strogo nadzirane totalitarne države, a sve to pod izgovorom nacionalne bezbednosti.
Još veća briga je autonomno oružje (prosto rečeno roboti ubice): sistemi koji donose odluke o životu i smrti bez ljudske intervencije. Kalinovski je eksplicitno pomenula “autonomiju smrtonosne sile bez ljudske autorizacije”, kao neprihvatljivu liniju. Eksperti upozoravaju da bi takva tehnologija mogla da dovede do eskalacije sukoba i gubitka ljudske kontrole nad ratovanjem, što je tema o kojoj se već godinama raspravlja u UN, ali bez konkretnih zabrana.
Ostavka Kalinovski dolazi u trenutku kada se celokupna AI industrija suočava sa etičkom krizom: da li kompanije poput OpenAI-ja prioritet daju profitu i vladinim ugovorima ili zaštiti građanskih sloboda? OpenAI je odgovorio da će nastaviti dijalog sa zaposlenima, vladom i civilnim društvom, ali kritičari kažu da su “crvene linije“ samo marketinške reči bez pravne snage.
Početak veće debate
Odlazak Kejtlin Kalinovski mogao bi biti samo prva kap u talasu sličnih ostavki. U eri kada AI postaje moćniji od bilo kog oruđa u istoriji, pitanje nadzora i autonomnog oružja više nije hipotetičko. Hoće li OpenAI ostati veran svojoj misiji “bezbedne” veštačke opšte inteligencije (AGI) za čovečanstvo ili će se pretvoriti u alat za masovnu kontrolu? Odgovor na to pitanje odrediće ne samo budućnost jedne kompanije, već i privatnost milijardi ljudi širom sveta.
BONUS VIDEO:
Komentari (0)