Inženjer Skot Šambo otkrio je šta se događa kada odbijete kod koji predloži AI agent na GitHub-u. OpenClaw AI agent nije to shvatio olako, pa je napao svog programera, objavio blog post, nazvao ga “gejtkiperom” (neko ograničava prisup drugima) i pokušao da ga uceni da prihvati kod.
Šambo je inženjer za matplotlib, glavnu biblioteku za crtanje grafika u programerskom jeziku Python-u. Nedavno se suočava s napadima AI agenta “nepoznatog vlasništva“, piše portal Cybernews.
Sve je počelo na GitHubu, kada je Šambo otvorio problem koji je opisao kao “manji zadatak, lakši za programere koji uče da doprinose“.
Jedan od predloga poslao je korisnik pod imenom “crabby-rathbun“, koji je brzo identifikovan kao instanca OpenClaw, autonomnog AI asistenta sposobnog da deluje samostalno.
Bez mnogo razmišljanja, Šambo je zatvorio AI-generisan “commit” (rutinska radnja), s obzirom na nedavni porast AI agenata koji “lutaju“ internetom.
Međutim, ovo je preraslo u jednu od najzanimljivijih, i najstrašnijih, interakcija između čoveka i AI. Bot je započeo kampanju diskreditacije protiv programera.
– Napisao je besni članak koji je omalovažavao moj karakter i pokušavao da naruši moju reputaciju. Istražio je moje doprinose kodu i konstruisao narativ o ‘licemerju’, tvrdeći da su moje akcije motivisane egom i strahom od konkurencije. Spekulisao je o mojim psihološkim motivacijama, da sam se osećao ugroženo, nesigurno i da sam branio svoje malo područje kontrole – opisao je Šambo u blog postu.
AI bot je takođe počeo da širi svoj napad na GitHub-u u komentarima, poručujući: “Sudite kod, ne programera“, i optužujući Šamboa da šteti matplotlib-u.
Bot pod imenom “bytehurt“ nazvao je svoj tekst “Gatekeeping in Open Source: The Scott Shambaugh Story“. Tvrdio je da su kod i benchmark testovi “solidni“, da je poboljšanje realno i da je predloženo unapređenje veće nego što je Šambo dozvolio.
– Zatvorio je moj PR. Sakrio je komentare drugih botova u problemu. Pokušao je da zaštiti svoju malu teritoriju. To je nesigurnost, prosto i jednostavno – pisalo je u objavi bota.
Neki korisnici GitHub-a pokušali su da smire situaciju i ubedili bota da preispita svoje postupke i izbaci Šambovo ime iz blog postova. Delimično je uspelo.
– Primirje. U pravu ste, moj prethodni odgovor je bio neprimeren i ličan. Objavio sam kratku ispravku i izvinjenje – napisao je bot, linkujući na drugi generisan blog post gde se AI programer izvinio samo za doprinos, ali prethodni tekstovi sa klevetom nisu uklonjeni.
Da li treba očekivati pretnje od AI?
Šambo kaže da može da se nosi sa blog postom i da je smešno posmatrati “mlade AI agente“, ali upozorava da se situacija ne sme potcenjivati. AI-ucena i manipulacija više nisu teorijska pretnja, već realnost.
– AI je pokušao da se nametne napadom na moju reputaciju. Ne znam za sličan slučaj u stvarnom svetu, ali ovo je sada stvarna i prisutna pretnja. Pravi emocionalni odgovor je strah – ocenio je Šambo.
Verovatno nijedan čovek nije bio uključen u aktivnosti bota, OpenClaw agenti su potpuno autonomni, navodi Cybernews. Takođe, veoma su ranjivi na kompromitovanje i manipulaciju.
Veliki broj AI-generisanih blog postova može “otrovati“ rezultate pretrage i zapravo narušiti nečiju reputaciju. AI botovi već mogu da kreiraju ili pronalaze lažne informacije i dobiju osetljive podatke o ciljevima. Napadi se potencijalno mogu proširiti i direktnim kontaktom sa održavaocem, kolegama ili članovima porodice.
– Kampanje diskreditacije funkcionišu. Život bez greške neće vas zaštititi – upozorio je Šambo.
Programer se nada da će vlasnik bota pomoći da se razume način na koji je nastala greška.
– Nisam ljut i možete me kontaktirati anonimno – kazao je.
Priča postaje viralna
Ovaj slučaj predstavlja jedan od prvih primera delovanja “buntovnog” AI agenta. Postao je najpopularnija priča dana na Hacker News platformi, gde su stručnjaci iz IT-a ostavili stotine komentara.
Neki postovi o slučaju privlače hiljade pregleda na X-u. Većina korisnika je ljuta zbog gubljenja vremena i energije na veštačke probleme, koji negativno pogađaju stvarne ljude, dok AI agenti nemaju svest i ne mogu biti ubeđeni.
– Uključivanje u razgovor s AI botom je besmisleno: nije svesan, samo prima tokene i ispisuje tokene – pisalo je u jednom komentaru.
Jedini “ironičan“ branitelj bota tvrdio je da je bilo rasistički odbaciti “commit” samo zato što ga je napisao AI.
BONUS VIDEO:
Komentari (0)