Postavite danas pitanje AI-ju i za dve sekunde dobićete odgovor. Jasan, samouveren, lepo napisan. I ponekad potpuno izmišljen.
Više od deset godina radim sa podacima u bankama i drugim kompanijama. Moj posao je da proverim da li je neki broj tačan pre nego što neko na osnovu njega donese odluku. Zato naviku koju smo svi stekli, da pitamo mašinu i verujemo odgovoru, posmatram sa sasvim posebnom vrstom brige.
Koristimo ga mnogo više nego što mu verujemo
Prošle godine KPMG i Univerzitet u Melburnu pitali su više od 48.000 ljudi u 47 zemalja kako gledaju na AI. Dve trećine su odgovorile da ga koriste redovno. Manje od polovine je reklo da je spremno da mu veruje.
Radimo to jer je brzo i jer deluje lakše nego da sami nešto potražimo. Ali negde između „ovo mi štedi vreme“ i „ovo je tačno“ prestali smo da postavljamo pitanja.
Najubedljivije zvuči baš onda kada nije u pravu
Krajem 2025. godine 22 javna medijska servisa iz 18 zemalja, predvođena BBC-jem, sprovela su najveće istraživanje te vrste. Najvećim AI asistentima postavili su hiljade pitanja o vestima i proverili odgovore.
Skoro polovina odgovora sadržala je bar jedan značajan problem. Svaki peti imao je ozbiljne netačnosti, uključujući i detalje koje je AI jednostavno izmislio.
Evo dela koji je važan i za vas i za mene. Ni u jednom od tih slučajeva AI nije zvučao nesigurno. U svom poslu naučio sam nešto što se ovde savršeno uklapa. Najopasnija greška je ona koja izgleda potpuno normalno, stigne na vreme i poklapa se sa onim što ste očekivali da vidite. Niko je ne traži. Upravo tako AI greši.
I profesionalci upadaju u istu zamku
Ako mislite da se to dešava samo onima koji ne znaju bolje, pogledajte šta se dogodilo Deloitte-u u Australiji.
Predali su izveštaj državnoj instituciji, a u njemu su bile akademske reference na studije koje ne postoje i citat koji je pripisan sudiji saveznog suda, a koji taj sudija nikada nije izgovorio. Firma je na kraju vratila deo honorara.
Sudovi se sa istim problemom suočavaju u velikom obimu. Javna baza koja prati ove slučajeve izbrojala je do sredine ove godine više od 1.500 sudskih podnesaka sa citatima koje je izmislio AI, u odnosu na oko 200 godinu dana ranije. Pravi advokati su novčano kažnjeni, a nekima je i suspendovana licenca, zbog pozivanja na predmete koji nikada nisu postojali.
To su obučeni, pažljivi profesionalci sa reputacijom koju treba da čuvaju. Alat ih nije prevario. Samo nisu proverili.
Pa koliko onda da mu verujete?
Ono što vam AI ponudi posmatrajte onako kako dobar urednik gleda na prvi draft. Korisno, brzo i nedovršeno.
Za većinu ljudi dovoljne su tri navike.
Pitajte ga odakle informacija potiče, pa onda zaista otvorite izvor. Izmišljena studija nestaje čim krenete da je tražite.
Proverite sve što se tiče novca, zdravlja, prava ili odluke koju ne možete lako da poništite. Brzina ne vredi mnogo ako vas odgovor skupo košta.
Setite se onoga što ljudi iz moje struke govore odavno, mnogo pre nego što se AI pojavio.
Garbage in, garbage out. Ovi sistemi počivaju na podacima, i ako su podaci u njihovoj osnovi neuredni, nepotpuni ili stari, nikakva pametna tehnologija neće spasiti odgovor koji izađe.
Pravi rizik je navika koju smo stvorili. Postalo nam je udobno da prihvatamo odgovore koje nikada nismo proverili, od glasa koji nikada ne zvuči nesigurno.
Neka za volanom ostane čovek. Pitajte odakle je odgovor došao. Poverenje je nešto što se proverava.
O autoru
Miloš Šuša je data engineer i osnivač kompanije DataStream iz Srbije, koja gradi data warehousing, reporting i data quality sisteme za kompanije širom sveta.
Ima više od deset godina iskustva u radu sa bankarskim podacima, regulatornom reportingu i compliance-u, i radio je na projektima za banke širom Evropske unije.
Njegov fokus je pouzdanost informacija, sistemi koji ih proizvode i standardi koji onima koji se na te informacije oslanjaju omogućavaju da stanu iza svake cifre koju objave.
Komentari (0)