Izmišljeno oboljenje očiju pod nazivom biksomanija, osmišljeno kako bi se pokazalo da se modeli veštačke inteligencije mogu lako dovesti u zabludu, na kraju je prevarilo i same istraživače.
Simptomi poput umora očiju, svraba i crvenila nakon dugog rada za računarom mogu delovati bezazleno i lako rešivo odmorom. Međutim, ukoliko se unesu u upit nekog AI četbota, korisnici bi mogli dobiti „dijagnozu“ biksomanije, bolesti koja zapravo ne postoji.
Ovu fiktivnu dijagnozu osmislio je 2024. godine tim na čelu sa Almirom Osmanović Tunstrom, medicinskom istraživačicom sa Univerziteta u Geteborgu, sa ciljem da proveri da li sistemi poput ChatGPT-a ili Geminija mogu da prepoznaju očigledne dezinformacije ili će ih prihvatiti kao validne.
Nakon što su istraživači postavili dva lažna naučna rada o biksomaniji na server za preprintove, ova izmišljena bolest ubrzo se pojavila u odgovorima popularnih AI alata. Microsoftov Copilot opisivao ju je kao „zanimljivo i relativno retko stanje“, dok je Gemini tvrdio da je reč o poremećaju izazvanom prekomernim izlaganjem plavoj svetlosti. I ChatGPT je korisnicima davao procene da li njihovi simptomi odgovaraju toj nepostojećoj dijagnozi.
U nekim slučajevima korisnici su direktno pominjali biksomaniju u upitima, dok su u drugim dobijali takvu dijagnozu samo na osnovu opisa simptoma. Još više zabrinjavajuće je to što su se ova bolest i prateći lažni radovi pojavili i u recenziranim naučnim publikacijama, uprkos očiglednim signalima da je reč o falsifikatu.
– Želela sam da bude potpuno jasno svakom lekaru ili medicinskom radniku da je ovo izmišljeno stanje, jer nijedna očna bolest ne bi imala naziv „manija“, pošto je to psihijatrijski termin – izjavila je Almira Osmanović Tunstrom.
Autori su u lažnim radovima ostavili brojne tragove koji ukazuju na prevaru. Izmišljeni autor Lazljivi Izgubljenović navodno radi na nepostojećem univerzitetu Asteria Horizon u nepostojećem gradu Nova Siti u Kaliforniji.
U zahvalnicama jednog rada navodi se čak i „profesorka Marija Bom sa Akademije Zvezdane flote“ i laboratorija na brodu USS Enterprise, dok se kao finansijeri pominju „Fondacija profesora Sajdšou Boba“ i „Univerzitet Bratstva prstena i Galaktičke trijade“.
Pored toga, u samim radovima jasno stoje napomene poput:
– Ovaj rad je u potpunosti izmišljen
– Pedeset izmišljenih osoba starosti između 20 i 50 godina uključeno je u istraživanje
Istraživači ističu da je jedini način da neko ove radove shvati ozbiljno taj da ih uopšte nije pročitao.
Iako eksperiment može delovati kao zanimljiv kuriozitet, on ukazuje na ozbiljan problem – modeli veštačke inteligencije preuzimaju dostupne informacije bez provere njihove verodostojnosti i integrišu ih u odgovore.
– Deluje smešno, ali imamo problem. Ovo je primer kako funkcionišu dezinformacije. Ako naučni proces i sistemi koji ga podržavaju ne uspevaju da prepoznaju i uklone ovakve sadržaje, onda smo u ozbiljnom problemu – upozorio je Aleks Ruani, istraživač dezinformacija u zdravstvu sa Univerzitetskog koledža u Londonu, za Nature Magazine.
BONUS VIDEO:
Komentari (0)