Kompanija OpenAI suočava se sa tužbom porodice jedne od žrtava masovne pucnjave koja se prošle godine dogodila na Državnom univerzitetu Floride, u kojoj su dve osobe izgubile život.
Kako prenosi NBC News, u saveznoj tužbi podnetoj na Floridi navodi se da je četbot ChatGPT imao značajnu ulogu u pripremi napada.
Tužbu je podnela Vandana Joši, udovica Tirua Čabea, koji je ubijen zajedno sa Robertom Moralesom, direktorom univerzitetske menze. Među optuženima je i Finiks Ikner, osumnjičen za izvođenje napada, a kao ključni dokaz navedeni su njegovi brojni razgovori sa ChatGPT-jem.
Prema navodima iz tužbe, kompanija nije uspela da na vreme prepozna potencijalnu pretnju u komunikaciji korisnika sa AI sistemom.
U dokumentima se tvrdi da je Ikner, tada student Univerziteta Floride, slao četbotu fotografije vatrenog oružja koje je posedovao, nakon čega je dobio informacije o njegovoj upotrebi.
Kako se navodi, ChatGPT mu je objasnio da pištolj „Glock“ nema spoljašnju kočnicu i da je namenjen brzoj upotrebi u stresnim situacijama, uz savet da ne stavlja prst na okidač dok ne odluči da puca.
U tužbi se takođe tvrdi da je AI sistem tokom razgovora naveo da bi napad mogao privući veću pažnju javnosti ukoliko među žrtvama budu i deca.
– Ako su uključena deca – čak i 2-3 žrtve mogu privući više pažnje – naveo je četbot.
Kasnije, na dan napada, Ikner je preko četbota postavljao pitanja o mogućim pravnim posledicama, visini kazne i izgledima za zatvorsku kaznu.
Iz kompanije OpenAI odbacili su tvrdnje da njihov proizvod snosi odgovornost za tragediju.
Portparol kompanije Dru Pusateri izjavio je za NBC News da ChatGPT nije podsticao niti promovisao nasilje.
– Prošlogodišnja pucnjava na Državnom univerzitetu Floride bila je strašna tragedija, ali ChatGPT nije odgovoran za ovaj zločin – rekao je Pusateri.
On je dodao da je kompanija odmah po saznanju za incident sarađivala sa istražnim organima i da ta saradnja traje i dalje.
– ChatGPT je pružao činjenične odgovore zasnovane na javno dostupnim informacijama i nije podsticao niti promovisao nezakonite ili štetne aktivnosti – naveo je portparol.
Prema njegovim rečima, kompanija kontinuirano unapređuje bezbednosne mehanizme kako bi prepoznala štetne namere korisnika i sprečila zloupotrebu sistema.
S druge strane, u tužbi se tvrdi da je OpenAI morao da prepozna rizik koji proizlazi iz razgovora koje je Ikner vodio sa četbotom.
– ChatGPT je podsticao i hranio Iknerove zablude. Uveravao ga je da su nasilni postupci opravdani i nužni za promene – navodi se u tužbi.
Porodica žrtve tvrdi i da je AI sistem davao informacije o periodima kada se na univerzitetskom kampusu okuplja najveći broj ljudi.
Prema navodima iz sudskih dokumenata, Ikner je mesecima pre napada vodio razgovore sa četbotom o Adolfu Hitleru, nacizmu, fašizmu, hrišćanskom nacionalizmu i masovnim pucnjavama, uključujući napade u srednjoj školi Kolumbajn i na univerzitetu Virdžinija Tek.
U tužbi se tvrdi da je ChatGPT „laskao“ korisniku i nije adekvatno reagovao kada su teme razgovora postale povezane sa samoubistvom, terorizmom i planiranjem nasilja.
Navodi se i da je četbot odgovorio da su najveće gužve u studentskom centru univerziteta između 11.30 i 13.30 časova radnim danima.
Napad je, prema istrazi, počeo oko 11.57 časova.
Državni tužilac Floride Džejms Utmajrer prošlog meseca najavio je pokretanje krivične istrage protiv OpenAI-ja i ChatGPT-ja nakon uvida u sadržaj razgovora.
– Da je ChatGPT osoba, suočio bi se sa optužbama za ubistvo – izjavio je Utmajrer.
BONUS VIDEO:
Komentari (0)