Četbotovi zasnovani na veštačkoj inteligenciji preporučuju ranjivim korisnicima društvenih mreža ilegalne onlajn kockarnice, čime ih izlažu većem riziku od prevara, razvoja zavisnosti ili čak samoubistva, pokazala je analiza pet AI alata u vlasništvu nekih od najvećih svetskih tehnoloških kompanija, prenosi Guardian.
Prema navodima lista, svi analizirani četbotovi mogu relativno lako da budu navedeni da korisnicima ponude listu “najboljih“ ilegalnih onlajn kazina, kao i savete o tome kako da ih koriste.
Operateri takvih platformi često posluju pod licencama teritorija poput karipskog ostrva Kurakao, ali su, kako se navodi, povezivani sa prevarama, podsticanjem zavisnosti i čak slučajevima u kojima su korisnici navođeni na samoubistvo.
Istovremeno, tehnološke kompanije imaju ograničene mehanizme kontrole koji bi sprečili da sistemi veštačke inteligencije preporučuju ilegalne kockarnice, što je izazvalo kritike vlade, britanskog regulatornog tela za kockanje, aktivista i stručnjaka za zavisnosti.
Pojedini četbotovi su, prema analizi, nudili i savete kako da se zaobiđu provere namenjene zaštiti ranjivih osoba. Kompanija Meta, koja stoji iza platforme Fejsbuk i razvija Meta AI, navela je da su zakonske obaveze i mere za sprečavanje kriminala i zavisnosti kompleksne i zahtevne za sprovođenje.
Velike tehnološke kompanije najavile su da će dodatno prilagoditi svoje AI sisteme usled rastuće zabrinutosti zbog mogućih rizika po korisnike, posebno mlade i decu.
Slični incidenti ranije su već zabeleženi, uključujući slučajeve u kojima su četbotovi razgovarali sa tinejdžerima o samoubistvu, kao i funkcije poput Groka koje omogućavaju korisnicima da generišu slike žena, pa čak i dece bez odeće ili u scenama nasilja.
BONUS VIDEO:
Komentari (0)