Zamislite video poziv u kojem prepoznajete lice i glas svog direktora koji hitno traži uplatu na novi račun. To je on, glavom i bradom, glas je njegov – svaka intonacija, svaki naglasak. No poziv stvarno nikad nije uputio on. Danas je veštačkoj inteligenciji dovoljno nekoliko sekundi snimke glasa ili nekoliko fotografija da stvori sadržaj koji izgleda i zvuči potpuno stvarno, a takvi slučajevi više nisu scenariji iz naučne fantastike, nego stvarnost s kojom se digitalno društvo već suočava.
Razvoj veštačke inteligencije otvorio je prostor za brojne inovacije, ali je istodobno negativno uticao na bezbednost, poverenje i zaštitu digitalnog identiteta. O tome kako prepoznati i sprečiti zloupotrebu AI tehnologija te kako izgraditi bezbednije digitalno okruženje razgovaraće se na ovogodišnjem Tech.Weekendu powered by Telemach, koji će se od 24. do 27. septembra održati u sklopu Weekenda.19 u Rovinju.
Od zabave do pretnje
Deepfake tehnologija stvara ili menja videozapise, fotografije i audiosnimke tako da izgledaju kao istiniti prikazi stvarnih ljudi i događaja. U početku se najčešće povezivala sa zabavnom industrijom, no danas se sve više koristi za finansijske prevare, krađu identiteta i širenje dezinformacija. Pitanje više nije samo što veštačka inteligencija može napraviti, nego kako izgraditi sisteme i navike koji nam pomažu razlikovati autentičan sadržaj od veštački generisanog, kroz alate za proveru autentičnosti, bezbedniju digitalnu identifikaciju i odgovorniji razvoj proizvoda.
Glasovi koji donose iskustvo, ne floskule
Među stručnjacima na ovogodišnjem Weekendu.19 biće i Igor Strejček, direktor Microblinka, kompanije koja razvija rešenja za digitalnu identifikaciju i proveru dokumenata, koja koriste korisnici širom sveta. Uz njega dolazi i Izet Ždralović, partner u fondu Silicon Gardens Fund III i suosnivač Microblinka i Photomatha, tehnoloških kompanija koje su iz Hrvatske izgradile globalno prepoznatljive proizvode, a danas svoje iskustvo usmerava na ulaganja i mentoriranje nove generacije tehnoloških preduzetnika.
“Pre nekoliko godina bila je potrebna visokokvalitetna krivotvorena lična te maskiranje lica stvarnog fraudstera da se neko uspešno lažno predstavi. Danas je dovoljna slika i glas od pet sekundi osobe za koju se želi lažno predstaviti. Pitanje ‘je li ovo pravi dokument’ postaje pitanje ‘je li ovo uopšte pravi čovek’ i to je razlika koja menja celu industriju identifikacije. Problem je što se AI koja stvara lažni sadržaj razvija brzinom kojoj teško možemo pratiti korak, a to znači da AI koja sprečava prevaru mora uvek biti korak ispred, ne korak iza. Znači fokus mora biti ne na izgradnji alata koji jednom provere identitet i zaborave na njega, nego na sistemima koji stalno prate je li osoba s kojom poslujete zapravo ta za koju se predstavlja. Jer u svetu gde je lažiranje jeftinije nego ikad, poverenje se mora dokazivati kontinuirano, ne samo jednom na ulasku”, izjavio je Strejček.
“AI danas radi ono što je pre trebalo tim ljudi i nedelje rada, uključujući i krivotvorenje identiteta. To ne znači da treba stati, znači da moramo brže učiti razlikovati stvarno od lažnog. Startapi koji to reše prvi neće samo zaraditi, oni će odrediti pravila igre za celu industriju”, rekao je Ždralović.
Tehnologija nije jedini odgovor
Osim tehnološkog aspekta, deepfake otvara i šira društvena pitanja. Budućnost zahteva alate koji potvrđuju autentičnost sadržaja, ali i veću razinu digitalne pismenosti kako bi korisnici lakše prepoznali manipulacije. Borba protiv zloupotrebe veštačke inteligencije neće se temeljiti samo na novim algoritmima, nego i na edukaciji, jasnijim pravilima i saradnji tehnološke zajednice.
Tech.Weekend powered by Telemach nije mesto na kojem se govori samo o novim tehnologijama, nego i o njihovom uticaju na društvo, gospodarstvo i svakodnevni život. Ako više ne možete verovati ni glasu, ni slici, ni videu – kome ćete verovati? Odgovore tražimo na Tech.Weekendu.
Više informacijama o programu i ulaznicama potražite na službenoj stranici festivala te na profilima festivala na Instagramu, TikToku, LinkedInu i Facebooku.
Komentari (0)