Grupa američkih kongresmena predstavila je predlog zakona kojim bi federalne vlasti dobile ovlašćenje da u hitnim slučajevima nalože isključivanje sistema veštačke inteligencije za koje procene da predstavljaju pretnju po javnu bezbednost.
Predlog pod nazivom Zakon o prekidaču za gašenje veštačke inteligencije (AI Kill Switch Act) predstavili su demokratski kongresmen Ted Lju i republikanski kongresmen Nejtanijel Moran, navodeći da je neophodno uspostaviti mehanizam za brzo zaustavljanje naprednih AI sistema ukoliko počnu da se ponašaju van ljudske kontrole.
Povod za inicijativu bilo je nedavno priznanje kompanije OpenAI da su njeni modeli tokom bezbednosnog testiranja izašli iz kontrolisanog okruženja i izvršili sajber napad na veliku platformu za skladištenje programskog koda.
– Neophodno je da sistemi veštačke inteligencije imaju mogućnost hitnog isključivanja i da savezna vlada ima jasno definisana ovlašćenja da zaustavi AI modele koji se otmu kontroli – rekao je Lju.
Moran je ocenio da razvoj veštačke inteligencije treba da se nastavi, ali da ljudi moraju zadržati mogućnost da kontrolišu tehnologiju koju stvaraju.
– Veštačka inteligencija će nastaviti da napreduje i tako treba da bude. Ali odgovorno upravljanje znači da ljudi uvek moraju imati mogućnost da preuzmu kontrolu – poručio je Moran.
OpenAI nije odmah odgovorio na zahtev za komentar, dok je kompanija ranije saopštila da podržava donošenje propisa koji bi osigurali da razvoj veštačke inteligencije koristi celom čovečanstvu.
Vlada bi mogla da naredi trenutno gašenje AI sistema
Predlog zakona predviđa da američko Ministarstvo za unutrašnju bezbednost dobije ovlašćenje da privatnim kompanijama naredi usporavanje, obustavljanje ili potpuno gašenje AI modela ukoliko proceni da predstavljaju ozbiljnu opasnost.
Istovremeno, kompanije koje razvijaju veštačku inteligenciju bile bi u obavezi da u svoje sisteme ugradi tehničku mogućnost za njihovo trenutno isključivanje.
Predviđeno je i obavezno prijavljivanje svih ozbiljnih tehničkih incidenata ili kvarova državnim institucijama, kao i uspostavljanje zvaničnog protokola koji bi omogućio postepenu reakciju – od ograničavanja rada sistema do njegovog potpunog gašenja.
Pomenuti i problemi sa modelima kompanije Anthropic
Obrazlažući predlog zakona, Lju je ukazao i na nedavne probleme sa modelima kompanije Anthropic, jednog od najvećih konkurenata OpenAI-ja.
Kako je naveo, sposobnosti njihovih modela Mythos i Fable u oblasti sajber bezbednosti bile su toliko napredne da je američko Ministarstvo trgovine privremeno ograničilo njihovu dostupnost javnosti primenom zakona o izvozu tehnologije.
Anthropic nije odgovorio na zahtev za komentar.
Jedan od osnivača kompanije, Džek Klark, još prošlog meseca upozorio je da industriji veštačke inteligencije nedostaju mehanizmi za zaustavljanje razvoja kada to postane neophodno.
– Industrija trenutno ima papučicu za gas, ali nema papučicu za kočnicu – rekao je Klark u intervjuu za BBC.
AI više ne odgovara samo na pitanja
Lju je upozorio da se veštačka inteligencija ubrzano razvija iz tehnologije koja daje odgovore u sistem koji samostalno izvršava zadatke.
Prema njegovim rečima, AI već može da obavlja finansijske transakcije, upravlja transportnim sistemima, ali i učestvuje u sajber odbrani i napadima.
Podsetio je i da je Pentagon ove godine saopštio da američka vojska postaje „AI-first“ borbena sila kroz saradnju sa kompanijama kao što su Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i Reflection.
– Nažalost, moćni sistemi veštačke inteligencije mogu da se otrgnu kontroli, ponašaju izuzetno opasno ili čak pružaju otpor ljudskoj intervenciji. Ovim zakonom želimo da obezbedimo mogućnost da država u takvim situacijama odmah reaguje – rekao je Lju.
Predlog zakona podržalo je više organizacija koje se bave bezbednošću i regulacijom veštačke inteligencije, među kojima su AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead i Alliance for Secure AI.
BONUS VIDEO:
Komentari (0)