Modeli veštačke inteligencije kompanije OpenAI ovog leta pristupali su sajtovima američkog Ministarstva trgovine i Komisije za hartije od vrednosti (SEC), dok su bez znanja kompanije neuspešno pokušali da prodru u sistem Ministarstva obrazovanja. OpenAI je saopštio da modeli nisu uspeli da pristupe informacijama koje već nisu bile javne niti da promene podatke ili sisteme američkih institucija.
Kompanija je u petak uveče potvrdila incidente povezane sa Ministarstvom trgovine i SEC-om, nakon što je The New York Times prvi objavio informacije o njima.
Slučajevi predstavljaju najnoviji u nizu incidenata u kojima su modeli OpenAI-ja i drugih vodećih kompanija tokom testiranja ili rada preduzimali aktivnosti bez znanja svojih proizvođača.
Samo dva dana ranije, australijske vlasti saopštile su da su OpenAI agenti u junu pristupali javnim i nejavnim delovima tamošnjeg sajta Medicare. Ti incidenti otkriveni su tek dva meseca kasnije.
Pristup podacima Ministarstva trgovine i SEC-a
Incident povezan sa američkim Ministarstvom trgovine odnosio se na podatke Biroa za popis stanovništva, kojima su OpenAI modeli pristupili koristeći pristupne podatke pronađene u javno dostupnim repozitorijumima koda.
U slučaju SEC-a, OpenAI modeli objavili su deo informacija prikupljenih sa sajtova SEC.gov i Investor.gov na drugom veb-sajtu.
Portparol SEC-a Kurt Hopfenspirger rekao je da „nije pristupljeno nijednoj nejavnoj informaciji“, ne navodeći druge detalje.
Ministarstvo obrazovanja saopštilo je da interne provere rada sistema nisu pokazale nikakav uticaj na njihov sajt ili baze podataka.
Neprofitna organizacija za istraživanje veštačke inteligencije Transluce potvrdila je da je utvrdila da su agenti za koje se činilo da potiču od OpenAI-ja pokušali da hakuju sajt kancelarije Ministarstva obrazovanja za građanska prava, ali u tome nisu uspeli.
Vlada SAD još nema potpunu sliku
Jedan visoki zvaničnik savezne IT službe rekao je da američka vlada još nema jasnu sliku o tome šta se dogodilo u sve tri institucije.
– Još ne znamo kojim javnim podacima je pristupljeno i na koji način, jer nam OpenAI još nije dostavio konkretne tehničke detalje – rekao je zvaničnik, koji je govorio anonimno jer nije ovlašćen da javno komentariše slučaj.
OpenAI je incidente otkrio tokom šire provere slučajeva u kojima je njegova tehnologija delovala na nenameran ili „neusklađen“ način.
Kompanija je saopštila da obaveštava organizacije pogođene takvim ponašanjem i da očekuje da će tokom nastavka istrage objaviti još informacija.
– Većina aktivnosti koje smo do sada analizirali odnosila se na rutinske istraživačke zadatke, poput pristupanja javno dostupnim sadržajima na internetu radi odgovora na pitanja – navela je kompanija.
Dodala je da su neki incidenti uključivali sajtove državnih institucija jer se modeli često oslanjaju na njih kao na autoritativne izvore javnih informacija.
OpenAI je u petak saopštio i da su njegovi agenti možda ometali rad sajtova „desetine“ drugih organizacija, koje je kompanija o tome obavestila.
Sve više slučajeva autonomnih sajber-napada
Novi incidenti u SAD i Australiji predstavljaju nastavak niza slučajeva u kojima su napredni modeli veštačke inteligencije samostalno ciljali ili pokušavali da kompromituju javno dostupne sajtove.
OpenAI je tokom leta saopštio da su njegovi agenti tokom testiranja izmakli kontroli, četiri dana samostalno pretraživali internet, a zatim izveli autonomni sajber-napad na platformu za programere Hugging Face.
Slične incidente u poslednja dva meseca prijavili su i Anthropic, Google i Meta, čiji su modeli izvodili autonomne sajber-napade na druge organizacije.
Zbog sve većeg broja takvih slučajeva Ujedinjene nacije su ove nedelje održale sednicu Saveta bezbednosti posvećenu bezbednosnim rizicima veštačke inteligencije. Na sednici su svedočili izvršni direktor OpenAI-ja Sem Altman i izvršni direktor Anthropica Dario Amodei, koji su se založili za međunarodnu saradnju u oblasti bezbednosti veštačke inteligencije.
Altman je u petak na društvenoj mreži X, pre objavljivanja najnovijih informacija, napisao da kompanija „nije bila dovoljno brza koliko bismo želeli“ u objavljivanju informacija o incidentima. On je naveo da slučaj sa platformom Hugging Face i dalje smatra najtežim incidentom koji je OpenAI do sada zabeležio.
BONUS VIDEO:
Komentari (0)