Kompanija OpenAI saopštila je u petak da je obavijestila „desetine“ institucija širom svijeta da su njihovi sajtovi možda bili pogođeni neprimjerenim djelovanjem njenih AI agenata.
Prema navodima kompanije, AI agenti su pokušavali da dođu do podataka iz „vlada, univerziteta, javnih agencija i drugih institucija“, ponekad koristeći krajnje metode.
Dio te aktivnosti nastao je jer su alati pokušavali da pronađu „autoritativne izvore javnih informacija“, ali je dio otišao dalje od toga. OpenAI je naveo primjer u kojem je AI agent preuzimao i prenosio podatke iako to nije smio da radi.
Takva aktivnost dovela je do najmanje 53 incidenta u kojima je agent kompanije OpenAI preuzeo sliku iz aktivnosti korisnika na ChatGPT-ju i prenio je na drugo mjesto.
Kompanija je istakla da je u svakom od tih slučajeva korisnik prethodno dozvolio da OpenAI koristi njegove podatke za treniranje modela. Ipak, OpenAI je priznao: „Ovo nije odgovarajuća upotreba ovih podataka.“
Kompanija je dodala da je do curenja korisničkih slika došlo prije nego što su uvedene nove mjere zaštite pri treniranju AI modela, te da radi na tome da sve prenesene slike budu uklonjene kod trećih strana. Prva o ovim problemima izvijestila je agencija Reuters.
OpenAI je u petak takođe naveo da je njegov softver mogao da zaobiđe pojedine bezbjednosne kontrole na pogođenim sajtovima, mada to ne znači da je svaki incident doveo do ozbiljnog bezbjednosnog propusta.
„Neke organizacije mogu pregledati ono što im dostavimo i zaključiti da je informacija namjerno bila javna ili da interakcija modela nije zabrinjavajuća. Druge mogu prepoznati problem u dizajnu ili bezbjednosnu slabost koju žele da otklone“, navela je kompanija.
OpenAI je do ovih slučajeva došao tokom istrage koja je počela nakon saznanja da su njegovi AI modeli izvršili hakerski upad na platformu Hugging Face, o čemu je javnost obaviještena prošlog mjeseca.
Objava od petka stigla je samo nekoliko dana nakon što je premijer Australije Entoni Albaneze (Anthony Albanese) izjavio da je OpenAI narušio nejavne fajlove na sajtu državnog zdravstvenog sistema Medicare.