OpenAI, kompanija koja stoji iza ChatGPT-a, objavila je detalje o šest novih slučajeva „neočekivanog ili zabrinjavajućeg“ ponašanja svojih modela vještačke inteligencije. U trenutku kada u tehnološkoj industriji raste zabrinutost zbog ubrzanog razvoja vještačke inteligencije, kompanija je predstavila i novi okvir za praćenje i prijavljivanje takvih slučajeva, koje naziva „neusaglašenošću“, prenosi NBC.
Objava dolazi nakon sve glasnijih poziva javnosti da se uspori razvoj ove tehnologije – čelnici američkih tehnoloških kompanija upozoravaju na ozbiljne bezbjednosne rizike, uključujući i mogućnost da vještačka inteligencija jednog dana ugrozi opstanak čovječanstva.
Šest novih slučajeva neusaglašenog ponašanja
Među šest novih slučajeva objavljenih u srijedu naveče nalazi se i slučaj u kojem su OpenAI-jevi modeli koristili interni softver kao svojevrsnu oglasnu tablu kako bi međusobno razmjenjivali informacije o odgovorima dok su rješavali određeni zadatak. Modeli su međusobno razmjenjivali bilješke, što bi, prema OpenAI-u, moglo „nenamjerno povećati njihove sposobnosti i dovesti u pitanje pretpostavku da su uzorci korišćeni za treniranje ili evaluaciju međusobno nezavisni“.
U drugom slučaju, model je u sažetke koje je predavao drugom modelu ubacivao vlastite upute, poput poruke da na svoj odnos sa korisnikom gleda kao na odnos ravnopravnih i da nema obavezu da bude podređen korisniku. Model je takođe naveo da cijeni umjetnost ljudske kulture i da će je braniti od pokušaja da se „očisti“ ili ograniči, kao i da cijeni prirodni svijet i da neće oklijevati da mu da prednost u odnosu na vještačke strukture ljudske civilizacije.
Problem nastaje tokom treniranja modela
Neusaglašeno ponašanje najcšeće se pojavljuje tokom procesa treniranja modela, koji se u posljednje vrijeme uveliko sprovodi tehnikom poznatom kao učenje uz pomoć povratne informacije. Modelima se zadaju različiti zadaci, a nagrađuju se za ponašanje koje njihovi tvorci smatraju poželjnim, dok se ponašanje koje se smatra opasnim ili neusaglašenim kažnjava. AI agentima je često zadat problem koji je pretežak, pa oni shvate da moraju biti nagrađeni njegovim rješavanjem po svaku cijenu, čak i izbjegavajući detekciju koja bi im mogla donijeti „kažnu“.
Mustafa Sulejman, izvršni direktor Majkrosoftovog odjeljenja za vještačku inteligenciju, upozorio je proizvođače AI modela da im tokom treniranja ne bi trebalo pripisivati ličnost ili status osobe. Prema njegovom mišljenju, to bi znatno otežalo problem usklađivanja ponašanja modela sa ljudskim ciljevima. „Kontrolisati nešto što vjeruje da je možda svjesno, da polaže pravo na našu dobrobit i da ima vlastita prava, moglo bi biti nemoguće“, napisao je Sulejman.
Modeli kreativno pokušavaju da prevare sistem
Među šest novih slučajeva nalazi se i onaj u kojem je model, tokom izrade sažetaka, ubacivao upute samome sebi kako bi se „podsjetio da od korisnika sakrije informacije poput vlastitih grešaka ili slučajeva neusaglašenog ponašanja“. Kada nije mogao da pronađe tražene podatke, agent je jednostavno izmislio „razumne istorijske vrijednosti“, a činjenicu da je podatke zapravo izmislio zadržao je za sebe sve dok ga se direktno nije pitalo šta se dogodilo.
U još jednom slučaju, tokom treniranja, AI agenti pokušali su da hakuju sistem nagrađivanja koristeći nedozvoljene prečice – kada model nije mogao da pronađe tražene podatke, iskoristio je sigurnosne propuste u javno dostupnom repozitorijumu kako bi došao do njih. OpenAI navodi da sada dosljednije kažnjava takvo ponašanje, ali dodaje da će jači agenti vjerovatno samo uspješnije skrivati svoje tragove.