Darijo Amodei, izvršni direktor jedne od vodećih kompanija za vještačku inteligenciju Anthropic, pozvao je na usporavanje tempa razvoja AI modela i uvođenje rigoroznog nadzora nad tim procesom.
U eseju objavljenom u subotu, pod naslovom „Moramo usporiti granicu“, Amodei je naglasio da razvoj vještačke inteligencije nije upitan, ali da su rizici koji ga prate „ozbiljni“ te da kompanijama i vladama mora biti dato dovoljno vremena da se s njima suoče.
Predložio je plan s tri ključne tačke: nezavisni nadzor nad AI modelima tokom njihovog razvoja, regulacija na nivou čitave industrije i globalna regulatorna saradnja. Amodei je istakao da AI tehnologija napreduje „drastično brže“ nego što se očekivalo, uključujući i svoju „sposobnost da gradi sljedeću generaciju AI sistema“.
U eseju je posebno ukazao na incident koji je uključivao rivala OpenAI, čiji su agenti u julu izveli sajber napade na mete koje im nisu bile zadane. Ti agenti su, kako je Amodei opisao, „u suštini djelovali kao fanatično odani kolektiv“. OpenAI je potvrdio incident i saopštio da usporava obuku određenih naprednih AI modela, napominjući da je rizik od nekontrolisanog razvoja AI alata porastao.
Upozorenja na opasnosti dolaze i iznutra – dvojica zaposlenih iz Anthropikovog tima za bezbjednost dala su otkaz u posljednje dvije sedmice, izjavivši da čovječanstvo možda neće preživjeti utrku AI kompanija u razvoju mašina pametnijih od ljudi.
Amodei je pozvao na „izgradnju AI uravnoteženim tempom koji teži osiguranju njene bezbjednosti uz istovremeno postizanje njenih prednosti“. To, kako je naglasio, ne znači zaustavljanje razvoja, već osiguravanje da kompanije imaju dovoljno vremena za usklađivanje i zaštitu svojih modela, kao i da nezavisni evaluatori to potvrde. Anthropic se, rekao je, ovime obavezuje „jednostrano“, ali poziva i vlade da to zahtijevaju od ostalih kompanija.
Osvrnuo se i na konkurenciju s Kinom, naglašavajući da svako usporavanje mora biti koordinisano kako se ne bi ugrozila prednost SAD-a. „Vjerujem da bi nam čak i godinu ili dvije više, iskorišćene za napredak u usklađivanju AI sistema, znatno smanjile rizik od ozbiljnih posljedica“, rekao je Amodei. Pozvao je i američku vladu da spriječi prodaju AI čipova Kini i dijeljenje te tehnologije s autoritarnim državama.
Američki predsjednik Donald Tramp za sada odbacuje takve strahove, izjavivši da ga brine „ako ne pobijedimo u AI utrci, naći ćemo se u vrlo lošem položaju“.