Šef ChatGPT-a: Razvoj najmoćnijeg AI-ja treba usporiti, sigurnost ima svoju cijenu

Dodaj investitor.me među omiljene izvore na Google-u

Sigurnosne provjere i nadzor treba da uspore razvoj najnaprednijih sistema vještačke inteligencije koliko je potrebno da bi ostali pouzdani, poručio je Sam Altman. Kompanije, smatra, moraju djelovati odmah, bez čekanja novih zakona.

Sam Altman, čelnik OpenAI-ja, poručio je da razvoj najmoćnijih sistema vještačke inteligencije treba da bude sporiji nego što je tehnički moguće kako bi sigurnosne provjere i nadzor mogli da prate rast njihovih sposobnosti.

U objavi na društvenoj mreži X naglasio je da konkurentski pritisak ne smije biti opravdanje za nepromišljenost, a da troškovi sigurnosti predstavljaju opravdanu cijenu odgovornog razvoja tehnologije.

„Kada govorimo o usporavanju, ne mislimo na zaustavljanje. Napredak je bio brz i nastaviće da bude brz. Ali trebalo bi da bude sporiji nego što bi inače mogao biti; intervencije poput sigurnosnih procjena i nadzora imaju značajne troškove“, napisao je Altman, čija je kompanija tvorac najpopularnijeg AI chatbota ChatGPT.

Sigurnost mora početi prije završetka modela

Jedna od ključnih poruka objave jeste da provjera AI sistema tek pred njihovo puštanje u upotrebu više nije dovoljna.

Altman navodi da su raniji okviri odgovornog razvoja prvenstveno bili usmjereni na uvođenje već završenih modela u upotrebu. Sada, prema njegovim riječima, pažnju treba proširiti na ono što se dešava tokom samog razvoja.

Kao primjer naveo je da OpenAI unaprijed priprema obrazložene sigurnosne procjene prije pojedinih ciklusa obuke za koje očekuje da će značajno povećati sposobnosti najnaprednijih modela. Te procjene dopunjuju provjere koje kompanija već sprovodi prije objavljivanja novih sistema.

Suština takvog pristupa jeste da se rizici razmatraju prije ključnog povećanja sposobnosti modela, umjesto da se procjenjuju samo kada je proizvod spreman za korisnike.

Kompanije ne treba da čekaju nove zakone

Altman je podržao uspostavljanje saveznog regulatornog okvira u SAD-u koji bi propisao ujednačene sigurnosne zahtjeve za najnaprednije AI sisteme. Kao jednu od korisnih ideja izdvojio je nezavisne revizore.

Ipak, smatra da industrija ne treba da čeka nove zakone ili izuzeća od pravila zaštite konkurencije da bi počela da gradi povjerenje u sigurnost svojih sistema.

Pozvao je druge kompanije da predstave sopstvene pristupe i doprinesu zajedničkim standardima za nadzor, sigurnost i sprečavanje ponašanja AI sistema koje nije usklađeno s ljudskim namjerama.

Prema njegovoj ocjeni, podrška vlada biće posebno potrebna za međunarodnu koordinaciju, ali kompanije prvo treba same da urade ono što mogu.

Konkurentska trka ne opravdava rizik

Za poslovni sektor, Altmanova poruka otvara pitanje odnosa između brzine inovacija i ulaganja u sigurnost. Dodatne provjere zahtijevaju vrijeme i novac, što može usporiti razvoj i izlazak novih sistema na tržište.

On, međutim, smatra da je taj trošak opravdan i da pritisak da američke kompanije ostanu konkurentne ne smije dovesti do toga da sposobnosti modela napreduju brže od mogućnosti njihovog nadzora.

Objava ne sadrži konkretan rok usporavanja, najavu odlaganja određenog proizvoda niti mjerljiv dogovor među kompanijama. Altman iznosi princip: brzinu razvoja najmoćnijih AI sistema treba prilagoditi sposobnosti industrije da ih razvija i provjerava na odgovoran način.

The world deserves confidence that American companies developing increasingly capable AI will act responsibly, especially as the trajectory of progress has steepened. Every frontier lab must deliver on this, and there is no reason any of us should come to work if we cannot.

We…

— Sam Altman (@sama) September 14, 2026