Izstop iz ekosistema Nvidia: OpenAI izdaja nov programski model GPT-5.3-Codex-Spark, hitrost do 1000 žetonov na sekundo

OpenAI je pravkar izdal nov programski model, ki teče na čipu velikosti krožnika in lahko izpljune več kot 1000 žetonov na sekundo.

Ime mu je GPT-5.3-Codex-Spark. To je prvič, da je OpenAI popolnoma izstopil iz ekosistema Nvidia in programski model namestil na lastno razvito strojno opremo.

Ključni parametri

• Hitrost sklepanja: 1000+ tokens/sekundo
• Latenca: Latenca prvega žetona je samo 50 ms
• Poraba energije: Približno 100 W (enako žarnici)
• Programske sposobnosti: Osredotočen na generiranje in razumevanje kode

Arhitektura strojne opreme

Ta čip uporablja popolnoma novo arhitekturno zasnovo, optimizirano za sklepanje modelov Transformer. V primerjavi s tradicionalnimi GPU-ji se je učinkovitost pri obdelavi avtoregresivnih generativnih nalog znatno izboljšala.

Primerjava zmogljivosti

V primerjavi s podobnimi modeli GPT-5.3-Codex-Spark kaže neverjetno prednost v hitrosti pri nalogah generiranja kode, hkrati pa ohranja visoko kakovost kode.

Scenariji uporabe

• Dopolnjevanje kode v realnem času
• Inteligentni pregled kode
• Avtomatizirano generiranje testov
• Predlogi za refaktoriranje kode

Pomen

To pomeni, da je OpenAI uradno vstopil v fazo konkurence, ki združuje programsko in strojno opremo. Neodvisnost od Nvidiinih GPU-jev pomeni nižje stroške, večjo učinkovitost in popoln nadzor nad dobavno verigo.

Za razvijalce to pomeni, da bodo pomočniki za programiranje z umetno inteligenco postali hitrejši, cenejši in bolj razširjeni.