🛎️ Token Costs Slashed 35x
Nvidia oznámila plnou výrobu čipu Groq 3 LPX, prvního čipu vzniklého z loňské akvizice startupu Groq za 20 miliard dolarů. Odpověď o délce 5000 tokenů, která dříve trvala 50 sekund, nyní trvá 1,5 sekundy, což odpovídá 35násobnému snížení nákladů na generování tokenů. Prvním cloudovým zákazníkem čipu je Nebius. Nižší latence odstraňuje čekání jako hlavní překážku u AI agentů, kteří potřebují deset a více kroků uvažování.
Proč to je důležité: Pro firmy to znamená, že agentní workflow a produkty, které byly dosud kvůli ceně a latenci nerentabilní, se najednou stávají ekonomicky proveditelné – jde o reálný posun v infrastruktuře dostupný už nyní, ne jen o hype.