Frontier Model Cost and Open-Weights Popularity is Driving Demand for Model Routing
CEO Gleanu Arvind Jain vysvětluje, proč firmy čím dál více používají model routing – automatický výběr LLM podle úkolu. Glean letos dosáhl 300 milionů dolarů ročního opakovaného příjmu (trojnásobek za 15 měsíců) a je oceněn na 7,2 miliardy dolarů. Podle spoluzakladatele Tonyho Gentilcora je Glean 4x nákladově efektivnější než Claude Code (0,45 USD vs. 1,84 USD za úkol). Firma nasadila i model Waldo, který před voláním drahého frontier modelu filtruje a připravuje podklady, čímž snižuje latenci o 50 % a spotřebu tokenů o 25 %. Za poslední tři měsíce prudce vzrostl zájem podniků o open-weight modely (např. Kimi K2, Qwen3.8-Max) kvůli rostoucím cenám frontier modelů jako Opus či GPT.
Proč to je důležité: Pro české B2B firmy jde o okamžitě využitelnou strategii – kombinace automatického routingu, levnějších open-weight modelů a předfiltrace dotazů může výrazně snížit náklady na nasazení AI napříč zaměstnanci, aniž by klesla kvalita výstupů.