Token je malý úsek textu nebo jiných dat, který model zpracovává při vstupu a generuje na výstupu. Zpráva o více než 500 bilionech tokenů denně v čínských systémech AI působí jako měřítko náhlé exploze. Číslo však nelze číst jako počet uživatelů, dotazů ani důkaz inteligence. Jeden dlouhý dokument nebo agent, který model volá opakovaně, může spotřebovat násobně více tokenů než běžný rozhovor.
Prudký růst ukazuje přechod od jednorázových chatů k systémům zabudovaným ve firmách a zařízeních. Agent nejprve rozloží úkol, vyhledá data, zavolá několik nástrojů, zkontroluje výsledek a teprve potom odpoví. Každý krok přidává kontext i výstup. U milionů pracovních postupů se výpočet násobí, přestože uživatel vidí jedinou větu.
Čínské ministerstvo průmyslu uvedlo, že inteligentní výpočetní kapacita země dosáhla do poloviny roku 2026 hodnoty 2 185 EFLOPS a existovalo 52 zařízení s více než deseti tisíci akcelerátory. EFLOPS vyjadřuje teoretický počet operací za sekundu v určité přesnosti; údaje různých zemí nebo typů čipů se bez metodiky nedají jednoduše sečíst. Instalovaná kapacita také není totéž co efektivně využitý výkon.
Datacentrum může mít drahé čipy a přesto čekat na data, síť nebo paměť. Důležitá je vytíženost, propustnost a doba odezvy konkrétní služby. Provozovatel proto skládá požadavky do dávek, ukládá opakované výsledky do cache a směruje jednoduché úlohy na menší modely. Nejvýkonnější model použitý na každý překlad nebo klasifikaci by plýtval kapitálem i energií.
Efektivitu lze zlepšit kvantizací, sparsitou, spekulativním dekódováním a destilací. Tyto techniky snižují přesnost čísel, počet aktivních parametrů nebo využívají menší model k návrhu výstupu. Každá optimalizace může změnit kvalitu, takže musí být testována na konkrétní práci. Úspora tokenů nemá smysl, pokud systém vyrobí více chyb a lidé vše opravují ručně.
Energie se spotřebovává nejen při tréninku, ale každým dotazem. Inference velkého modelu běžící nepřetržitě může během jeho života převážit jednorázový trénink. K tomu se přidává chlazení a síťový přenos. Uvádět jednu univerzální hodnotu energie na token by bylo nepřesné; závisí na modelu, hardwaru, dávkování, délce kontextu a lokalitě datacentra.
Čína přesouvá část výpočetní infrastruktury do oblastí s dostupnější energií a propojuje ji dálkovými datovými trasami. To pomáhá tréninku a úlohám, které snesou zpoždění. Interaktivní služba nebo řízení robota potřebuje výpočet blíž uživateli. Architektura proto kombinuje velká vnitrozemská centra, regionální cloudy a edge zařízení.
Růst spotřeby vytváří tlak na elektrickou síť a vodní zdroje, zároveň může podporovat flexibilní odběr a výstavbu nízkoemisních zdrojů. Provozovatel by měl zveřejňovat skutečnou energii, uhlíkovou intenzitu a spotřebu vody podle místa a času, ne jen nákup certifikátů. Hardware musí být navržen také s ohledem na opravu a životnost, protože rychlé generační obměny vytvářejí elektronický odpad.
Počet tokenů bude dál růst, ale neměl by být cílem. Je podobný počtu ujetých kilometrů: popisuje aktivitu, ne její užitek. Dospělá AI ekonomika bude měřit správně dokončenou práci, chyby, čas člověka a energii na výsledek. Čína díky měřítku ovlivní globální ceny čipů, elektřiny i standardy datacenter. Rozhodující konkurenční výhodou nebude nejvyšší počet tokenů, ale schopnost získat z každého wattu ověřitelnou hodnotu.
