Výrazne viac zdrojov pre AI
Tachyum s platformou Prodigy ATX robí umelú inteligenciu prístupnou pre všetkých
AI subsystém čipu Prodigy je od základov vytvorený tak, aby poskytoval špičkové funkcie umelej inteligencie. Tie riešia vznikajúci dopyt po umelej inteligencii naprieč širokou škálou aplikácií a pracovných záťaží. Subsystém zahŕňa inovatívne funkcie, ktoré poskytujú vysoký výkon a efektivitu vyžadovanú od prostredí umelej inteligencie. Biela kniha ukazuje, ako môže jediný systém Prodigy s jedným terabajtom (TB) pamäte spustiť model ChatGPT4 s 1,7 biliónmi parametrov, zatiaľ čo na prevádzku rovnakého modelu je potrebných 52 GPU NVIDIA H100 pri výrazne vyšších nákladoch a spotrebe energie.
Keďže veľké jazykové modely (Large Language Model, LLM) sú náročné na pamäťovú kapacitu, určenie veľkosti pamäte pre LLM je rozhodujúce. Rovnako dôležité je použitie najnovšej technológie, ktorá optimalizuje pamäťovú náročnosť pre najmodernejšie LLM, ktoré môžu mať bilióny parametrov. Prodigy ťaží zo svojho pokročilého subsystému AI, ktorý podporuje špičkové dátové typy, ako sú 4-bitové TAI (Tachyum AI) a efektívne 2-bitové váhy s FP8 (8-bitová reprezentácia s pohyblivou desatinnou čiarkou) na aktiváciu, čo výrazne znižuje pamäťovú stopu potrebnú pre LLM. Zistite viac o platforme prodigy ATX v našej bielej knihe.
Zlepšenie výkonu AI pre širokú škálu odvetví
Licencovateľné jadro TPU® prináša vysokovýkonnú AI do akéhokoľvek zariadenia
Jadro TPU (Tachyum Processing Unit) spoločnosti Tachyum založené na procesore Prodigy sa bude predávať ako hardvérové IP jadro podliehajúce licencii, ktoré bude umožňovať priame začlenenie vysokovýkonných funkcií AI do Edge Computingu a IoT produktov za veľmi nízku cenu.
IoT produkty budú mať zabudovanú vysokovýkonnú AI inferenciu na čipe, optimalizovanú pre využitie trénovania AI na báze procesora Prodigy buď z cloudu, alebo domácej kancelárie.