Výrazně více zdrojů pro AI
Tachyum s platformou Prodigy ATX činí umělou inteligenci přístupnou pro všechny
AI subsystém čipu Prodigy je od základů vytvořen tak, aby poskytoval špičkové funkce umělé inteligence. Ty řeší vznikající poptávku po umělé inteligenci napříč širokou škálou aplikací a pracovních zátěží. Subsystém zahrnuje inovativní funkce, které poskytují vysoký výkon a efektivitu vyžadovanou od prostředí umělé inteligence. Bílá kniha ukazuje, jak může jediný systém Prodigy s jedním terabajtem (TB) paměti spustit model ChatGPT4 s 1,7 bilionu parametrů, zatímco k provozu stejného modelu je zapotřebí 52 GPU NVIDIA H100 při výrazně vyšších nákladech a spotřebě energie.
Protože velké jazykové modely (Large Language Model, LLM) jsou náročné na paměťovou kapacitu, určení velikosti paměti pro LLM je rozhodující. Stejně důležité je použití nejnovější technologie, která optimalizuje paměťovou náročnost pro nejmodernější LLM, která mohou mít biliony parametrů. Prodigy těží ze svého pokročilého subsystému AI, který podporuje špičkové datové typy, jako jsou 4bitové TAI (Tachyum AI) a efektivní 2bitové váhy s FP8 (8bitová reprezentace s pohyblivou desetinnou čárkou) k aktivaci, což výrazně snižuje paměťovou stopu potřebnou pro LLM.
Zjistěte více o platformě Prodigy ATX v naší bílé knize.
Zlepšení výkonu AI pro širokou škálu odvětví
Licencovatelné jádro TPU® přináší vysoce výkonnou AI do jakéhokoli zařízení
Jádro TPU (Tachyum Processing Unit) společnosti Tachyum založené na procesoru Prodigy se bude prodávat jako hardwarové IP jádro podléhající licenci, které bude umožňovat přímé začlenění vysoce výkonných funkcí AI do Edge Computingu a IoT produktů za velmi nízkou cenu.
IoT produkty budou mít zabudovanou vysokovýkonnou AI inferenci na čipu, optimalizovanou pro využití trénování AI na bázi procesoru Prodigy buď z cloudu, nebo domácí kanceláře.