3-minutové čtení
Tisková zpráva
Bratislava, 3. decembra 2024 – Spoločnosť Tachyum® dnes oznámila, že úspešne overila operácie s celočíselnými maticami na hardvérovom prototype Prodigy® postavenom na programovateľných hradlových poliach (FPGA, Field Programmable Gate Array).
Tím Tachyum testoval a overoval vektorové operácie, 8-bitové integer maticové operácie na klasifikáciu obrázkov pomocou modelu Resnet so špecializovanými konvolučnými a lineárnymi operátormi na Prodigy.
Prodigy od spoločnosti Tachyum bol navrhnutý tak, aby priamo zvládal maticové a vektorové operácie a nie ako dodatočné funkcie. Medzi vektorové a maticové prednosti Prodigy patrí podpora celého radu dátových typov (FP64, FP32, TF32, BF16, Int8, FP8, FP4 a TAI); 2 x 1024-bitové vektorové jednotky na každom jadre; podpora AI sparsity a supersparsity a absencia penalizácie za načítanie alebo ukladanie nezarovnaných vektorov pri prekračovaní riadkov vyrovnávacej pamäte. Táto zabudovaná podpora ponúka vysoký výkon pre tréning umelej inteligencie a záťaže inferencie, zvyšuje výkon a znižuje využitie pamäte.
„Softvérový balík umelej inteligencie spoločnosti Tachyum podporuje aplikácie AI s náročnými výpočtovými požiadavkami bez nutnosti ďalších špeciálnych krokov, nie ako dodatočný prvok, čo radikálne zmení efektivitu a produktivitu AI,“ povedal Dr. Radoslav Danilák, zakladateľ a CEO spoločnosti Tachyum. „Dátové centrá patria k energeticky najnáročnejším zariadeniam na svete a energetická infraštruktúra nedokáže uspokojiť rýchle zavádzanie AI bez platformy, ako je Prodigy, ktorá je schopná efektívne spracovávať AI a navyše štandardné pracovné záťaže.“
Tachyum bude overovať všetky podporované typy údajov. V ďalšom pláne je tento rok overiť maticové operácie pre dátový typ FP8 na hardvérovom prototype Prodigy postavenom na FPGA.
Keďže univerzálny procesor ponúka špičkový výkon pre všetky pracovné zaťaženia, môžu servery dátových centier postavených na Prodigy plynule a dynamicky prepínať medzi výpočtovými doménami (ako sú AI/ ML, HPC a cloud) s jednou architektúrou. Odstránením potreby drahého špecializovaného hardvéru pre AI a výrazným zvýšením využitia serverov, Prodigy signifikantne znižuje CAPEX a OPEX a zároveň poskytuje bezprecedentný výkon, spotrebu a ekonomiku dátového centra. Prodigy integruje 192 vysokovýkonných na mieru navrhnutých 64-bitových výpočtových jadier, čo mu umožňuje dosahovať až 4,5-násobný výkon v porovnaní s najvýkonnejšími x86 procesormi pre cloudové záťaže, a v porovnaní s najvýkonnejším GPU až trojnásobný výkon pre HPC a šesťnásobný výkon pre AI aplikácie.
Video s ukážkou použitia 8-bitových integer maticových operácií na Prodigy FPGA si možno pozrieť nižšie.
https://www.linkedin.com/company/tachyum
https://www.facebook.com/Tachyum/
Spoločnosť Tachyum so svojím vlajkovým produktom Prodigy, prvým univerzálnym procesorom na svete, transformuje ekonomiku pracovných záťaží v oblasti umelej inteligencie (AI), vysokovýkonných výpočtov (HPC) a verejných i súkromných dátových centier. Prodigy spája funkcie CPU, GPGPU a TPU do jediného procesora, aby poskytoval špičkový výkon pri najnižších nákladoch a spotrebe energie pre špeciálne aj univerzálne výpočty. Keďže emisie svetových dátových centier naďalej prispievajú k zmene klímy a podľa prognóz budú spotrebovávať 10 percent elektrickej energie na svete do roku 2030, procesor Prodigy s veľmi nízkou spotrebou energie je v pozícii pomôcť vyvážiť globálny dopyt po výpočtovom výkone pri nižšej environmentálnej záťaži. Tachyum prijala významnú objednávku od americkej spoločnosti na vybudovanie rozsiahleho systému, ktorý poskytne počítačový výkon viac ako 50 exaflopov, čo exponenciálne prevýši výpočtovú kapacitu najrýchlejších superpočítačov pre inferenciu alebo generatívnu AI, ktoré sú dnes dostupné kdekoľvek na svete. Po dokončení v roku 2026 bude systém postavený na čipoch Prodigy poskytovať 25-násobný multiplikátor v porovnaní so svetovo najrýchlejším konvenčným superpočítačom, ktorý bol postavený iba tento rok, a bude dosahovať 25 000-krát väčšiu kapacitu pre AI ako modely pre ChatGPT4. Spoločnosť Tachyum má pobočky v Spojených štátoch, na Slovensku a v Česku. Pre viac informácií navštívte https://www.tachyum.com/.