Firma predstavila akcelerátor Gaudi 3 pre umelú inteligenciu a tvrdí, že prekonáva NVIDIA H100.
Intel začal svoju konferenciu Vision 2024 predstavením čipu Gaudi 3 na spracovanie umelej inteligencie. Ten je určený na akceleráciu pracovných záťaží AI na podnikovej úrovni a výrobca predpokladá, že je rýchlejší ako súčasný priemyselný benchmark – grafický procesor H100 od NVIDIA. Gaudi 3 využíva rovnakú architektúru a základné princípy ako Gaudi 2, ale používa 5 nm proces TSMC (v porovnaní so 7 nm procesom TSMC v Gaudi 2), vďaka čomu je efektívnejší. Gaudi 3 má až 128 GB HBM2e so šírkou pásma 3,7 TB/s a 900W TDP.
Spoločnosť ukázala benchmarky porovnávajúce Gaudi 3 s lídrom na trhu, NVIDIA a jej GPU H100, na ktorých bežali rôzne modely veľkých jazykov, ako napríklad LLAMA2-7B, LLAMA2-13B a GPT 3-175B. Gaudi 3 je až 1,7× rýchlejší. Intel tiež tvrdí, že Gaudi 3 je až 2,3-krát energeticky úspornejší ako H100. Výrobca už poslal partnerom sample modely Gaudi 3 so vzduchovým chladením, pričom všeobecná dostupnosť bude nasledovať v treťom štvrťroku. Jednotky chladené kvapalinou prídu na trh vo 4. štvrťroku.