NVIDIA presenterar nytt flaggskeppschip H200 för artificiell intelligens

NVIDIA

NVIDIA företaget meddelade lanseringen av en ny topp chip för artificiell intelligens uppgifter - H200, som kommer att ersätta den knappa accelerator H100.

Här är vad vi vet

Externt skiljer sig H200 inte mycket från sin föregångare. Den viktigaste uppdateringen är dock i minnet - det nya chipet använder snabbare och högre kapacitet HBM3e-typ.

Tack vare detta har minnesbandbredden ökat till 4,8 Tbyte/s jämfört med 3,35 Tbyte/s i H100. Den totala kapaciteten har ökat från 80GB till 141GB.

NVIDIA hävdar att det nya chipet ger nästan dubbelt så hög prestandaökning i generativa AI-uppgifter jämfört med H100. Utvärderingen baseras på tester av språkmodellerna GPT-3 och Llama 2.

H200 är helt kompatibel med befintliga system som stöder H100. Molndivisionerna hos Amazon, Google, Microsoft och Oracle kommer att vara bland de första att erbjuda de nya chipen till sina kunder.

De första leveranserna av de nya chipen förväntas under det andra kvartalet 2024. Kostnaden är okänd, men enligt medieuppgifter säljs H100 för mellan 25 000 och 40 000 dollar.

Tillkännagivandet kom mitt i en brist på NVIDIA:s AI-chip. Nästa år planerar företaget att öka produktionen av H100, som fortfarande är efterfrågad bland AI-utvecklare.

Källa: NVIDIA