Microsoft presenterar egna chip för artificiell intelligens för att undvika beroende av NVIDIA

Av: Bohdan Kaminskyi | 15.11.2023, 22:13

Microsoft

Microsoft har utvecklat sina egna Maia 100- och Cobalt 100-chip för generativ AI-utbildning och molnberäkning. I framtiden kommer de nya produkterna att minska beroendet av dyra NVIDIA GPU:er.

Det här är vad vi vet

Azure Cobalt-processorn är ett 128-kärnigt chip baserat på Arm Neoverse CSS-design. Den är utformad för att fungera med Azures delade molntjänster.

Microsoft testar för närvarande Cobalt 100 på arbetsbelastningar som Microsoft Teams och SQL Server. Nästa år planerar man att förse kunderna med virtuella maskiner för olika arbetsbelastningar.

Microsofts Maia 100-accelerator är utformad för att köra molnbaserade AI-arbetsbelastningar som träning och utmatning av stora språkmodeller. Chipet är tillverkat med TSMC:s 5nm-process och innehåller 105 miljarder transistorer.

Maia 100 testas för närvarande på GPT 3.5 Turbo, samma modell som ChatGPT, Bing AI och GitHub Copilot körs på. En fullfjädrad lansering kommer också nästa år.

Microsoft befinner sig i ett tidigt skede av lanseringen av processorerna, så man avslöjar inte exakta specifikationer eller riktmärken för prestanda.

Källa: The Verge