Meta har presenterat en ny AI-accelerator i ett försök att komma ikapp konkurrensen

Av: Bohdan Kaminskyi | 10.04.2024, 20:01

Mariia Shalabaieva/Unsplash

Meta, som vill stärka sin position inom generativ artificiell intelligens, har presenterat nästa generation av sin AI-modellaccelerator, kallad MTIA. Detta är nästa steg i teknikjättens mångmiljardinvestering i att utveckla sin egen hårdvara.

Här är vad vi vet

Den nya MTIA är byggd med en 5nm-process och har fler beräkningskärnor, mer minne och en högre klockhastighet än den tidigare versionen. Meta hävdar att prestandan hos den nya generationens MTIA är tre gånger snabbare, även om man påpekar att denna siffra härrör från testning av endast fyra nyckelmodeller.

Företaget hävdar att kontrollen över hela teknikstacken gör det möjligt för dem att uppnå större effektivitet jämfört med att använda kommersiella GPU:er. Meta medger dock att MTIA inte kommer att ersätta acceleratorer från tredje part, utan kommer att fungera som ett komplement till dem.

Med detta sagt använder företaget ännu inte MTIA för att träna sådana modeller, även om det har "flera program" i den riktningen.

Analytiker noterar att Metas AI-team sannolikt är under stort tryck för att sänka kostnaderna. Företaget har 18 miljarder dollar att spendera på GPU: er i slutet av 2024, så intern chiputveckling kan vara ett attraktivt alternativ.

Under tiden utvecklar och distribuerar Metas konkurrenter som Google, Amazon och Microsoft aktivt sina egna lösningar för att påskynda AI-beräkningar. Detta tvingar jätten inom sociala medier att komma ikapp, trots den relativt snabba övergången från första prototyp till massproduktion av nästa generations MTIA.

Källa: TechCrunch