Amazon tillkännagav Trainium 2- och Graviton 4-chip för träning och körning av AI-modeller

Av: Bohdan Kaminskyi | 29.11.2023, 13:07

Amazon

AWS, Amazons division för molntjänster, har presenterat uppdaterade versioner av sina AI-chips som är utformade för att träna maskininlärningsalgoritmer och sedan distribuera färdiga modeller.

Det här är vad vi vet

Trainium 2-chippet visar en fyrfaldig ökning av prestandan och en tvåfaldig ökning av energieffektiviteten jämfört med den första versionen. Detta kommer att möjliggöra snabbare och billigare träning av neurala nätverk. Anthropic har redan meddelat att man kommer att använda Trainium 2.

Graviton 4-processorn är inriktad på att köra AI-modeller från hyllan. Den utlovar en prestandaökning på 30 % jämfört med sina konkurrenter och lägre strömförbrukning. Detta bör minska molnberäkningskostnaderna för AWS-kunder när de kör AI.


Prototyper av AWS Graviton 4 och AWS Trainium 2

De nya chipen kommer att bli tillgängliga i AWS-molnet under de kommande månaderna. Parallellt kommer Amazon att fortsätta sitt samarbete med NVIDIA.

Källa: Amazon