Amazon kunngjorde Trainium 2 og Graviton 4-brikker for trening og kjøring av AI-modeller

Amazon

AWS, Amazons nettskyavdeling, har avduket oppdaterte versjoner av sine AI-brikker som er utviklet for å trene opp maskinlæringsalgoritmer og deretter distribuere ferdige modeller.

Dette er hva vi vet

Trainium 2-brikken viser en firedobling av ytelsen og en todobling av energieffektiviteten sammenlignet med den første versjonen. Dette vil gjøre det mulig å trene opp nevrale nettverk raskere og billigere. Anthropic har allerede kunngjort bruken av Trainium 2.

Graviton 4-prosessoren er fokusert på å kjøre standard AI-modeller. Den lover en ytelsesøkning på 30 % i forhold til sine konkurrenter, samtidig som den bruker mindre strøm. Dette skal redusere kostnadene for AWS-kunder når de kjører AI i skyen.

Prototyper av AWS Graviton 4 og AWS Trainium 2

De nye brikkene vil bli tilgjengelige i AWS-skyen i løpet av de kommende månedene. Samtidig vil Amazon fortsette samarbeidet med NVIDIA.

Kilde: Amazon