Meta och Qualcomm samarbetar för att lansera stora språkmodeller på telefoner

Av: Bohdan Kaminskyi | 19.07.2023, 12:16
Meta och Qualcomm samarbetar för att lansera stora språkmodeller på telefoner

Qualcomm och Meta har meddelat att från och med 2024 kommer den storskaliga språkmodellen Llama 2 att köras på Qualcomm-chip i telefoner och datorer.

Här är vad vi vet

Lanseringen av språkmodeller på mobila processorer kommer att göra det möjligt för AI-applikationer som röstassistenter att köras direkt på enheter istället för i molnet. Detta kan minska kostnaderna och förbättra prestandan för sådana system.

Llama 2 är en open source-modell som gör ungefär samma sak som GPT-4 eller PaLM-2. Samtidigt kan den paketeras i en mindre applikation för att köras på en telefon. Qualcomm kommer att göra den tillgänglig på sina enheter som har en dedikerad processor för artificiell intelligens.

Företagen har tidigare haft ett nära samarbete kring chip för virtuell verklighet. Qualcomm har också demonstrerat vissa AI-modeller på sina processorer, till exempel bildgeneratorn Stable Diffusion.

Gå djupare:

Källa: CNBC.